Dem ÖIAT ist es in einem gemeinsamen Forschungsprojekt unter der Leitung des AIT (Center for Digital Safety and Security) gelungen, Fake Shops im Internet mittels künstlicher Intelligenz (KI) zu erkennen. Der Fake Shop-Detektor funktioniert als Plug-In, analysiert den Quellcode eines Shops und meldet unverzüglich, ob dieser vertrauenswürdig ist oder nicht
DETECT
Echtzeitschutz gegen Fake-Shops durch Community-Driven AI

DETECT

Förderjahr 2020 / Project Call #15 / ProjectID: 5083

Als Team haben wir nach zwei Jahren erfolgreich ein Browser-Plugin zur Fake-Shop Detektion mittels AI zum Echtzeitschutz für Konsument:innen entwickelt. Ziel von DETECT war es, das Tool mittels Gamification zu einem Community Tool werden zu lassen, das beim Aufdecken von Internetbetrug unterstützt.

Konsument:innen werden durch das Browser-Plugin aktiv vor betrügerischen eCommerce Seiten geschützt. Interessierte User:innen werden über ihr Engagement und über die Nutzung des Tools zu wertvollen Agenten in der Prävention und Aufdeckung von Kriminalität im Online-Handel. Relevante Behörden und Interessensvertreter:innen erhalten frühzeitig Warnmeldungen und können Aufgaben an die Community delegieren.

Unschlagbar günstige Angebote, professioneller Web-Auftritt – aber keine Ware. Fake-Shops versuchen Verbraucher:innen zu täuschen und schaden dem Image seriöser Online-Händler. Internetbestellbetrug hat 2019 einen historischen Höchststand erreicht (+32,3%). Bei der österr. Meldestelle gingen über 10.500 Meldungen ein. Oftmals fehlen jedoch wichtige Details über den Bestellprozess (zB Kontodaten) und Ablauf des Betrugs die im Nachhinein nicht mehr erhoben werden können. Dies hemmt die Aufklärung. 

Durch Gamification werden User:innen zu Aufgaben angeleitet. Sie werden gebeten den Überprüfungsprozess durch Beantwortung von simplen Fragen und Dokumentation von Informationen zu begleiten. Die daraus entstehende, solide Datenbasis trägt zu einem verbesserten UX Erlebnis für alle User:innen bei, unterstützt die Arbeit der Expert:innen und verstärkt die Robustheit der darauf aufbauenden AI Modelle.

Im Laufe des Projekt wurde erfolgreich ein Spiel zur Detektion von Fake-Shops entwickelt. Zur Unterstützung der Künstlichen Intelligenz im Fake-Shop Detector (www.fakeshop.at) werden User:innen aufgefordert die automatisierten Einschätzungen der KI zu überprüfen. Spielerisch gehen sie dafür auf eine Reise im Weltall und werden langsam in die Welt der Betrugspräventions-Expert:innen eingeführt, indem sie lernen betrügerische Piratenlager (Fake-Shops) von legitimen Handelsposten (seriöse Onlineshops) zu unterscheiden. Die Spieler:innen werden in “Homebase-Trainings” auf die jeweiligen Herausforderungen vorbereitet, sie lernen über Gütezeichen, sichere Bezahlmethoden, unseriöse Schnäppchen, Onlinebewertungen und die Funktionsweise der KI, die hinter dem Fake-Shop Detector steht. Die aufgeklärte Einbindung der User:innen in den Prozess der Qualitätssicherung geht einher mit der Einführung in sicheres Onlineshopping und Erläuterungen zu der Funktionsweise von Künstlicher Intelligenz. Neben der Unterstützung in der Qualitätssicherung der Datenbasis durch die Einbindung der Community, werden Kernkompetenzen im Verständnis von KI vermittelt.

Projektergebnisse

Studie | Bericht | Konzept CC-BY

Bericht zu den Ergebnissen zweier Gamification Workshops, im Rahmen des Projektes DETECT. Das Ziel des Projekts ist es, ein gut designtes Spiel als Prototyp sowie andere Gamification-Elemente umzusetzen, die dazu beitragen die Fake-Shop Erkennung duch Künstliche Intelligenz zu verbessern und die Watchlist Internet beim Vorgehen gegen Online-Betrug im E-Commerce unterstützen.

Zwischenbericht CC-BY

Zwischenbericht

Entwicklerdoku CC-BY

Dieser Technical Guide beschreibt die Installation und Architektur der DETECT Anwendung "Fake-Shop Explorer. Die Dokumentation beschreibt die Schritte die zum Aufsetzen der Entwicklungsumgebung und Setup der Komponenten benötigt werden und bietet Hilfestellung um die Applikation nach Ende des DETECT Projektes als Open Source Projekt weiterentwickeln zu können. This guide explains how to set up, develop, and deploy the DETECT application "Fake-Shop Explorer". Fake-Shop Explorer is a prototype of a browser-based gamified crowd-sourcing application (i.e. a game) that collects user/player input on potential fake shops. Fake-Shop Explorer has been developed and tested on Ubuntu 20.04.4 LTS (native and WSL Windows Subsystem for Linux) for use in Firefox and Chrome.

Code

Public Repository of the Open Source Application "Fake-Shop Explorer"

Summary CC-BY

Summary Fake-Shop Explorer

Website

Der Fake-Shop Detector warnt Sie rechtzeitig vor betrügerischen Angeboten, direkt in Ihrem Internetbrowser

Blogbeiträge

Datenschutzinformation
Der datenschutzrechtliche Verantwortliche (Internet Privatstiftung Austria - Internet Foundation Austria, Österreich) würde gerne mit folgenden Diensten Ihre personenbezogenen Daten verarbeiten. Dies ist für die Nutzung der Website nicht notwendig, ermöglicht aber eine noch engere Interaktion mit Ihnen. Falls gewünscht, treffen Sie bitte eine Auswahl: