In den vergangenen Wochen haben wir uns intensiv mit der sicheren und datenschutzkonformen Umsetzung der Hinweisbox beschäftigt. Ein besonderer Fokus lag dabei auf der Balance zwischen dem Schutz anonymer Whistleblower:innen und der Verhinderung missbräuchlicher Nutzung verschlüsselter Kommunikationskanäle.

Als ECPAT beschäftigen wir uns täglich mit Fällen sexualisierter Gewalt gegen Kinder sowie der Verbreitung entsprechender Inhalte, wie Missbrauchsdarstellungen, im Internet. Daher war es uns besonders wichtig Maßnahmen zu setzen, um zu verhindern, dass die Hinweisbox nicht zur Verbreitung illegaler Inhalte missbraucht werden kann.

Im Zuge dessen haben wir uns mit internationalen Kinderschutzorganisationen vernetzt und uns mit mehreren technischen Lösungsansätzen auseinandergesetzt. Besonders relevant war dabei das Canadian Centre for Child Protection mit dem System Project Arachnid, dem wir uns angeschlossen haben. Die Plattform arbeitet mit sogenannten Hashwerten – digitalen Fingerabdrücken bekannter Missbrauchsdarstellungen (child sexual abuse material CSAM) – um bereits identifizierte illegale Inhalte automatisiert erkennen zu können, ohne dass Dateien manuell geöffnet oder angesehen werden müssen.

Das System ermöglicht einen Abgleich mit der Arachnid Datenbank, welche Hashwerte von bekannten CSAM-Inhalten enthält. Dadurch können bereits bekannte illegale Inhalte frühzeitig erkannt und blockiert werden. 

Für die technische Umsetzung der Hinweisbox bedeutet das konkret:

Whistleblower:innen können Hinweise weiterhin anonym über einen individuellen Meldelink einreichen. Hochgeladene Dateien werden bereits vor dem Upload verschlüsselt und liegen zu keinem Zeitpunkt unverschlüsselt auf dem Server vor.

Werden Bild- oder Videodateien hochgeladen, wird zusätzlich ein Hashwert der Datei übertragen (bei Bildern beispielsweise PDQ-Hashes, bei Videos MD5-basierte Verfahren). Dieser Hash wird automatisiert mit den Datenbanken von Project Arachnid abgeglichen. Ergibt sich dabei ein Hinweis auf bereits bekannte CSAM-Inhalte, wird die Datei unmittelbar verworfen und nicht zur weiteren Verarbeitung oder Entschlüsselung gespeichert.

Wichtig dabei ist: Vereinsadministrator:innen oder Bearbeiter:innen erhalten keinen Zugriff auf mögliche illegale Inhalte. Stattdessen wird ausschließlich technisch protokolliert, dass ein entsprechender Treffer erkannt und die Datei automatisiert entfernt wurde.

Durch diese Architektur können wir sowohl den Schutz anonymer Hinweisgeber:innen als auch hohe Anforderungen im Bereich Kinderschutz, Compliance und Plattformverantwortung miteinander verbinden.