Neural Networks for Countering German Online-Hate

Drohungen, Beleidigungen, Hetze und hasserfüllte Postings – sie zählen zu den größten Problemen welche die voranschreitende Digitalisierung mit sich bring. Die „User-generierte Gegenrede“ (Counterspeech) durch Nutzer:innen zeigt großes Potential, um gegen Hass im Internet zu agieren. Im Rahmen der Arbeit soll eine Methode basierend auf Algorithmen des Maschine auf Learning verwendet werden, die es schafft deutsche Hasspostings sowie deren Gegenrede zu detektieren und die dahinter stehenden Verfasser:innen der Gegenrede aktiv zu unterstützten. Die Klassifikations-Entscheidungen solcher Algorithmen sind für den Menschen oftmals nicht erklärbar und/oder nachvollziehbar. Auf Grund dessen ist es Ziel der Arbeit, einen Detektor für deutsche Gegenrede zu entwickeln der nicht nur die Gegenrede selbst im Netz findet, sondern auch für den Menschen verständlich aufzeigt, welche Aspekte des Beitrags den verwendeten Algorithmus dazu bewegen einen Beitrag als Gegenrede zu klassifizieren.