Fraunhofer-Gesellschaft

Publica

Hier finden Sie wissenschaftliche Publikationen aus den Fraunhofer-Instituten.

Automatisierte Analyse Radikaler Inhalte im Internet

 
: Vogel, Inna; Regev, Roey; Steinebach, Martin

:

David, K. ; Gesellschaft für Informatik -GI-, Bonn:
Informatik 2019. 50 Jahre Gesellschaft für Informatik - Informatik für Gesellschaft : Fachtagung vom 23.-26. September 2019, Kassel, CD-ROM
Bonn: GI, 2019 (GI-Edition - Lecture Notes in Informatics (LNI). Proceedings 294)
ISBN: 978-3-88579-688-6
ISBN: 3-88579-688-0
pp.233-245
Gesellschaft für Informatik (GI Fachtagung) <2019, Kassel>
German
Conference Paper
Fraunhofer SIT ()

Abstract
Rassismus, Antisemitismus, Sexismus und andere Diskriminierungs- und Radikalisierungsformen zeigen sich auf unterschiedliche Arten im Internet. Es kann als Satire verpackt sein oder als menschenverachtende Parolen. Sogenannte Hassrede ist für die Kommunikationskultur ein Problem, dem die betroffenen Personen oder Personengruppen ausgesetzt sind. Zwar gibt es den Volksverhetzungsparagraphen (§ 130 StGB), Hassrede liegt allerdings nicht selten außerhalb des justiziablen Bereichs. Dennoch sind hasserfüllte Aussagen problematisch, da sie mit falschen Fakten Gruppierungen radikalisieren und Betroffene in ihrer Würde verletzen. 2017 stellte die Bundesregierung das Netzwerkdurchsetzungsgesetz vor, welches die sozialen Netzwerke dazu zwingt, Hassrede konsequent zu entfernen. Ohne eine automatisierte Erkennung ist dieses aber nur schwer möglich. In unserer Arbeit stellen wir einen Ansatz vor, wie solche Inhalte mithilfe des maschinellen Lernens erkannt werden können. Hierfür werden zunächst die Begriffe Radikalisierung und Hate Speech sprachlich eingeordnet. In diesem Zusammenhang wird darauf eingegangen wie Textdaten bereinigt und strukturiert werden. Anschließend wird der k-Nearest-Neighbor-Algorithmus eingesetzt, um Hate Speech in Tweets zu erkennen und zu klassifizieren. Mit unserem Vorgehen konnten wir einen Genauigkeitswert von 0,82 (Accuracy) erreichen - dieser zeigt die Effektivität des KNN-Klassifikationsansatzes.

: http://publica.fraunhofer.de/documents/N-569607.html