Thought Leadership
TrollWall AI hat sich zur Aufgabe gemacht, soziale Medienprofile vor Hassreden und Angriffen durch Internet-Trolle zu schützen. Jetzt hat das slowakische Start-up seine Expansion nach Deutschland bekannt gegeben. Seit März 2024 steht das Angebot im deutschsprachigen Raum zur Verfügung.
Die Kernfunktion von TrollWall AI besteht darin, Echtzeit-KI-Technologien einzusetzen, um Trollverhalten auf Social-Media-Profilen zu identifizieren und zu unterbinden. Das von der Firma angebotene Werkzeug zeichne sich nach eigenen Angaben durch seine Fähigkeit aus, Hassäußerungen durch Analyse des sprachlichen Kontexts und der Nutzung von Emoticons zu erkennen.
Durch den Einsatz fortschrittlicher Algorithmen sei die Software in der Lage, Kommentare zu identifizieren, die “beleidigend, xenophob, sexistisch oder auf andere Weise gewalttätig” sind. Benutzer haben zudem die Möglichkeit, den Erkennungsmechanismus des Tools durch Hinzufügen spezifischer Schlüsselwörter zu personalisieren. Kommentare, die als unangemessen erkannt werden, werden von TrollWall AI automatisch verborgen, sodass sie für andere Nutzer unsichtbar bleiben.
Die Möglichkeit, unerwünschte Kommentare auszublenden, könne maßgeblich zum Schutz des Ansehens von Firmen und Institutionen beitragen, indem es den sichtbaren Schaden durch gezielte Trollattacken minimiert. Durch das automatische Ausblenden von Hasskommentaren werde zudem die Moderationsarbeit erleichtert, da Moderatoren sich nicht länger mit der manuellen Entfernung dieser Inhalte beschäftigen müssen.
TrollWall AI sei nach eigenen Angaben bereits erfolgreich in mehreren Ländern gewesen, darunter Polen, in der Tschechischen Republik und der Slowakei. In der Tschechischen Republik trug das Tool demnach zum Schutz der Wahlkampagne von Präsident Petr Pavel bei, indem es die Anzahl der Hasskommentare auf seinem Profil um 98% reduzierte. Das System finde ebenfalls Anwendung im Präsidentenpalast von Zuzana Čaputová, der ersten Frau im Amt der slowakischen Präsidentschaft.
(lbr/trollwall.ai)
