Algorithmus erkennt Trolle nach fünf Kommentaren

"Trolle" in Foren oder sozialen Netzwerken wie Youtube, Facebook und Twitter stören Diskussionen mit unsachlichen, provokanten und auch beleidigenden Kommentaren. Ein neuer Algorithmus soll Trolle bereits nach fünf Kommentare entlarven, berichtet die britische Webseite The Guardian.

Demnach haben Forscher der Universität Cornell und Stanford nach 18-monatiger Untersuchungen herausgefunden, dass Internet-Trolle auf eine bestimmte Art und Weise kommentieren: Zum einen verwenden sie weniger positive Wörter, zum anderen weist ihr Wortschatz auch weniger Gemeinsamkeiten mit denen der anderen Diskussionsteilnehmer auf. Zudem sind ihre Kommentare im Vergleich schwerer zu lesen. Auch halten sie sich in einzelnen Foren-Threads länger auf als der gewöhnliche Nutzer.

Mit den gesammelten Informationen haben die Forscher ein Modell entwickelt, dass mit einer Wahrscheinlichkeit von 80 Prozent basierend auf den fünf ersten Beiträgen eines Nutzers voraussagt, ob dieser sich in Zukunft als Troll entpuppt und gebannt wird.

Als Grundlage der Studie dienten mehr als 35 Millionen Posts von fast 2 Millionen Nutzern auf den überwachten Webseiten CNN, Breitbart und IGN. Rund 50.000 Nutzer – die mutmaßlichen Trolle – wurden dabei während des Testzeitraums von Moderatoren gebannt und deren Verhalten genauer untersucht.

Ein negativer Kommentar eines verärgerten Nutzers, muss diesen allerdings noch lange nicht zum Troll machen. Auch die Forscher warnen vor einem Einsatz automatisch agierender Troll-Erkennungssysteme. Es wäre daher wohl besser, wenn der Algorithmus Moderatoren über potentielle Trolle nur informiert. Denn ein zu unrecht gebannter kritischer Nutzer ist für ein soziales Netzwerk oder Forum nicht sehr förderlich. Außerdem bleibt zu bedenken: Sofern Google einen Troll-Erkennungs-Algorithmus tatsächlich integrieren würde, wäre der Kommentar-Bereich von Youtube vermutlich so gut wie leer gefegt.