Facebook-Seite des Staatsanzeigers: Wie die KI den Hass rausfiltert
Hass im Netz: Bis zu 3000 Kommentare am Tag erreichen die Facebook-Seite des Staatsanzeigers – ein erheblicher Teil davon ist nicht nur unsachlich, sondern strafrechtlich relevant.
imago stock&people, via www.imago-images.de)Stuttgart . Es ist Montagmorgen, kurz nach sieben. Auf der Facebook-Seite des Staatsanzeigers sind über Nacht 847 Kommentare eingegangen. Unter einem Beitrag zur Migrationsdebatte hat sich ein digitaler Mob versammelt. „Alle an die Wand stellen“, schreibt einer. „Merkel an den Galgen“, ein anderer. Dazwischen Ekel-Emojis, Links zu rechtsextremen Seiten, Gewaltfantasien, die man lieber nicht laut vorlesen möchte.
Zwischen 2000 und 3000 Kommentare erreichen den Staatsanzeiger momentan an einem normalen Tag. Ein relevanter Anteil davon ist nicht einfach nur unfreundlich oder unsachlich. Er ist strafrechtlich relevant.
Mordaufrufe zwischen Frühstück und Mittagspause
Gewaltverherrlichung. Aufrufe zum Mord. Volksverhetzung. Übelste Beleidigungen gegen Politiker, gegen Journalisten, gegen andere Kommentatoren. Antisemitische Verschwörungserzählungen. Rassistische Hetze. Sexualisierte Gewaltdrohungen gegen Frauen. Die Liste ließe sich noch eine Weile fortsetzen. Für die Redaktion des Staatsanzeigers ist das seit Jahren ein Spagat. Einerseits will man eine lebendige Debatte ermöglichen und die Kommentarfunktion nicht einfach abschalten, wie es viele Medienhäuser getan haben. Andererseits hat man eine Verantwortung: gegenüber den Lesern, gegenüber der eigenen Marke, gegenüber dem Gesetz. Denn wer eine Plattform betreibt, haftet ab dem Moment der Kenntnis für rechtswidrige Inhalte.
Bisher lief die Moderation weitgehend manuell. Die Online-Redaktion arbeitete Kommentar für Kommentar ab, löschte, verbarg, antwortete. Ein aufwendiger, oft frustrierender Job. Wer stundenlang Hasskommentare liest, braucht ein dickes Fell.
Seit wenigen Wochen geht der Staatsanzeiger deshalb einen neuen Weg. Ein selbst entwickeltes Moderationssystem überwacht die Kommentarspalten jetzt automatisiert – rund um die Uhr, sieben Tage die Woche. Jeder neue Kommentar auf der Facebook-Seite wird automatisch erfasst und an ein KI-System weitergeleitet, das ihn innerhalb von Sekunden analysiert. Das System bewertet den Kommentar anhand eines detaillierten Regelwerks, das die Redaktion selbst definiert hat, und entscheidet: Bleibt der Kommentar stehen oder nicht? Jede Entscheidung der KI wird in einer Datenbank protokolliert. Jeder ausgeblendete Kommentar, aber auch jeder Kommentar, der stehen gelassen wird, ist dort mitsamt der Begründung der KI gespeichert.
Der Mensch bleibt Chef und letzte Instanz
Das Moderationsteam des Staatsanzeigers kann jede dieser Entscheidungen jederzeit einsehen, nachvollziehen und bei Bedarf korrigieren. Das System wird auf Basis dieser Rückmeldungen ständig weiter verfeinert. Kritische Meinungen, auch scharfe, bleiben stehen. Wer findet, dass die Landesregierung einen schlechten Job macht, darf das weiterhin schreiben – und soll es auch. Was aber verschwindet, sind Mordaufrufe, Gewaltfantasien, rassistische Tiraden. Und das in Sekunden. Auch nachts. Auch am Wochenende. Auch an Feiertagen. Der digitale Wächter kennt keinen Feierabend.
Denn eines ist klar: Das Problem wird nicht kleiner werden. Die Verrohung der Debattenkultur in sozialen Netzwerken ist ein gesellschaftliches Phänomen, das sich nicht allein technisch lösen lässt. Aber man kann dafür sorgen, dass dort, wo man selbst Verantwortung trägt, ein gewisses Maß an Anstand gewahrt bleibt.
Unsere Social-Media-Regeln für Kommentare
Auf unserer Facebook-Seite gilt: Kritik, auch harte, ist willkommen. Sarkasmus, Frust, Polemik – alles erlaubt. Was wir nicht dulden: Hetze, Rassismus, Gewaltaufrufe und persönliche Beleidigungen. Aufgrund des Aufwands, den wir zur Überprüfung eines externen Links einsetzen müssten, werden auch Links zu anderen Seiten automatisch ausgeblendet. Denn würde auf gesetzeswidrige Inhalte verlinkt, wäre auch der Staatsanzeiger-Verlag mit in der Verantwortung.
