X (Twitter) Moderation unter Elon Musk: Meinungsfreiheit und digitale Rechte

Werden Social-Media-Plattformen zu gesetzlosen Zonen, in denen die Meinungsfreiheit als Vorwand für die Verbreitung von Hass genutzt wird? Diese Frage ist besonders akut für X (ehemals Twitter), das einen radikalen Wandel in der Inhaltsregulierung erlebt hat. Zwischen dem Versprechen einer freieren Redefreiheit und sehr realen Missbräuchen werfen die neuen Richtlinien der Plattform tiefgreifende Bedenken hinsichtlich der Sicherheit der Benutzer und der Verantwortung von Tech-Riesen auf. Diese Entwicklung, weit entfernt von anekdotisch, definiert die Grenzen unseres digitalen öffentlichen Raums neu.

Moderation auf X: ein radikaler Wendepunkt in der Musk-Ära

Seit der Übernahme durch Elon Musk hat X seinen Ansatz zur Inhaltsmoderation verändert und sich von etablierten Richtlinien entfernt, um eine Philosophie der „fast absoluten Redefreiheit“ zu verfolgen. Dieser Wandel hat zu einer drastischen Reduzierung der menschlichen Moderationsteams, einer Lockerung der Regeln und einer verstärkten Abhängigkeit von automatisierten Systemen geführt. Zuvor veröffentlichte die Plattform detaillierte Transparenzberichte, oft um die fünfzig Seiten lang, die einen detaillierten Überblick über Maßnahmen gegen Fehlinformationen, Hassrede und andere schädliche Inhalte boten. Heute ist die Kommunikation seltener und die Berichte sind kürzer, wobei neue Metriken verwendet werden, die direkte Vergleiche erschweren.

Diesen ideologischen Wandel haben konkrete Folgen für die Art der tolerierten Inhalte. Beispielsweise hat die Plattform ihre Richtlinie gegen COVID-19-Fehlinformationen abgeschafft. Darüber hinaus werden Praktiken wie Misgendering oder Deadnaming (die Verwendung des bei der Geburt zugewiesenen Namens einer Transgender-Person ohne Zustimmung) nicht mehr systematisch als Hassrede eingestuft. Diese Entscheidungen, die im Namen einer weniger eingeschränkten Meinungsfreiheit getroffen wurden, haben die Tür zur Wiederkehr problematischer Inhalte geöffnet, was viele Benutzer und Beobachter über die Richtung besorgt macht, die das soziale Netzwerk einschlägt.

Diese neue Ära steht im krassen Gegensatz zur Vergangenheit, in der, wenn auch unvollkommen, ein Gleichgewicht zwischen dem Schutz der Benutzer und der Redefreiheit angestrebt wurde. Die Abschaffung von Beratungsgremien und die Wiederherstellung von Konten, die zuvor aufgrund schwerwiegender Regelverletzungen gesperrt wurden, senden ein klares Signal: Die Priorität liegt nicht mehr bei einer rigorosen Inhaltskuratierung, sondern bei der Minimierung von Interventionen, auch wenn giftige Diskurse florieren.

Was sagen die Zahlen? Analyse des neuesten Transparenzberichts

Der erste Transparenzbericht, der von X seit zwei Jahren veröffentlicht wurde und die erste Hälfte des Jahres 2024 abdeckt, bietet ein beunruhigendes Bild. Rohe Zahlen zeigen eine massive Diskrepanz zwischen Benutzerberichten und Plattformaktionen. Einerseits sind die Berichte explodiert, mit über 224 Millionen gemeldeten Konten und Tweets von Benutzern, verglichen mit nur 11,6 Millionen in der zweiten Hälfte des Jahres 2021 – ein erstaunlicher Anstieg von fast 1830%.

Andererseits entsprechen die Durchsetzungsmaßnahmen nicht diesem Trend. Die Anzahl der Kontosperrungen ist im gleichen Zeitraum nur um 300% gestiegen, von 1,3 Millionen auf 5,3 Millionen. Die Lücke ist in kritischen Bereichen wie der Sicherheit von Kindern noch auffälliger: Von mehr als 8,9 Millionen Beiträgen, die gemeldet wurden, weil sie Minderjährige gefährden, wurden nur 14.571 entfernt. Bei hasserfüllten Inhalten ist der Kontrast ebenso scharf: Die Plattform hat nur 2.361 Konten aus diesem Grund gesperrt, verglichen mit 104.565 in der zweiten Hälfte des Jahres 2021.

Obwohl X diese Lücken teilweise durch Änderungen in Definitionen und Messmethoden rechtfertigt, ist der zugrunde liegende Trend unbestreitbar: erheblich reduzierte Moderationsmaßnahmen bei einer steigenden Anzahl von Berichten. Diese Situation schürt die Befürchtungen eines weniger sicheren digitalen Umfelds, in dem die gefährlichsten Inhalte – insbesondere solche, die sich mit Kinder-Ausbeutung und Hass-Aufstachelung befassen – zunehmend durch die Netze schlüpfen.

[Bild: Grafik, die die wachsende Lücke zwischen Benutzerberichten und Moderationsmaßnahmen auf X zeigt]

KI am Steuer: das neue Rückgrat der Inhaltsregulierung

Um den reduzierten menschlichen Personalbestand auszugleichen, setzt X stark auf künstliche Intelligenz. Die Plattform behauptet, ihre Moderation basiere auf einer „Kombination aus maschinellem Lernen und menschlicher Überprüfung“, wobei die KI direkt handelt oder Inhalte zur weiteren Überprüfung markiert. Diese wachsende Abhängigkeit von Algorithmen stellt jedoch grundlegende Fragen über ihre Fähigkeit, die Komplexität und Nuancen der menschlichen Sprache zu handhaben.

Beschränkungen der automatisierten Moderation

Trotz Fortschritten sind automatisierte Systeme bekannt für ihre Fehler. Sie haben Schwierigkeiten, Sarkasmus, Chiffriersprache oder kulturellen Kontext korrekt zu interpretieren. Eine Studie der Universität Oxford und des Alan Turing Instituts zeigte, dass KI-Modelle zur Erkennung von Hassrede erhebliche Mängel aufweisen: Einige übererkennen, indem sie harmlose Inhalte falsch markieren, während andere untererkennen, indem sie eindeutig hasserfüllte Rede passieren lassen.

Beispiele für Fehler sind auf anderen Plattformen reichlich vorhanden:

• Im Jahr 2020 blockierten die Systeme von Facebook Anzeigen für kämpfende kleine Unternehmen.

• In diesem Jahr markierte Metas Algorithmus fälschlicherweise Beiträge vom Auschwitz-Denkmal als Verstoß gegen seine Standards.

Ein weiteres großes Problem ist der Datenbias bei der Ausbildung. Die meisten Algorithmen werden aus Datensätzen entwickelt, die hauptsächlich aus nördlichen Ländern stammen, was sie weniger effektiv in der Analyse von Dialekten oder kulturellen Zusammenhängen macht, wie beispielsweise Maghrebi-Arabisch. Diese kulturelle Unsensibilität kann zu ungleicher und unfairer Moderation führen.

Auswirkungen auf marginalisierte Gemeinschaften

Diese Überabhängigkeit von KI birgt das Risiko, marginalisierte Gemeinschaften überproportional zu schädigen. Ihre Sprache, die reappropriierte Begriffe oder interne Fachausdrücke enthalten kann, wird oft missverstanden und fälschlicherweise als beleidigend markiert. Gleichzeitig entgehen die subtilen und kodierten Formen des Hasses, die sich gegen sie richten, häufig den algorithmischen Filtern. Das Ergebnis ist ein doppeltes Dilemma: Zensur ihrer legitimen Ausdrucksweise und unzulänglicher Schutz vor der Belästigung, der sie ausgesetzt sind. Wenn komplexe moralische Urteile Maschinen anvertraut werden, besteht das Risiko, dass nicht nur die Meinungsfreiheit verletzt wird, sondern auch die Ungleichheiten verstärkt werden, die die Plattformen zu bekämpfen behaupten.

KI, ein zweischneidiges Werkzeug

Künstliche Intelligenz ist ein mächtiges Werkzeug, aber kein Allheilmittel. Ohne strenge menschliche Aufsicht, vielfältige Trainingsdaten und klare Richtlinien können automatisierte Moderationssysteme die Probleme, die sie lösen sollen, verschlimmern, indem sie ein Umfeld schaffen, das für einige zu restriktiv und für andere zu lax ist.

Reale Konsequenzen: wenn Online-Reden Gewalt schüren

Die Nachsicht in Xs Moderation ist nicht nur eine theoretische Debatte; sie hat greifbare Auswirkungen in der realen Welt. Ein kürzlich aufgetretener Fall im Vereinigten Königreich zeigt dies dramatisch. Mitten in Unruhen, die teilweise durch Fehlinformationen in sozialen Medien ausgelöst wurden, veröffentlichte eine Frau einen Tweet, der dazu aufrief, „alle verdammten Hotels voller Bastarde in Brand zu setzen“.

Ihre vollständige Nachricht war unmissverständlich:

„Massenabschiebung jetzt, alle verd