Worden sociale mediaplatforms wetteloze zones waar vrijheid van meningsuiting wordt gebruikt als een voorwendsel voor het verspreiden van haat? Deze vraag is vooral urgent voor X (voorheen Twitter), die een radicale verschuiving in contentregulering heeft ondergaan. Tussen de belofte van meer vrijheid van meningsuiting en zeer reële misbruiken, zorgen de nieuwe beleid van het platform voor diepe zorgen over gebruikersveiligheid en de verantwoordelijkheid van technologiebedrijven. Deze evolutie, verre van anekdotisch, herdefinieert de grenzen van onze digitale publieke ruimte.

Moderatie op X: een radicale koerswijziging onder het Musk-tijdperk

Sinds de overname door Elon Musk heeft X zijn contentmoderatie-aanpak getransformeerd, waarbij het afstand neemt van gevestigde beleidsregels om een filosofie van "bijna absolute vrijheid van meningsuiting" te omarmen. Deze verschuiving heeft geleid tot een drastische vermindering van menselijke moderatieteams, een versoepeling van regels, en een verhoogde afhankelijkheid van geautomatiseerde systemen. Voorheen publiceerde het platform uitgebreide transparantierapporten, vaak rond de vijftig pagina’s lang, die een gedetailleerd beeld gaven van de acties ondernomen tegen desinformatie, haatspraak, en andere schadelijke inhoud. Vandaag is de communicatie schaarser en zijn rapporten korter, met nieuwe metrics die directe vergelijkingen moeilijk maken.

Deze ideologische draai heeft concrete gevolgen gehad voor het type inhoud dat wordt getolereerd. Bijvoorbeeld, het platform ontmantelde zijn beleid tegen COVID-19 desinformatie. Bovendien worden praktijken zoals misgendering of deadnaming (het geboorte-toegekende naam van een trans persoon zonder toestemming gebruiken) niet langer systematisch als haatspraak geclassificeerd. Deze beslissingen, gemaakt in naam van minder beperkte spraak, hebben de deur geopend voor een heropleving van problematische inhoud, waardoor veel gebruikers en waarnemers bezorgd zijn over de richting die het sociale netwerk inslaat.

Deze nieuwe era staat sterk in contrast met het verleden, waar - hoewel imperfect - balans werd gezocht tussen het beschermen van gebruikers en vrijheid van meningsuiting. De ontmanteling van adviesraden en de herstelling van accounts die eerder waren verbannen voor ernstige overtredingen, stuurde een duidelijke boodschap: de prioriteit is niet langer rigoureuze inhoudscuratie, maar het minimaliseren van interventies, zelfs als er toxische berichten floreren.

Wat zeggen de cijfers? Analyse van het laatste transparantierapport

Het eerste transparantierapport gepubliceerd door X in twee jaar, dat de eerste helft van 2024 beslaat, presenteert een verontrustend beeld. Ruwe cijfers onthullen een enorme kloof tussen gebruikersrapportages en platformacties. Enerzijds zijn de rapportages geëxplodeerd, met over 224 miljoen accounts en tweets gerapporteerd door gebruikers, vergeleken met slechts 11,6 miljoen in de tweede helft van 2021 - een verbluffende stijging van bijna 1830%.

Anderzijds, handhavingsmaatregelen lopen niet synchroon met deze trend. Het aantal accounts dat geschorst is, is slechts met 300% gestegen over dezelfde periode, stijgend van 1,3 miljoen naar 5,3 miljoen. De kloof is nog scherper in kritieke gebieden zoals kindveiligheid: van meer dan 8,9 miljoen berichten gerapporteerd vanwege het in gevaar brengen van minderjarigen, werden er slechts 14.571 verwijderd. Wat hatelijke inhoud betreft, is de contrast net zo scherp: het platform schorste slechts 2.361 accounts om deze reden, vergeleken met 104.565 in de tweede helft van 2021.

Hoewel X deze gaps deels rechtvaardigt door veranderingen in definities en meetmethodes, is de onderliggende trend onmiskenbaar: aanzienlijk verminderde moderatie-actie tegenover een explosief aantal rapportages. Deze situatie voedt de angst voor een minder veilige digitale omgeving waar de gevaarlijkste inhoud - vooral gerelateerd aan kindermisbruik en aanzet tot haat - steeds vaker door de mazen glipt.

[Afbeelding: Grafiek die de groeiende kloof toont tussen gebruikersrapportages en moderatie-acties op X]

AI aan het roer: de nieuwe ruggengraat van inhoudregulering

Om het verminderde menselijke personeel te compenseren, wedt X sterk op kunstmatige intelligentie. Het platform beweert dat zijn moderatie is gebaseerd op een "combinatie van machine learning en menselijke controles," waarbij AI direct optreedt of inhoud aanvinkt voor verdere verificatie. Echter, deze toenemende afhankelijkheid van algoritmes roept fundamentele vragen op over hun vermogen om de complexiteit en nuances van menselijke taal te hanteren.

Beperkingen van geautomatiseerde moderatie

Ondanks vooruitgang, zijn geautomatiseerde systemen bekend om hun fouten. Ze hebben moeite om sarcasme, gecodeerde taal, of culturele context correct te interpreteren. Een studie van de Universiteit van Oxford en het Alan Turing Institute toonde aan dat AI-modellen voor haatspraakdetectie aanzienlijke tekortkomingen vertonen: enkele over-detecteren door onschadelijke inhoud foutief aan te merken, terwijl anderen onvoldoende detecteren door duidelijke haatspraak te laten passeren.

Voorbeelden van fouten zijn talrijk op andere platforms:

• In 2020 blokkeerde Facebook’s systemen advertenties voor noodlijdende kleine bedrijven.

• Dit jaar markeerde het algoritme van Meta ten onrechte berichten van het Auschwitz Memorial als in strijd met haar normen.

Een ander groot probleem is vooringenomenheid in trainingsdata. De meeste algoritmes worden ontwikkeld vanuit datasets die voornamelijk afkomstig zijn uit Noordelijke landen, waardoor ze minder effectief zijn in het analyseren van dialecten of culturele contexten, zoals Maghrebijns Arabisch. Deze culturele ongevoeligheid kan leiden tot ongelijkheden en oneerlijke moderatie.

Impact op gemarginaliseerde gemeenschappen

Deze overafhankelijkheid van AI riskeert onevenredige schade aan gemarginaliseerde gemeenschappen. Hun taal, die mogelijk opnieuw toegeëigende termen of insider jargon bevat, wordt vaak verkeerd begrepen en onterecht aangemerkt als beledigend. Ondertussen ontsnappen subtiele en gecodeerde vormen van haat die hen targeten vaak aan algoritmische filters. Het resultaat is een dubbele valstrik: censuur van hun legitieme expressie en onvoldoende bescherming tegen de intimidatie die zij ondervinden. Het toevertrouwen van complexe morele oordelen aan machines riskeert niet alleen inbreuk op vrijheid van meningsuiting maar ook het vergroten van de ongelijkheden die platforms beweren te bestrijden.

AI, een tweesnijdend gereedschap

Kunstmatige intelligentie is een krachtig gereedschap, maar geen wonderoplossing. Zonder rigoureus menselijk toezicht, diverse trainingsdata en duidelijke beleidsregels kunnen geautomatiseerde moderatiesystemen de problemen die ze proberen op te lossen verergeren, een omgeving creëren die zowel te restrictief is voor sommigen als te laks voor anderen.

Echte gevolgen: wanneer online uitingen geweld aanwakkeren

De mildheid in de moderatie van X is niet zomaar een theoretisch debat; het heeft tastbare gevolgen in de echte wereld. Een recent geval in het VK illustreert dat dramatisch. In het midden van rellen, deels veroorzaakt door desinformatie op sociale media, plaatste een vrouw een tweet met de oproep om "alle verdomde hotels vol klootzakken in brand te steken."

Haar volledige boodschap