Devin oare platformele de social media zone fără lege, unde libertatea de exprimare este folosită ca pretext pentru răspândirea urii? Această întrebare este deosebit de acută pentru X (fostul Twitter), care a trecut printr-o schimbare radicală în reglementarea conținutului. Între promisiunea unei libertăți de vorbire mai mari și abuzurile foarte reale, noile politici ale platformei ridică îngrijorări profunde cu privire la siguranța utilizatorilor și responsabilitatea giganților tehnologici. Această evoluție, departe de a fi anecdotelor, redefinește limitele spațiului nostru public digital.

Moderarea pe X: un punct de cotitură radical sub era Musk

De când Elon Musk a achiziționat platforma, X și-a transformat abordarea în moderarea conținutului, renunțând la politicile stabilite și adoptând o filozofie de “aproape libertate absolută de exprimare”. Această schimbare a dus la o reducere drastică a echipelor umane de moderare, la relaxarea regulilor și la o creștere a dependenței de sistemele automate. În trecut, platforma publica rapoarte detaliate de transparență, adesea de aproximativ cincizeci de pagini, oferind o privire detaliată asupra acțiunilor întreprinse împotriva dezinformării, discursului urii și altor conținuturi dăunătoare. Astăzi, comunicarea este mai rară și rapoartele sunt mai scurte, folosind noi metrici care fac comparația directă dificilă.

Această schimbare ideologică a avut consecințe concrete asupra tipurilor de conținut tolerate. De exemplu, platforma și-a demontat politica împotriva dezinformării COVID-19. În plus, practici precum misgenizarea sau deadnamingul (utilizarea numelui atribuit la naștere al unei persoane transgender fără consimțământ) nu mai sunt clasificate sistematic ca discurs de ură. Aceste decizii, luate în numele unei libertăți mai puțin constrânse de expresie, au deschis calea către o revenire a conținutului problematic, lăsând mulți utilizatori și observatori îngrijorați de direcția pe care o ia rețeaua socială.

Noua eră contrastează puternic cu trecutul, unde, deși imperfectă, se căuta un echilibru între protejarea utilizatorilor și libertatea de exprimare. Demontarea consiliilor consultative și reinstaurarea conturilor anterior interzise pentru violări grave ale regulilor au trimis un semnal clar: prioritatea nu mai este curarea riguroasă a conținutului ci minimizarea intervențiilor, chiar dacă discursul toxic înflorește.

Ce spun numerele? Analiza ultimului raport de transparență

Primul raport de transparență publicat de X în doi ani, acoperind prima jumătate a lui 2024, prezintă o imagine îngrijorătoare. Numerele brute dezvăluie o deconectare masivă între rapoartele utilizatorilor și acțiunile platformei. Pe de o parte, rapoartele au explodat, cu peste 224 de milioane de conturi și tweeturi raportate de utilizatori, comparativ cu doar 11,6 milioane în a doua jumătate a lui 2021 — o creștere uimitoare de aproape 1830%.

Pe de altă parte, măsurile de aplicare nu au corespuns acestui trend. Numărul suspendărilor de conturi a crescut doar cu 300% în aceeași perioadă, crescând de la 1,3 milioane la 5,3 milioane. Diferența este și mai izbitoare în domenii critice precum siguranța copiilor: dintre cele peste 8,9 milioane de postări raportate pentru punerea în pericol a minorilor, doar 14.571 au fost eliminate. În ceea ce privește conținutul plin de ură, contrastul este la fel de ascuțit: platforma a suspendat doar 2.361 de conturi pentru acest motiv, comparativ cu 104.565 în a doua jumătate a lui 2021.

Deși X justifică parțial aceste lacune prin schimbări în definiții și metode de măsurare, trendul de bază este incontestabil: o reducere semnificativă a acțiunilor de moderare față de un număr în creștere de rapoarte. Această situație alimentează temerile unui mediu digital mai puțin sigur, unde cel mai periculos conținut — în special cel legat de exploatarea copiilor și incitarea la ură — scapă din ce în ce mai mult prin crăpături.

[Imagine: Grafic care arată decalajul în creștere între rapoartele utilizatorilor și acțiunile de moderare pe X]

AI la cârmă: noua bază a reglementării conținutului

Pentru a compensa reducerea personalului uman, X pariază pe inteligența artificială. Platforma susține că moderarea sa se bazează pe o “combinație de învățare automată și revizuire umană”, cu AI acționând direct sau semnalizând conținut pentru verificare suplimentară. Cu toate acestea, această dependență crescândă de algoritmi ridică întrebări fundamentale despre capacitatea lor de a gestiona complexitatea și nuanțele limbajului uman.

Limitările moderării automate

În ciuda progreselor, sistemele automate sunt cunoscute pentru erorile lor. Se luptă să interpreteze corect sarcasmul, limbajul codat sau contextul cultural. Un studiu realizat de University of Oxford și Alan Turing Institute a arătat că modelele AI pentru detectarea discursului de ură au deficiențe semnificative: unele supradetecția, semnalizând greșit conținut benign, în timp ce altele subdetecția, lăsând să treacă discursuri evident pline de ură.

Exemple de eșecuri abundă pe alte platforme:

• În 2020, sistemele Facebook au blocat reclame pentru mici afaceri aflate în dificultate.

• Anul acesta, algoritmul Meta a semnalizat greșit postări de la Memorialul Auschwitz ca încălcând standardele sale.

O altă problemă majoră este părtinirea datelor de antrenament. Cele mai multe algoritmi sunt dezvoltate din seturi de date provenite în principal din țările nordice, ceea ce le face mai puțin eficiente în analizarea dialectelor sau contextelor culturale, cum ar fi araba maghrebiană. Această insensibilitate culturală poate duce la o moderare inegală și nedreaptă.

Impactul asupra comunităților marginalizate

Dependența excesivă de AI riscă să afecteze în mod disproporționat comunitățile marginalizate. Limbajul lor, care poate include termeni reapropriați sau jargon de insider, este adesea înțeles greșit și semnalizat ca ofensator. În timp ce formele subtile și codificate de ură care îi vizează scăpa frecvent de filtrele algoritmice. Rezultatul este o dublă constrângere: cenzurarea expresiei lor legitime și o protecție inadecvată împotriva hărțuirii cu care se confruntă. Încredințarea judecăților morale complexe mașinilor riscă nu doar să încalce libertatea de exprimare dar și să amplifice inegalitățile pe care platformele pretind că le combat.

AI, un instrument cu două tăișuri

Inteligența artificială este un instrument puternic, dar nu este o soluție completă. Fără supraveghere umană riguroasă, date de antrenament diverse și politici clare, sistemele automate de moderare pot agrava problemele pe care încearcă să le rezolve, creând un mediu care este atât prea restrictiv pentru unii cât și prea lax pentru alții.

Consecințe reale: când discursul online alimentează violența

Laxitatea în moderarea X nu este doar un dezbatere teoretică; are repercusiuni reale. Un caz recent în Marea Britanie ilustrează acest lucru dramatic. În mijlocul revoltelor parțial declanșate de dezinformarea de pe social media, o femeie a postat un tweet care chema să "dăm foc la toate hotelurile pline de nenorociți".

Mesajul ei complet a fost neechivoc:

"Deportați masiv acum, dați foc la toate hotelurile pline de nenorociți, nu-mi pasă, și în timp ce sunteți la asta, luați și guvernul și politicienii trădători cu ei. [...] Dacă asta mă face un rasist, fie."

Acest mesaj a fost raportat la X pentru încălcarea regulilor sale. Răspunsul platformei? Tweetul nu a încălcat nicio regulă. Totuși, sistemul juridic al Marii Britanii a văzut lucrurile foarte diferit. Autorul a fost urmărit penal și a pledat vinovat pentru incitarea la ură rasială. Acest exemplu evidențiază un decalaj alarmant între ceea ce legea consideră o infracțiune gravă și ceea ce o platformă globală de