Moderazione su Twitter: Questioni chiave, politiche e tecnologie

Come possiamo navigare in uno spazio digitale che valorizza l'espressione libera ma che ha anche bisogno di proteggere i suoi utenti dai danni? Questa domanda si trova al centro del dibattito in corso sulla moderazione dei contenuti su X (precedentemente Twitter), una piattaforma che è diventata un'arena centrale per il discorso globale, il dibattito politico e la rapida diffusione delle informazioni. La sfida di trovare questo equilibrio è più complessa che mai, modellata da tecnologie in evoluzione, politiche in cambiamento e eventi nel mondo reale che mettono alla prova i limiti della governance online.

Il Panorama in Mutamento della Moderazione su X

In una mossa significativa dopo una pausa di due anni, X ha rilasciato un rapporto sulla trasparenza a settembre 2024, offrendo uno sguardo sulle sue attuali pratiche di moderazione. I dati rivelano una tendenza sconcertante: mentre le segnalazioni degli utenti di contenuti dannosi sono aumentate vertiginosamente, le azioni di esecuzione della piattaforma non hanno tenuto il passo.

Durante la prima metà del 2024, gli utenti hanno segnalato oltre 224 milioni di account e tweet, un aumento sorprendente del 1.830% rispetto agli 11,6 milioni riportati alla fine del 2021. Nonostante questo aumento, il numero di sospensioni di account è cresciuto solo di circa il 300%, da 1,3 milioni a 5,3 milioni. Questa disparità suggerisce un cambiamento fondamentale nel modo in cui X identifica e agisce sulle violazioni delle politiche.

I cambiamenti sono ulteriormente illuminati dalle politiche della piattaforma in evoluzione. Sotto una nuova leadership, le regole riguardanti la disinformazione su COVID-19 sono state ritirate, e azioni come il misgendering o il deadnaming non sono più classificate come discorsi d'odio. Questa ridefinizione ha un impatto diretto sulle metriche di attuazione. Per esempio:

• Comportamento Odioso: Le sospensioni per comportamento odioso sono diminuite drasticamente a soli 2.361 account, rispetto ai 104.565 nella seconda metà del 2021.

• Sicurezza dei Minori: Di oltre 8,9 milioni di post segnalati per preoccupazioni sulla sicurezza dei minori, X ne ha rimossi solo 14.571.

Questo nuovo approccio, dettagliato in un rapporto condensato di 15 pagine, contrasta nettamente con le divulgazioni complete di 50 pagine del passato. Indica un sistema che si confronta con un immenso volume di segnalazioni operando sotto un insieme di regole rivisto e, si potrebbe dire, più indulgente.

La Meccanica della Sospensione: Come Decide X?

Comprendere chi viene sospeso e perché richiede di guardare oltre le statistiche ai comportamenti sottostanti. La ricerca sulla dinamica della moderazione durante i grandi eventi geopolitici, come l'invasione russa dell'Ucraina nel 2022 e le elezioni presidenziali francesi, offre intuizioni cruciali sui modelli operativi della piattaforma.

Studi che analizzano oltre 270 milioni di tweet hanno identificato chiare tendenze nella creazione e sospensione degli account durante periodi di discorso controverso ad alto volume. Durante questi periodi, ci sono picchi evidenti nella creazione di account sospetti, molti dei quali vengono sospesi poco dopo la loro apparizione.

Nuovi vs. Vecchi Account: Un Approccio Proattivo

Una delle scoperte più significative è che Twitter sembra essere molto più proattiva nel sospendere i nuovi account creati rispetto a quelli vecchi e consolidati. Molti account dannosi vengono sospesi entro pochi giorni dalla loro creazione, suggerendo che l'età dell'account è un fattore chiave nei sistemi di rilevamento della piattaforma. La durata della vita di un account sospeso dipende spesso dal suo livello di attività; gli account nuovi e iper-attivi possono essere segnalati e rimossi più rapidamente, mentre gli account più vecchi che si comportano in modo simile possono persistere più a lungo.

Questo approccio proattivo ai nuovi account è probabilmente una strategia per contrastare i comportamenti coordinati e inautentici, come le reti di bot e le campagne di spam, che spesso si affidano a account appena creati per amplificare i loro messaggi prima di essere rilevati.

Comportamenti che Scatenano la Sospensione

Gli account sospesi, siano nuovi o vecchi, tendono a esibire modelli di comportamento specifici che li distinguono dagli utenti tipici. Questi includono:

• Uso Eccessivo di Risposte e Menzioni: Invece di creare contenuti originali, questi account spesso inondano le risposte degli utenti legittimi con spam, molestie o propaganda.

• Tweet a Frequenza Elevata: Gli utenti sospesi spesso twittano a un ritmo molto più alto rispetto agli utenti attivi, indicando un comportamento automatizzato o ossessivo. Il tempo medio tra i tweet per un utente sospeso è significativamente più basso.

• Condivisione di Contenuti Dannosi: Un'analisi qualitativa rivela che gli account sospesi sono molto più propensi a condividere contenuti classificati come spam o dannosi (inclusi discorsi d'odio, linguaggio abusivo e aggressività) rispetto agli account attivi.

Durante le elezioni francesi del 2022, ad esempio, gli account sospesi erano più inclini a amplificare hashtag divisivi come #toutsaufmacron (tutti tranne Macron). Allo stesso modo, nella fase iniziale del conflitto ucraino, molti account sospesi risultavano spingere spam legati alle criptovalute. Questi modelli mostrano che la sospensione è spesso legata a un abuso della piattaforma volto a manipolare le conversazioni o sfruttare l'attenzione degli utenti.

Una Nota sulla Trasparenza dei Dati

I ricercatori affrontano sfide significative nello studio della moderazione. Le piattaforme come X non rivelano l'orario esatto o il motivo specifico per cui un account viene sospeso. Gli analisti devono spesso usare proxy, come l'ultima attività visibile di un account, per stimare quando è stato rimosso. Inoltre, l'interruzione dell'accesso gratuito alle API per i ricercatori ha reso più difficile monitorare e analizzare in modo indipendente queste tendenze, sollevando preoccupazioni sulla responsabilità della piattaforma.

La Crescita della Moderazione AI: Una Lama a Doppio Taglio?

Al centro della strategia di moderazione di X vi è una crescente dipendenza dall'intelligenza artificiale. La piattaforma afferma di utilizzare una "combinazione di apprendimento automatico e revisione umana", dove i sistemi di intelligenza artificiale prendono azioni dirette o segnalano contenuti per i moderatori umani. Sebbene questo approccio sia necessario per gestire l'enorme volume di contenuti, è pieno di sfide e dilemmi etici.

I sistemi di moderazione AI hanno da tempo dimostrato di non essere perfetti. Spesso lottano con le sfumature del linguaggio umano, portando a errori significativi:

• Cecità Contestuale: L'AI spesso non riesce a comprendere il sarcasmo, la satira o il linguaggio codificato utilizzato dalle comunità emarginate, portando a falsi positivi dove contenuti benigni vengono segnalati come dannosi.

• Bias nei Dataset: Molti algoritmi sono addestrati su dataset provenienti principalmente dal Nord del Mondo, il che può portare a insensibilità culturale e linguistica. Un rapporto del Centro per la Democrazia e la Tecnologia ha evidenziato come questo porti a una scarsa accuratezza della moderazione in dialetti come l'arabo maghrebino.

• Prestazioni Incoerenti: Un studio del 2021 di Oxford e dell'Istituto Alan Turing ha testato diversi modelli di rilevamento dei discorsi d'odio basati su AI e ha trovato significative lacune nelle prestazioni. Alcuni modelli, come l'API di Perspective di Google, tendevano a segnalare in eccesso contenuti non odiosi, mentre altri non rilevavano chiaramente i discorsi d'odio.

Queste limitazioni possono spiegare la netta diminuzione delle azioni contro i discorsi d'odio su X, poiché l'AI fatica a identificare lo spettro completo della retorica dannosa. Le conseguenze sono reali, come si è visto quando l'AI di Facebook ha bloccato per errore annunci di piccole imprese nel 2020 o ha segnalato post del Museo di Auschwitz come violazioni degli standard comunitari nel 2024. Un'eccessiva dipendenza dall'AI non solo non riesce a catturare gli attori maliziosi, ma rischia anche di soffocare l'espressione legittima, specialmente da parte di comunità che già affrontano la censura.

Il Filo Etico dell'Automazione

Possiamo fidarci delle macchine per fare giudizi morali sulla comunicazione umana? Man mano che le piattaforme automatizzano sempre più la moderazione, rischiano di amplificare i bias esistenti e di prendere decisioni opache che impattano l'espressione libera. Gli esperti dell'AI Now Institute sostengono una maggiore responsabilità, esortando le piattaforme ad adottare standard etici e aumentare la trasparenza sui loro sistemi AI. Questo è particolarmente critico poiché queste decisioni automatizzate modellano il discorso pubblico attorno a eventi chiave come le elezioni.

Mentre le sfide nella moderazione digitale sono immense, altri settori tecnologici dimostrano come i sistemi intelligenti possano essere impiegati con risultati più prevedibili e benefici. Nel campo delle energie rinnovabili, ad esempio, aziende come Les Nouveaux Installateurs utilizzano la tecnologia non per filtrare contenuti ambigui ma per un'ottimizzazione concreta. Le loro soluzioni intelligenti, tra cui la gestione intelligente della produzione dei pannelli solari, la ricarica intelligente per veicoli elettrici e l'uso ottimizzato delle pompe di calore, permettono agli utenti di controllare in modo efficiente il loro consumo energetico. Questo è ottenuto attraverso dati chiari, monitoraggio remoto affidabile e tecnologia che fornisce risultati tangibili e positivi, un netto contrasto al mondo spesso opaco e soggetto a errori della moderazione dei contenuti AI.

Conseguenze nel Mondo Reale: Quando il Discorso Online Trasborda

Il dibattito sulla moderazione non è solo accademico; ha conseguenze reali e tangibili. Un recente caso nel Regno Unito evidenzia il pericoloso divario tra le politiche della piattaforma e la sicurezza pubblica. A seguito di sommosse alimentate in gran parte da disinformazione sui social media, una donna è stata perseguita per un post su X che incitava a "dare fuoco a tutti gli hotel pieni di f****".

Deportazione di massa subito, date fuoco a tutti gli hotel pieni di f**** per quello che mi interessa, e già che ci siete prendete il governo traditore e i politici con loro. Mi sento fisicamente male sapendo cosa dovranno ora sopportare queste famiglie. Se questo mi fa diventare razzista, così sia.

L'utente in seguito si è dichiarata colpevole di istigazione all'odio razziale. Tuttavia, quando il suo post è stato segnalato a X, la piattaforma ha determinato che non violava le loro regole. Questo incidente illustra chiaramente uno scenario in cui contenuti ritenuti illegali da un tribunale vengono considerati accettabili da una piattaforma social, sollevando domande critiche sulla responsabilità aziendale e la definizione di "libertà di espressione". È giusto che una piattaforma permetta post che incitano direttamente alla violenza e all'odio?

Questo non è un fenomeno isolato. L'amplificazione di narrative divisive e dannose è un tema ricorrente. L'obiettivo degli attori maliziosi non è spesso di ingaggiare un dibattito in buona fede ma di disturbare, molestare e inquinare l'ecosistema informativo. Prendendo di mira utenti legittimi con un alto volume di risposte e menzioni, questi account sospesi riescono a iniettare spam, propaganda e contenuti odiosi in conversazioni altrimenti normali, degradando l'esperienza dell'utente e potenzialmente radicalizzando gli spettatori.

La sfida per piattaforme come X è immensa. Devono navigare tra le complessità delle leggi globali, delle norme culturali e della tensione perpetua tra favorire la conversazione aperta e prevenire che le loro piattaforme diventino vettori di danno. Le tendenze attuali suggeriscono che una maggiore enfasi sull'AI e un approccio più distaccato a certi tipi di discorso stiano creando un ambiente permissivo per comportamenti maliziosi. Senza una combinazione più efficace e trasparente di supervisione umana e strumenti tecnologici, è probabile che il divario tra retorica online e danno nel mondo reale si allarghi.

In definitiva, l'efficacia della moderazione su X e altre piattaforme sociali dipenderà dal loro impegno verso la trasparenza, la responsabilità e una comprensione sfumata che la libertà di espressione non significa libertà dalle conseguenze. Poiché queste piattaforme continuano a plasmare la nostra società, gli standard che stabiliscono e le tecnologie che impiegano avranno un impatto duraturo sulla nostra capacità collettiva di comunicare in sicurezza e in modo costruttivo.

Domande Frequenti

Qual è la principale differenza nel modo in cui nuovi e vecchi account vengono sospesi su X?

La ricerca indica che X (ex Twitter) è significativamente più proattiva nel sospendere i nuovi account creati rispetto a quelli più vecchi. Molti nuovi account che si impegnano in spam o comportamenti dannosi vengono sospesi entro pochi giorni dalla loro creazione, suggerendo che l'età dell'account è una caratteristica chiave nei sistemi automatizzati di rilevamento della piattaforma. Gli account più vecchi che si comportano in modo simile possono persistere per un periodo più lungo prima di essere sospesi.

Perché la moderazione AI non è una soluzione perfetta?

La moderazione AI, pur essenziale per gestire la vasta scala di contenuti, presenta diversi difetti chiave. Fa fatica a comprendere le sfumature, il sarcasmo e il contesto culturale, portando sia a falsi positivi (segnalazione di contenuti innocui) sia a falsi negativi (mancanza di discorsi d'odio reali). I modelli AI possono anche ereditare bias dai loro dati di addestramento, colpendo in modo sproporzionato le comunità emarginate. Questo può portare a un'applicazione incoerente e ingiusta delle regole della piattaforma.

Le politiche di moderazione di X sono cambiate di recente?

Sì, dall'acquisizione da parte di Elon Musk, le politiche di moderazione di X hanno subito cambiamenti significativi. La piattaforma ha ritirato le sue regole contro la disinformazione su COVID-19 e non classifica più il misgendering o il deadnaming come discorsi d'odio. Ciò ha portato a una drastica diminuzione del numero di sospensioni per comportamenti odiosi, anche se le segnalazioni degli utenti di tali contenuti sono salite alle stelle. L'azienda è diventata anche meno trasparente, con rapporti più brevi e un accesso ai dati limitato per i ricercatori.

Quali sono i principali tipi di contenuto e comportamento che portano alla sospensione?

I comportamenti principali che portano alla sospensione di un account includono spam, attività inautentiche coordinate e condivisione di contenuti dannosi. Questo spesso si manifesta come un uso eccessivo di risposte e menzioni per prendere di mira altri utenti, twittare a una frequenza anormalmente alta e pubblicare contenuti che rientrano in categorie come discorsi d'odio, molestie, incitamento alla violenza e promozione di truffe (come le frodi sulle criptovalute).