Modération sur Twitter : Enjeux, Politiques et Technologies

Comment naviguer dans un espace numérique qui promeut la liberté d'expression tout en protégeant ses utilisateurs des dommages ? Cette question est au cœur du débat continu sur la modération de contenu sur X (anciennement Twitter), une plateforme devenue une arène centrale pour le discours mondial, le débat politique et la diffusion rapide de l'information. Le défi de trouver un équilibre est plus complexe que jamais, façonné par des technologies en évolution, des politiques changeantes et des événements réels qui testent les limites de la gouvernance en ligne.

Le paysage changeant de la modération sur X

Dans un geste significatif après une pause de deux ans, X a publié un rapport de transparence en septembre 2024, offrant un aperçu de ses pratiques de modération actuelles. Les données révèlent une tendance déroutante : alors que les signalements d’utilisateurs concernant du contenu nuisible ont explosé, les actions d'application de la plateforme n'ont pas suivi le rythme.

Au cours de la première moitié de 2024, les utilisateurs ont signalé plus de 224 millions de comptes et tweets, une augmentation stupéfiante de 1 830 % par rapport aux 11,6 millions signalés fin 2021. Malgré cette augmentation, le nombre de suspensions de comptes n'a augmenté que d'environ 300 %, passant de 1,3 million à 5,3 millions. Cette disparité suggère un changement fondamental dans la façon dont X identifie et agit sur les violations de règles.

Les changements sont davantage éclairés par l'évolution des politiques de la plateforme. Sous une nouvelle direction, les règles concernant la désinformation sur le COVID-19 ont été assouplies, et des actions comme le mégenrage ou la mortification ne sont plus classées comme des discours de haine. Cette redéfinition a un impact direct sur les métriques d'application. Par exemple :

• Conduite Haineuse : Les suspensions pour conduite haineuse ont chuté drastiquement à seulement 2 361 comptes, contre 104 565 au second semestre 2021.

• Sécurité des Enfants : Sur plus de 8,9 millions de publications signalées pour raisons de sécurité des enfants, X n'en a supprimé que 14 571.

Cette nouvelle approche, détaillée dans un rapport condensé de 15 pages, contraste fortement avec les divulgations complètes de 50 pages du passé. Elle pointe vers un système aux prises avec un volume immense de signalements tout en fonctionnant sous un ensemble de règles révisé, et sans doute plus indulgent.

Les mécanismes de suspension : comment X décide-t-il ?

Comprendre qui est suspendu et pourquoi nécessite de regarder au-delà des statistiques vers les comportements sous-jacents. La recherche sur les dynamiques de modération lors d'événements géopolitiques majeurs, comme l'invasion russe en Ukraine en 2022 et l'élection présidentielle française, apporte des éclairages cruciaux sur les modèles opérationnels de la plateforme.

Des études analysant plus de 270 millions de tweets ont identifié des tendances claires dans la création et la suspension de comptes en période de discours controversé à haut volume. Durant ces périodes, il y a des pics notables dans la création de comptes suspects, dont beaucoup sont suspendus peu après leur apparition.

Comptes Nouveaux vs Anciens : Une Position Proactive

Un des constats les plus significatifs est que Twitter semble être bien plus proactif dans la suspension des comptes nouvellement créés par rapport à ceux plus anciens et établis. De nombreux comptes malveillants sont suspendus en quelques jours seulement après leur création, suggérant que l'ancienneté du compte est un facteur clé dans les systèmes de détection de la plateforme. La durée de vie d'un compte suspendu dépend souvent de son niveau d'activité ; les nouveaux comptes hyperactifs peuvent être signalés et supprimés plus rapidement, alors que les anciens comptes ayant un comportement similaire peuvent persister plus longtemps.

Cet approche proactive envers les nouveaux comptes est probablement une stratégie pour combattre le comportement coordonné non authentique, tel que les réseaux de bots et les campagnes de spam, qui comptent souvent sur des comptes fraîchement créés pour amplifier leur message avant d'être détectés.

Comportements qui déclenchent la suspension

Les comptes suspendus, qu'ils soient nouveaux ou anciens, ont tendance à afficher des motifs comportementaux spécifiques qui les distinguent des utilisateurs typiques. Ceux-ci incluent :

• Utilisation excessive des réponses et des mentions : Au lieu de créer du contenu original, ces comptes envahissent souvent les réponses des utilisateurs légitimes avec du spam, du harcèlement ou de la propagande.

• Tweeting à haute fréquence : Les utilisateurs suspendus tweetent souvent à un rythme bien plus élevé que les utilisateurs actifs, indiquant un comportement automatisé ou obsessionnel. Le temps moyen entre les tweets d'un utilisateur suspendu est nettement plus court.

• Partage de contenu nuisible : Une analyse qualitative révèle que les comptes suspendus sont beaucoup plus susceptibles de partager du contenu classé comme spam ou nuisible (y compris des discours de haine, un langage abusif et de l'agression) que les comptes actifs.

Lors de l'élection française de 2022, par exemple, les comptes suspendus étaient plus enclins à amplifier des hashtags divisifs comme #toutsaufmacron (n'importe qui sauf Macron). De même, lors de la phase initiale du conflit en Ukraine, de nombreux comptes suspendus ont été trouvés poussant du spam lié aux crypto-monnaies. Ces motifs montrent que la suspension est souvent liée à un abus évident de la plateforme visant à manipuler les conversations ou exploiter l'attention des utilisateurs.

Une note sur la transparence des données

Les chercheurs rencontrent des défis importants dans l'étude de la modération. Les plateformes comme X ne divulguent pas le moment exact ou la raison spécifique de la suspension d'un compte. Les analystes doivent souvent utiliser des remplaçants, comme la dernière activité visible d'un compte, pour estimer quand il a été supprimé. De plus, l'arrêt de l'accès API gratuit pour les chercheurs a rendu plus difficile la surveillance et l'analyse indépendantes de ces tendances, soulevant des préoccupations sur la responsabilité de la plateforme.

L'ascension de la modération par IA : une épée à double tranchant ?

Au cœur de la stratégie de modération de X se trouve une dépendance croissante à l'intelligence artificielle. La plateforme affirme utiliser une "combinaison d'apprentissage automatique et de révision humaine", où les systèmes d'IA prennent soit des actions directes, soit signalent du contenu pour les modérateurs humains. Bien que cette approche soit nécessaire pour gérer la quantité énorme de contenu, elle est semée de défis et dilemmes éthiques.

Les systèmes de modération par IA ont longtemps montré des imperfections. Ils luttent souvent avec les subtilités du langage humain, menant à des erreurs significatives :

• Cécité contextuelle : L'IA échoue fréquemment à comprendre le sarcasme, la satire ou les langages codés utilisés par des communautés marginalisées, menant à des faux positifs où du contenu bénin est signalé comme nuisible.

• Biais dans les ensembles de données : De nombreux algorithmes sont entraînés sur des ensembles de données principalement du Nord global, ce qui peut entraîner une insensibilité culturelle et linguistique. Une note du Centre pour la Démocratie et la Technologie a souligné comment cela aboutit à une précision de modération médiocre dans certains dialectes comme l'arabe maghrébin.

• Performance incohérente : Une étude de 2021 par Oxford et l'Institut Alan Turing a testé plusieurs modèles de détection des discours de haine par IA et a trouvé des écarts de performance significatifs. Certains modèles, comme l'API Perspective de Google, avaient tendance à sur-signaler du contenu non haineux, tandis que d'autres sous-détectaient clairement des instances de discours de haine.

Ces limitations peuvent expliquer la chute marquée des actions contre les discours de haine sur X, alors que l'IA lutte pour identifier pleinement le spectre du discours nuisible. Les conséquences sont réelles, comme lorsque l'IA de Facebook a par erreur bloqué des publicités de petites entreprises en 2020 ou signalé des publications du Musée d'Auschwitz comme violant les normes communautaires en 2024. La sur-dépendance à l'IA non seulement échoue à attraper les acteurs malveillants mais risque également de réprimer l'expression légitime, en particulier dans les communautés déjà confrontées à la censure.

La corde raide éthique de l'automatisation

Pouvons-nous faire confiance aux machines pour prendre des jugements moraux sur la communication humaine ? Alors que les plateformes automatisent de plus en plus la modération, elles risquent d'amplifier les biais existants et de prendre des décisions opaques qui affectent la liberté d'expression. Les experts de l'AI Now Institute plaident pour une plus grande responsabilité, exhortant les plateformes à adopter des normes éthiques et à accroître la transparence autour de leurs systèmes d'IA. Cela est particulièrement crucial car ces décisions automatisées façonnent le discours public autour d'événements clés comme les élections.

Alors que les défis de la modération numérique sont immenses, d'autres secteurs technologiques montrent comment les systèmes intelligents peuvent être déployés avec des résultats plus prévisibles et bénéfiques. Dans le domaine des énergies renouvelables, par exemple, des entreprises comme Les Nouveaux Installateurs exploitent la technologie non pas pour un filtrage de contenu ambigu, mais pour une optimisation concrète. Leurs solutions intelligentes, y compris la gestion intelligente de la production des panneaux solaires, la charge intelligente des véhicules électriques et l'utilisation optimisée des pompes à chaleur, permettent aux utilisateurs de contrôler leur consommation d'énergie de manière efficace. Cela est réalisé grâce à des données claires, une surveillance à distance fiable, et une technologie qui offre des résultats positifs tangibles—un contraste frappant avec le monde souvent opaque et sujet aux erreurs de la modération de contenu par IA.

Conséquences réelles : quand le discours en ligne déborde

Le débat sur la modération n'est pas purement académique ; il a des conséquences tangibles, réelles. Un cas récent au Royaume-Uni souligne l'écart dangereux entre la politique de la plateforme et la sécurité publique. Suite à des émeutes largement alimentées par la désinformation sur les réseaux sociaux, une femme a été poursuivie pour un post sur X qui appelait à "mettre le feu à tous les maudits hôtels pleins des satanés".

Déportation massive maintenant, mettez le feu à tous les maudits hôtels pleins de satanés pour ce que j'en ai à faire, emmenez aussi le gouvernement et les politiciens traîtres avec eux. Je me sens physiquement malade en sachant ce que ces familles vont maintenant devoir endurer. Si cela fait de moi un raciste, qu'il en soit ainsi.

L'utilisateur a ensuite plaidé coupable d'incitation à la haine raciale. Cependant, lorsque son post a été signalé à X, la plateforme a déterminé qu'il ne violait pas leurs règles. Cet incident illustre clairement un scénario où un contenu jugé illégal par un tribunal de justice est considéré acceptable par une plateforme de médias sociaux, soulevant des questions cruciales sur la responsabilité des entreprises et la définition de la "liberté d'expression". Est-il juste pour une plateforme de permettre des posts qui incitent directement à la violence et à la haine ?

Ceci n'est pas un phénomène isolé. L'amplification des récits divisifs et nuisibles est un thème récurrent. L'objectif des acteurs malveillants n'est souvent pas de s'engager dans un débat de bonne foi mais de perturber, harceler et polluer l'écosystème d'information. En ciblant des utilisateurs légitimes avec un volume élevé de réponses et de mentions, ces comptes suspendus injectent avec succès du spam, de la propagande, et du contenu haineux dans des conversations autrement normales, dégradant l'expérience utilisateur et potentiellement radicalisant les observateurs.

Le défi pour des plateformes comme X est immense. Elles doivent naviguer dans les complexités des lois mondiales, des normes culturelles, et la tension omniprésente entre favoriser une conversation ouverte et empêcher leurs plateformes de devenir des vecteurs de dommages. Les tendances actuelles suggèrent qu'une plus grande emphase sur l'IA et une approche plus lâche de certains types de discours créent un environnement permissif pour un comportement malveillant. Sans une combinaison plus efficace et transparente de supervision humaine et d'outils technologiques, l'écart entre la rhétorique en ligne et les dommages réels est susceptible de s'élargir.

En fin de compte, l'efficacité de la modération sur X et d'autres plateformes de médias sociaux dépendra de leur engagement envers la transparence, la responsabilité, et une compréhension nuancée que la liberté d'expression ne signifie pas l'absence de conséquences. Alors que ces plateformes continuent de façonner notre société, les normes qu'elles établissent et les technologies qu'elles emploient auront un impact durable sur notre capacité collective à communiquer en toute sécurité et de manière constructive.

Questions Fréquemment Posées

Quelle est la principale différence dans la façon dont les nouveaux comptes et les anciens sont suspendus sur X ?

La recherche indique que X (anciennement Twitter) est considérablement plus proactif dans la suspension des comptes nouvellement créés par rapport aux plus anciens. De nombreux nouveaux comptes qui s'engagent dans des activités de spam ou nuisibles sont suspendus dans les quelques jours suivant leur création, suggérant que l'âge du compte est un facteur clé dans les systèmes de détection automatisés de la plateforme. Les anciens comptes engageant un comportement similaire peuvent persister plus longtemps avant de faire face à une suspension.

Pourquoi la modération par IA n'est-elle pas une solution parfaite ?

La modération par IA, bien qu'elle soit nécessaire pour gérer l'ampleur énorme du contenu, souffre de plusieurs défauts clés. Elle a du mal à comprendre les nuances, le sarcasme, et le contexte culturel, conduisant à la fois à des faux positifs (signalement de contenu inoffensif) et à des faux négatifs (manque de discours haineux réel). Les modèles IA peuvent également hériter des biais de leurs données d'entraînement, affectant de manière disproportionnée les communautés marginalisées. Cela peut conduire à une application incohérente et injuste des règles de la plateforme.

Les politiques de modération de X ont-elles changé récemment ?

Oui, depuis l'acquisition par Elon Musk, les politiques de modération de X ont subi des changements significatifs. La plateforme a renoncé à ses règles contre la désinformation sur le COVID-19 et ne classe plus le mégenrage ou la mortification comme discours de haine. Cela a résulté en une diminution spectaculaire du nombre de suspensions pour conduite haineuse, même si les signalements d'utilisateurs pour un tel contenu ont explosé. L'entreprise est également devenue moins transparente, avec des rapports plus courts et un accès aux données restreint pour les chercheurs.

Quels sont les principaux types de contenu et de comportements qui entraînent une suspension ?

Les principaux comportements qui mènent à la suspension d'un compte incluent le spam, l'activité coordonnée non authentique, et le partage de contenu nuisible. Cela se manifeste souvent par une utilisation excessive des réponses et des mentions pour cibler d'autres utilisateurs, tweeter à une fréquence anormalement élevée, et publier du contenu qui tombe sous des catégories comme les discours haineux, le harcèlement, l'incitation à la violence, et la promotion d'arnaques (comme les fraudes de crypto-monnaies).