Moderação no Twitter: Questões Principais, Políticas e Tecnologias

Como podemos navegar em um espaço digital que defende a livre expressão enquanto também precisamos proteger seus usuários de danos? Esta questão está no centro do debate contínuo sobre moderação de conteúdo no X (anteriormente Twitter), uma plataforma que se tornou um palco central para o discurso global, debate político e disseminação rápida de informações. O desafio de encontrar esse equilíbrio é mais complexo do que nunca, moldado por tecnologias em evolução, políticas em mudança e eventos do mundo real que testam os limites da governança online.

O Cenário em Mudança da Moderação no X

Em um movimento significativo após um hiato de dois anos, o X divulgou um relatório de transparência em setembro de 2024, oferecendo uma visão de suas práticas atuais de moderação. Os dados revelam uma tendência perplexa: enquanto as denúncias de conteúdo nocivo pelos usuários dispararam, as medidas de aplicação da plataforma não acompanharam o ritmo.

Durante a primeira metade de 2024, os usuários sinalizaram mais de 224 milhões de contas e tweets, um aumento impressionante de 1.830% em comparação com os 11,6 milhões relatados no final de 2021. Apesar desse aumento, o número de suspensões de contas cresceu apenas cerca de 300%, de 1,3 milhão para 5,3 milhões. Essa disparidade sugere uma mudança fundamental na forma como o X identifica e age sobre violações de políticas.

As mudanças são ainda mais iluminadas por políticas de plataforma em evolução. Sob nova liderança, regras sobre desinformação relacionada à COVID-19 foram revogadas, e ações como desrespeitar o gênero ou usar nome morto não são mais classificadas como discurso de ódio. Essa redefinição tem um impacto direto nos métricas de aplicação. Por exemplo:

• Conduta de Ódio: As suspensões por conduta de ódio caíram drasticamente para apenas 2.361 contas, em comparação com 104.565 na segunda metade de 2021.

• Segurança Infantil: De mais de 8,9 milhões de postagens relatadas por preocupações de segurança infantil, o X removeu apenas 14.571.

Essa nova abordagem, detalhada em um relatório condensado de 15 páginas, contrasta acentuadamente com as divulgações abrangentes de 50 páginas do passado. Ela aponta para um sistema tentando lidar com um imenso volume de relatórios enquanto opera sob um conjunto de regras revisadas e, talvez, mais flexíveis.

A Mecânica da Suspensão: Como o X Decide?

Entender quem é suspenso e por quê requer mais do que estatísticas; é preciso olhar os comportamentos subjacentes. Pesquisas sobre dinâmicas de moderação durante grandes eventos geopolíticos, como a invasão russa da Ucrânia em 2022 e a eleição presidencial francesa, fornecem insights cruciais sobre os padrões operacionais da plataforma.

Estudos que analisaram mais de 270 milhões de tweets identificaram tendências claras na criação e suspensão de contas durante períodos de discurso controverso e de alto volume. Durante esses períodos, há picos perceptíveis na criação de contas suspeitas, muitas das quais são suspensas pouco após aparecerem.

Novas vs. Antigas Contas: Uma Postura Proativa

Uma das descobertas mais significativas é que o Twitter parece ser muito mais proativo em suspender contas recém-criadas em comparação com contas mais antigas estabelecidas. Muitas contas maliciosas são suspensas em apenas alguns dias após sua criação, sugerindo que a idade da conta é um fator chave nos sistemas de detecção da plataforma. A vida útil de uma conta suspensa geralmente depende do nível de atividade; contas novas e hiperativas podem ser sinalizadas e removidas mais rapidamente, enquanto contas antigas envolvidas em comportamentos semelhantes podem persistir por mais tempo.

Essa abordagem proativa a novas contas é provavelmente uma estratégia para combater comportamento coordenado e inautêntico, como redes de bots e campanhas de spam, que muitas vezes dependem de contas recém-criadas para amplificar suas mensagens antes que sejam detectadas.

Comportamentos que Desencadeiam Suspensão

Contas suspensas, sejam novas ou antigas, tendem a exibir padrões comportamentais específicos que as distinguem dos usuários típicos. Estes incluem:

• Uso Excessivo de Respostas e Menções: Em vez de criar conteúdo original, essas contas muitas vezes inundam as respostas de usuários legítimos com spam, assédio ou propaganda.

• Alta Frequência de Tweets: Usuários suspensos frequentemente tweetam a uma taxa muito maior do que usuários ativos, indicando comportamento automatizado ou obsessivo. O tempo médio entre tweets para um usuário suspenso é significativamente menor.

• Compartilhamento de Conteúdo Nocivo: Uma análise qualitativa revela que contas suspensas têm muito mais probabilidade de compartilhar conteúdo classificado como spam ou prejudicial (incluindo discurso de ódio, linguagem abusiva e agressão) do que contas ativas.

Durante a eleição francesa de 2022, por exemplo, contas suspensas tinham mais probabilidade de ampliar hashtags divisivas como #toutsaufmacron (qualquer um menos Macron). Da mesma forma, durante a fase inicial do conflito na Ucrânia, muitas contas suspensas foram encontradas promovendo spam relacionado a criptomoedas. Esses padrões mostram que a suspensão está frequentemente ligada a abusos claros da plataforma destinados a manipular conversas ou explorar a atenção dos usuários.

Uma Nota sobre Transparência dos Dados

Pesquisadores enfrentam desafios significativos ao estudar a moderação. Plataformas como o X não divulgam o tempo exato ou a razão específica para a suspensão de uma conta. Analistas muitas vezes devem usar proxies, como a última atividade visível de uma conta, para estimar quando foi removida. Além disso, a descontinuação do acesso gratuito à API para pesquisadores tornou mais difícil monitorar e analisar essas tendências de forma independente, levantando preocupações sobre a responsabilidade da plataforma.

A Ascensão da Moderação por IA: Uma Espada de Dois Gumes?

No cerne da estratégia de moderação do X está uma dependência crescente na inteligência artificial. A plataforma afirma que usa uma "combinação de aprendizado de máquina e revisão humana", onde os sistemas de IA tomam ações diretas ou sinalizam conteúdo para moderadores humanos. Enquanto essa abordagem é necessária para lidar com o imenso volume de conteúdo, ela enfrenta desafios e dilemas éticos.

Sistemas de moderação por IA há muito demonstraram ser imperfeitos. Eles frequentemente enfrentam dificuldades com as nuances da linguagem humana, levando a erros significativos:

• Cegueira de Contexto: A IA frequentemente falha em entender sarcasmo, sátira ou linguagem codificada usada por comunidades marginalizadas, levando a falsos positivos onde conteúdos benignos são sinalizados como nocivos.

• Tendência em Conjuntos de Dados: Muitos algoritmos são treinados em conjuntos de dados principalmente do Norte Global, o que pode resultar em insensibilidade cultural e linguística. Um memorando do Centro pela Democracia e Tecnologia destacou como isso leva a uma baixa precisão de moderação em dialetos como o árabe magrebino.

• Desempenho Inconsistente: Um estudo de 2021 da Oxford e do Instituto Alan Turing testou vários modelos de detecção de discurso de ódio com IA e encontrou lacunas significativas de desempenho. Alguns modelos, como o API Perspective do Google, tendiam a sinalizar excessivamente conteúdo não odioso, enquanto outros subdetectavam instâncias claras de discurso de ódio.

Essas limitações podem explicar a queda acentuada nas ações contra discurso de ódio no X, à medida que a IA enfrenta dificuldades para identificar todo o espectro de retórica prejudicial. As consequências são reais, como visto quando a IA do Facebook bloqueou erroneamente anúncios de pequenas empresas em 2020 ou sinalizou postagens do Museu de Auschwitz como violação dos padrões da comunidade em 2024. O excesso de confiança na IA não só não consegue capturar atores maliciosos, mas também corre o risco de sufocar a expressão legítima, particularmente de comunidades que já enfrentam censura.

O Equilíbrio Ético da Automação

Podemos confiar em máquinas para fazer julgamentos morais sobre a comunicação humana? À medida que as plataformas automatizam cada vez mais a moderação, correm o risco de amplificar preconceitos existentes e tomar decisões opacas que impactam a livre expressão. Especialistas do AI Now Institute defendem maior responsabilidade, instando as plataformas a adotarem padrões éticos e aumentarem a transparência em torno de seus sistemas de IA. Isso é especialmente crítico à medida que essas decisões automatizadas moldam o discurso público em eventos importantes como eleições.

Enquanto os desafios na moderação digital são imensos, outros setores tecnológicos mostram como sistemas inteligentes podem ser implantados com resultados mais previsíveis e benéficos. No campo da energia renovável, por exemplo, empresas como Les Nouveaux Installateurs aproveitam a tecnologia não para filtragem ambígua de conteúdo, mas para otimização concreta. Suas soluções inteligentes, incluindo gestão inteligente de produção de painéis solares, carregamento inteligente para veículos elétricos e uso otimizado de bombas de calor, empoderam usuários a controlar eficientemente seu consumo de energia. Isso é alcançado por meio de dados claros, monitoramento remoto confiável e tecnologia que fornece resultados positivos e tangíveis—um contraste marcante com o mundo muitas vezes opaco e propenso a erros da moderação de conteúdo por IA.

Consequências do Mundo Real: Quando o Discurso Online Transborda

O debate sobre moderação não é meramente acadêmico; tem consequências tangíveis e reais. Um caso recente no Reino Unido destaca a perigosa lacuna entre política de plataforma e segurança pública. Após tumultos alimentados em grande parte por desinformação em redes sociais, uma mulher foi processada por uma postagem no X que incitava a "atear fogo em todos os hotéis cheios de b****."

Deportação em massa agora, ateiem fogo em todos os hotéis cheios de b**** por tudo que me interessa, enquanto estão nisso, levem o governo e os políticos traidores com eles. Eu me sinto fisicamente mal em saber o que essas famílias agora terão que suportar. Se isso me faz racista, que assim seja.

A usuária posteriormente se declarou culpada de incitar ódio racial. No entanto, quando sua postagem foi relatada ao X, a plataforma determinou que ela não violava suas regras. Esse incidente ilustra claramente um cenário onde conteúdo considerado ilegal por um tribunal de justiça é considerado aceitável por uma plataforma de mídia social, levantando questões críticas sobre responsabilidade corporativa e a definição de "livre expressão." É justo que uma plataforma permita postagens que incitam diretamente violência e ódio?

Esse não é um fenômeno isolado. A amplificação de narrativas divisivas e nocivas é um tema recorrente. O objetivo de atores maliciosos muitas vezes não é se engajar em debates de boa fé, mas sim desestabilizar, assediar e poluir o ecossistema de informações. Ao visar usuários legítimos com um alto volume de respostas e menções, essas contas suspensas conseguem injetar spam, propaganda e conteúdo odioso em conversas que de outro modo seriam normais, degradando a experiência do usuário e potencialmente radicalizando os espectadores.

O desafio para plataformas como o X é imenso. Elas devem navegar pelas complexidades das leis globais, normas culturais e a tensão sempre presente entre promover uma conversa aberta e evitar que suas plataformas se tornem vetores de dano. As tendências atuais sugerem que uma maior ênfase na IA e uma abordagem mais negligente a certos tipos de discurso estão criando um ambiente permissivo para comportamento malicioso. Sem uma combinação mais eficaz e transparente de supervisão humana e ferramentas tecnológicas, a lacuna entre a retórica online e o dano no mundo real provavelmente aumentará.

Em última análise, a eficácia da moderação no X e em outras plataformas de mídia social dependerá de seu compromisso com a transparência, a responsabilidade e uma compreensão matizada de que a liberdade de expressão não significa liberdade de consequências. À medida que essas plataformas continuam a moldar nossa sociedade, os padrões que estabelecem e as tecnologias que empregam terão um impacto duradouro em nossa capacidade coletiva de nos comunicarmos de forma segura e construtiva.

Perguntas Frequentes

Qual é a principal diferença em como novas vs. contas antigas são suspensas no X?

Pesquisas indicam que o X (anteriormente Twitter) é significativamente mais proativo em suspender contas recém-criadas em comparação com as antigas. Muitas contas novas que se envolvem em spam ou comportamento nocivo são suspensas dentro de dias após sua criação, sugerindo que a idade da conta é um recurso chave nos sistemas automatizados de detecção da plataforma. Contas antigas envolvidas em comportamento semelhante podem persistir por um período mais longo antes de enfrentar a suspensão.

Por que a moderação por IA não é uma solução perfeita?

A moderação por IA, embora necessária para lidar com a vasta escala de conteúdo, sofre de várias falhas chave. Ela tem dificuldades para entender nuances, sarcasmo e contexto cultural, levando tanto a falsos positivos (sinalizar conteúdo inofensivo) quanto a falsos negativos (não identificar discurso de ódio real). Os modelos de IA também podem herdar preconceitos de seus dados de treinamento, afetando desproporcionalmente comunidades marginalizadas. Isso pode levar a uma aplicação inconsistente e injusta das regras da plataforma.

As políticas de moderação do X mudaram recentemente?

Sim, desde a aquisição por Elon Musk, as políticas de moderação do X passaram por mudanças significativas. A plataforma revogou suas regras contra desinformação sobre COVID-19 e não classifica mais desrespeito ao gênero ou uso de nome morto como discurso de ódio. Isso resultou em uma queda dramática no número de suspensões por conduta odiosa, mesmo com o aumento nas denúncias de tais conteúdos pelos usuários. A empresa também se tornou menos transparente, com relatórios mais curtos e acesso restrito a dados para pesquisadores.

Quais são os principais tipos de conteúdo e comportamento que levam à suspensão?

Os principais comportamentos que levam à suspensão de uma conta incluem spamming, atividade inautêntica coordenada e compartilhamento de conteúdo nocivo. Isso frequentemente se manifesta como uso excessivo de respostas e menções para direcionar outros usuários, twittar a uma frequência anormalmente alta e postar conteúdo que se enquadra em categorias como discurso de ódio, assédio, incitação à violência e promoção de golpes (como fraude de criptomoeda).