A plataforma de mídia social X de Elon Musk (anteriormente Twitter) está tomando medidas contra criadores que distribuem conteúdo gerado por IA representando zonas de guerra sem a devida divulgação. Esta medida ocorre em meio ao aumento das tensões no Oriente Médio, após os recentes ataques aéreos entre os EUA, Israel e o Irã, onde vídeos e imagens não verificados inundaram a plataforma.
Novas penalidades para criadores pagos
Nikita Bier, chefe de produto da X, anunciou na terça-feira que qualquer criador participante do programa de divisão de receitas da plataforma que compartilhe conteúdo de guerra gerado por IA sem rotulá-lo como tal enfrentará penalidades. As primeiras infrações resultarão em uma suspensão de três meses do programa, enquanto as violações repetidas poderão levar à remoção permanente. O programa de receita permite que criadores populares obtenham renda diretamente de suas postagens.
O objetivo é claro: desencorajar a propagação de desinformação durante momentos geopolíticos críticos. X usará Notas da Comunidade (correções sinalizadas pelo usuário) e ferramentas de detecção de IA para aplicar esta política.
Por que isso é importante
A capacidade de criar imagens de guerra falsas e convincentes usando IA está crescendo rapidamente. Uma pesquisa recente da CNET descobriu que menos da metade dos adultos norte-americanos (44%) conseguem identificar com segurança imagens e vídeos gerados por IA. Isto é particularmente perigoso durante conflitos, onde a desinformação pode aumentar as tensões, influenciar a opinião pública ou mesmo desencadear consequências no mundo real.
“Em tempos de guerra, é fundamental que as pessoas tenham acesso a informações autênticas”, afirmou Bier no X. “Com as tecnologias de IA de hoje, é trivial criar conteúdo que possa enganar as pessoas.”
Uma solução limitada?
Os críticos apontam que a nova política visa apenas os criadores que ganham dinheiro com a plataforma, deixando intocados aqueles que compartilham conteúdo não verificado fora do programa de receita. Isto levanta questões sobre a eficácia da repressão: irá combater genuinamente a desinformação ou apenas punir aqueles que são incentivados financeiramente pelo envolvimento?
X não esclareceu se medidas adicionais serão tomadas contra usuários não pagos que compartilham conteúdo semelhante. A empresa não respondeu imediatamente a um pedido de comentário.
A medida sinaliza uma consciência crescente dos perigos colocados pela desinformação impulsionada pela IA, mas o seu âmbito limitado levanta dúvidas sobre se irá realmente resolver o problema. A questão exige soluções mais amplas que vão além de apenas penalizar os criadores pagos.
