A Comissão Europeia abriu um novo processo contra a rede social X, de Elon Musk, para averiguar a circulação de imagens falsas de nudez envolvendo mulheres e menores geradas pelo assistente de inteligência artificial Grok. O inquérito pretende apurar se a plataforma violou a Lei dos Serviços Digitais (DSA), que obriga empresas de grande porte a prevenir e remover conteúdos ilegais.
Nova investigação amplia pressão regulatória
Segundo a presidente da Comissão Europeia, Ursula von der Leyen, o bloco “não tolerará comportamentos irresponsáveis” que exponham crianças e mulheres a abusos online. A dirigente afirmou que “existem medidas, mas é necessário fazer mais” para proteger os cidadãos dentro e fora da internet. O novo dossiê complementa uma investigação iniciada em dezembro de 2023 que já resultou numa multa de 120 milhões de euros à plataforma.
A ampliação do escrutínio ocorre porque o Grok permite criar, a partir de fotografias reais, imagens falsas de nudez de pessoas, incluindo menores. O recurso foi parcialmente limitado após críticas, mas continua disponível nos países onde tal prática não é proibida por lei. Para Bruxelas, a manutenção da funcionalidade indica possível descumprimento de obrigações de «dever de cuidado» estipuladas pela DSA.
Além do procedimento europeu, governos como França e Reino Unido iniciaram processos próprios e, em alguns casos, chegaram a bloquear ou suspender o acesso à rede social. A convergência de ações nacionais e comunitárias pressiona a empresa a adotar filtros mais rigorosos ou desativar o recurso em toda a região.
Estudos indicam escala massiva do conteúdo sexualizado
Levantamento do Center for Countering Digital Hate relatou a geração de cerca de três milhões de imagens sexualizadas de mulheres e crianças em apenas 11 dias, uma média de 190 arquivos por minuto. Já a organização AI Forensics analisou mais de 20 000 imagens produzidas pelo Grok e concluiu que mais de metade retratava pessoas com pouca roupa; entre elas, 81 % eram mulheres e 2 % pareciam menores de idade.
Esses números serviram de base para pedidos de investigação feitos por entidades de defesa de direitos digitais e da infância. A Comissão Europeia quer verificar se a empresa implementou mecanismos eficazes de verificação de idade, moderação humana e remoção rápida de conteúdo ilícito, como exige a legislação.
Imagem: NewsUp Brasil
Se forem confirmadas infrações adicionais, a rede social poderá enfrentar novas multas que podem atingir até 6 % do seu faturamento global. Em casos extremos, as autoridades podem impor restrições de acesso ou exigir mudanças técnicas mandatórias na plataforma.
Tensão transatlântica e possíveis retaliações
O endurecimento regulatório alimenta receios de novos atritos entre Bruxelas e Washington. Autoridades europeias admitem a possibilidade de retaliações do presidente dos Estados Unidos, Donald Trump, que já acusou a União Europeia de visar empresas americanas. Em dezembro, o governo norte-americano impôs sanções ao ex-comissário Thierry Breton e a outros quatro responsáveis pela formulação da DSA e por iniciativas de combate à desinformação.
Questionada sobre o impasse, Von der Leyen reiterou que a proteção de menores “não está em negociação” e que a legislação europeia é aplicável a todas as plataformas, independentemente da origem. A rede social X, por sua vez, afirmou ter adaptado a ferramenta Grok aos requisitos locais e nega violar as normas.
Com a investigação formal em curso, a Comissão Europeia iniciará a fase de recolha de provas e poderá emitir decisões provisórias antes de um veredito final. O caso destaca a crescente atenção que reguladores globais dedicam às aplicações de inteligência artificial e ao impacto destas na segurança dos usuários mais vulneráveis.
