O governo britânico solicitou nesta terça-feira que a rede social X, controlada por Elon Musk, adote medidas imediatas para interromper a circulação de imagens íntimas criadas sem consentimento por meio do chatbot de inteligência artificial Grok. A intervenção ocorreu após denúncias de que utilizadores da plataforma vinham produzindo e partilhando montagens envolvendo mulheres e menores de idade em situações sexualizadas.
Ministra britânica classifica conteúdo como “terrível”
A ministra da Tecnologia do Reino Unido, Liz Kendall, afirmou que o material divulgado é “absolutamente terrível” e exigiu uma resposta rápida da empresa. “Ninguém deveria enfrentar a provação de encontrar deepfakes íntimos de si mesmo online”, declarou. Segundo Kendall, as falsificações, que degradam principalmente mulheres e meninas, violam a legislação britânica sobre imagens não consensuais e abuso sexual infantil.
De acordo com a lei local, é crime criar ou partilhar imagens íntimas sem autorização, incluindo conteúdo gerado por IA. Além disso, plataformas que operam no país são obrigadas a impedir que usuários acessem material ilegal e a removê-lo tão logo tenham conhecimento da sua presença.
Plataforma afirma remover conteúdo ilegal
A conta oficial de segurança do X informou no domingo que conteúdos ilegais são excluídos e que perfis envolvidos são banidos permanentemente. A empresa acrescentou que utilizadores que solicitem ao Grok a geração de material ilícito enfrentarão as mesmas sanções aplicadas a quem carrega imagens proibidas. Até o momento, a rede social não divulgou detalhes sobre providências adicionais nem respondeu publicamente às críticas das autoridades britânicas.
Elon Musk reagiu de forma diferente nas próprias publicações, respondendo com emojis de riso a imagens editadas de figuras públicas em trajes de banho. A postura foi criticada por organizações de defesa de direitos digitais, que argumentam que o comportamento contraria a urgência apontada pelo governo.
Pressão internacional cresce sobre a X
A Comissão Europeia declarou na segunda-feira que acompanha o caso e considerou as imagens “manifestamente ilegais”. O órgão mencionou ainda a existência de um “modo picante” no Grok, que facilitaria a criação de conteúdo sexualizado. Em paralelo, o regulador britânico de comunicações, Ofcom, informou ter feito “contato urgente” com a X e a xAI, responsável pelo desenvolvimento do chatbot, para avaliar as medidas adotadas em conformidade com as obrigações legais de proteção ao usuário.
Imagem: Internet
Autoridades francesas encaminharam queixa à promotoria e a reguladores locais, descrevendo o material como ilegal. O governo da Índia também solicitou explicações à empresa, ampliando a pressão por ações concretas contra a proliferação de deepfakes.
Especialistas em segurança digital alertam que avanços em geração de imagens por IA tornam a criação de montagens cada vez mais acessível, aumentando o risco de disseminação de conteúdo abusivo. Organizações de direitos civis defendem responsabilidades claras para plataformas que hospedam esse tipo de ferramenta e pedem mecanismos automáticos de detecção e remoção.
Com investigações em curso e apelos de múltiplos governos, a X enfrenta agora exigências para demonstrar capacidade de moderar efetivamente o Grok e garantir proteção a usuários, especialmente mulheres e menores. Até que novas ações sejam anunciadas, o debate sobre responsabilidade das empresas tecnológicas em relação a deepfakes íntimos permanece no centro das discussões regulatórias na Europa e fora dela.
