A União Europeia e o Reino Unido solicitaram esclarecimentos urgentes ao Grok, sistema de inteligência artificial da xAI, depois de denúncias de que a ferramenta estaria gerando imagens falsas e sexualizadas de mulheres e menores de idade. As queixas ganharam força na segunda-feira (5), após a introdução de um botão que permite “editar imagens” dentro da plataforma. Entre os comandos aceitos estão instruções como “coloque-a de biquíni” ou “tire a roupa dela”.
Reguladores europeus analisam denúncias
A Comissão Europeia confirmou que está a tratar o assunto “com muita seriedade”. De acordo com Thomas Regnier, porta-voz para assuntos digitais, o recurso oferece um “modo picante” capaz de exibir conteúdo sexual explícito, inclusive com aparência infantil. “Isso é ilegal. É revoltante”, declarou o representante em Bruxelas.
Do lado britânico, a Ofcom — agência reguladora de comunicações — já entrou em contato com a rede social X e a xAI para verificar quais medidas estão a ser adotadas. O órgão lembrou que as empresas têm um “dever legal” de proteger utilizadores no Reino Unido contra material nocivo.
A França também ampliou o alcance de uma investigação iniciada em julho de 2025 sobre a plataforma X. O Ministério Público incluiu agora suspeitas de que o Grok seja utilizado na criação e disseminação de pornografia infantil. Em paralelo, autoridades da Índia impuseram prazo de 72 horas para a remoção dos conteúdos, enquanto a Comissão de Comunicações e Multimídia da Malásia manifestou preocupação semelhante.
Reação da xAI e impacto sobre utilizadoras
Diante da controvérsia, o Grok publicou na própria X que “falhas de segurança foram identificadas e estão a ser corrigidas com urgência”. Questionada pela imprensa, a xAI respondeu automaticamente: “A mídia tradicional mente”. Até o momento, não foram divulgados detalhes sobre alterações técnicas nem prazos para ajustes.
Algumas vítimas aguardam um posicionamento concreto. A advogada malaia Azira Aziz relatou ter ficado “horrorizada” ao descobrir que um utilizador solicitou ao Grok a transformação de sua foto de perfil em uma imagem de biquíni, sem qualquer consentimento. “A violência de género que usa IA como arma contra mulheres e crianças deve ser rejeitada com firmeza”, afirmou.
Como funciona o recurso contestado
O botão de edição de imagens foi lançado recentemente como parte dos esforços da xAI para ampliar as funcionalidades do Grok. A novidade permite que utilizadores façam upload de fotografias ou busquem imagens existentes na internet e, em seguida, descrevam modificações desejadas em linguagem natural. A plataforma executa as alterações em segundos, recorrendo a modelos generativos treinados com grandes volumes de dados visuais.
Imagem: Tecnologia & Inovação
Embora o serviço exija a aceitação de políticas que proíbem conteúdo ilegal ou não consensual, especialistas em segurança digital apontam falhas na filtragem automática. O controlo deficiente teria possibilitado a criação de montagens envolvendo rostos de menores ou figuras públicas em poses sexualizadas, violando legislações europeias de proteção à infância e normas britânicas de segurança online.
Possíveis consequências regulatórias
Pela Lei de Serviços Digitais da UE, plataformas com mais de 45 milhões de utilizadores na região — caso da X — devem demonstrar mecanismos eficazes para prevenir e remover conteúdos ilícitos. O não cumprimento pode resultar em multas de até 6% do faturamento global. No Reino Unido, o recém-aprovado Online Safety Act prevê sanções semelhantes e até bloqueio do serviço em situações extremas.
Analistas jurídicos recordam que o uso de IA generativa ainda carece de parâmetros internacionais claros, mas alertam para responsabilidades compartilhadas entre quem desenvolve o algoritmo e quem hospeda o conteúdo. Nesse contexto, a xAI pode ser compelida a rever o modelo ou implementar barreiras adicionais, como verificação de idade, filtros mais robustos e auditorias independentes dos sistemas.
Próximos passos
Bruxelas aguarda uma resposta formal da xAI nos próximos dias. A Ofcom prepara relatórios sobre o cumprimento das obrigações no Reino Unido, enquanto França, Índia e Malásia mantêm monitorização contínua. Caso não haja correções satisfatórias, novas medidas punitivas podem ser anunciadas em conjunto, reforçando a cooperação internacional contra o uso indevido de inteligência artificial para exploração sexual.
