A plataforma X, controlada por Elon Musk, anunciou nesta quarta-feira (14) um conjunto de restrições destinadas a impedir que o chatbot de inteligência artificial Grok seja utilizado para criar imagens sexualizadas de pessoas reais. A decisão vem na sequência de críticas generalizadas e de várias ações regulatórias que apontaram o uso da ferramenta para produzir montagens íntimas não consentidas, incluindo conteúdo envolvendo mulheres e menores de idade.
Medidas de contenção
De acordo com a equipa de segurança do X, foram implementados mecanismos tecnológicos que bloqueiam a capacidade do Grok de editar fotografias de indivíduos em “biquínis, roupas íntimas e outras peças similares” sempre que essa prática for considerada ilegal na jurisdição do utilizador. A empresa salientou que a restrição vale para todas as contas, independentemente de o assinante utilizar ou não o serviço pago da plataforma.
“Implementámos medidas para impedir que a conta do Grok possibilite a edição de imagens de pessoas reais com vestuário revelador”, indicou o comunicado oficial. A companhia não divulgou detalhes técnicos sobre o método de detecção nem sobre eventuais exceções, limitando-se a afirmar que o bloqueio será geolocalizado e aplicado de forma imediata.
Investigações e pressões globais
O anúncio surge numa altura em que o procurador-geral da Califórnia, Rob Bonta, conduz uma investigação sobre a xAI, empresa de inteligência artificial de Musk, por suposta facilitação da criação em massa de montagens íntimas não consentidas. Bonta classificou a prática como “assédio a mulheres e meninas na internet” e declarou tolerância zero para a distribuição de material gerado por IA que explore sexualmente vítimas ou envolva pornografia infantil. A apuração visa determinar se a xAI violou legislação estadual ou federal.
A atenção de reguladores não se limita aos Estados Unidos. O gabinete do primeiro-ministro do Reino Unido, Keir Starmer, qualificou como “afronta às vítimas” a tentativa do X de restringir o recurso apenas a utilizadores pagantes, anúncio feito na semana passada pelo próprio Grok. O órgão regulador britânico Ofcom abriu processo para averiguar se a plataforma descumpriu a Lei de Segurança Online ao permitir deepfakes sexualizados.
Na Ásia, Indonésia e Malásia decidiram bloquear o acesso ao Grok, enquanto autoridades indianas relataram a remoção de milhares de publicações e centenas de contas associadas a conteúdos semelhantes. Na Europa, a comissária francesa para a infância, Sarah El Hairy, encaminhou imagens suspeitas ao Ministério Público, ao regulador de mídia Arcom e à Comissão Europeia. Bruxelas solicitou a suspensão total da geração desse tipo de conteúdo até nova avaliação.
Escalada de críticas
Relatórios compilados por organizações independentes contribuíram para a pressão sobre o X. Na semana passada, a ONG AI Forensics, sediada em Paris, analisou mais de 20 mil imagens produzidas pelo Grok e concluiu que mais da metade mostrava pessoas com pouca roupa; 81 % eram mulheres e 2 % aparentavam ser menores de idade. O estudo serviu de base para pedidos de intervenção governamental em diversos países.
Imagem: Tecnologia & Inovação
Os problemas ganharam repercussão depois de utilizadores da rede social demonstrarem que comandos simples, como “coloque-a num biquíni” ou “remova a sua roupa”, bastavam para que o algoritmo criasse montagens convincentes. Especialistas em segurança digital alertaram que tais conteúdos podem ser usados para extorsão, chantagem ou intimidação online, ampliando o risco para grupos vulneráveis.
Próximos passos e desafios
Musk ainda não comentou publicamente o novo pacote de restrições. Fontes internas indicam que a equipa técnica continuará a ajustar filtros e a monitorizar tentativas de contornar os bloqueios. Contudo, juristas e académicos recordam que, embora a remoção de funcionalidades ou o geobloqueio reduzam o volume de material ilícito, não eliminam integralmente o problema, sobretudo quando imagens são rapidamente partilhadas em outros serviços ou armazenadas fora da jurisdição original.
Analistas observam que o caso Grok ilustra a dificuldade de equilibrar inovação em inteligência artificial com proteção de direitos fundamentais. Reguladores europeus, por exemplo, preparam-se para aplicar o recém-aprovado AI Act, que impõe normas mais rígidas às empresas que oferecem geração de conteúdo. Já nos Estados Unidos, o debate legislativo sobre responsabilidades das plataformas de IA avança em ritmo desigual, dependente de iniciativas estaduais ou de intervenções judiciais.
Enquanto as investigações prosseguem, as autoridades californianas confirmaram que irão solicitar documentação técnica e relatórios internos da xAI. Caso sejam identificadas infrações, a empresa poderá enfrentar sanções financeiras e ordens de conformidade. Em paralelo, organizações de defesa de direitos digitais pedem transparência sobre algoritmos, dados de treino e mecanismos de verificação de idade utilizados pela plataforma.
Com o bloqueio agora em vigor, o X tenta responder à crescente contestação pública e regulatória. Resta saber se as medidas técnicas serão suficientes para conter novas controvérsias ou se ajustes adicionais terão de ser implementados à medida que a vigilância internacional se intensifica.
