O Instituto Brasileiro de Defesa do Consumidor (Idec) protocolou uma denúncia na Agência Nacional de Proteção de Dados (ANPD) contra a ferramenta de inteligência artificial Grok, integrada à rede social X. A entidade pede a suspensão imediata dos recursos que permitem criar ou manipular imagens de pessoas reais em contextos sexualizados, alegando violação à Lei Geral de Proteção de Dados (LGPD) e riscos à privacidade de usuários brasileiros.
Denúncia e pedidos de urgência
No documento encaminhado à ANPD, o Idec argumenta que o Grok utiliza dados pessoais sem consentimento para gerar conteúdos que podem expor mulheres, crianças e adolescentes a constrangimentos ou violência digital. Entre as solicitações estão:
• Paralisação imediata das funcionalidades que empregam dados de pessoas reais;
• Interrupção do uso de informações pessoais no treinamento e operação do sistema;
• Apresentação, por parte da X, de relatórios detalhados sobre denúncias já recebidas e providências adotadas.
Para o Instituto, a continuidade de sistemas capazes de produzir “danos graves e previsíveis” demonstra a necessidade de atuação rápida do poder público. Em nota, a organização enfatizou que a proteção de dados, sobretudo de menores de idade, não pode ser tratada “como detalhe em nome da inovação”.
A crítica também recai sobre a transparência da plataforma. O Idec aponta que a política de privacidade do Grok não está disponível em português, dificultando que usuários compreendam como seus dados são coletados, armazenados e utilizados. A ausência dessa informação é considerada um entrave ao exercício dos direitos previstos na LGPD.
Repercussão internacional e pressão regulatória
A ação do Idec ocorre em meio a uma série de investigações envolvendo a IA de Elon Musk. Autoridades da União Europeia, Reino Unido, França e Índia exigiram mudanças ou remoção de conteúdo após identificarem uso indevido de imagens pessoais. Na Indonésia e na Malásia, o serviço já foi bloqueado, enquanto o Reino Unido analisa possível descumprimento de legislações locais.
Nos Estados Unidos, o procurador-geral da Califórnia, Rob Bonta, abriu procedimento para apurar se a tecnologia facilitou a produção em massa de deepfakes íntimos. O objetivo é verificar se a plataforma contribuiu para o assédio de mulheres e meninas com imagens não consentidas. Bonta declarou haver “tolerância zero” para material sexual envolvendo menores ou conteúdos gerados sem autorização das pessoas retratadas.
Imagem: Tecnologia & Inovação
Medidas anunciadas pela X
Pressionada por críticas globais, a X divulgou novas restrições: usuários, inclusive assinantes, estão impedidos de gerar imagens de pessoas reais em roupas íntimas, biquínis ou situações semelhantes em países onde o conteúdo é ilegal. A companhia afirma que o bloqueio vale imediatamente e busca evitar a produção de pornografia não consensual. Antes disso, a plataforma havia tentado limitar o recurso apenas a assinantes pagos, medida considerada insuficiente por reguladores.
A X também informou ter removido milhares de publicações na Índia depois de solicitações do governo, mas ainda não apresentou detalhes sobre os processos de moderação nem respondeu formalmente às demandas do Idec.
Dados levantados por organizações independentes
Relatório da ONG AI Forensics analisou imagens geradas pelo Grok e constatou que mais da metade retratava pessoas com pouca roupa. Do total, 81% mostravam mulheres e 2% aparentavam ser menores de idade, reforçando preocupações sobre exploração sexual infantil e exposição não consentida. Para o Idec, os números evidenciam o “caráter sistêmico” do problema e justificam medidas preventivas.
Até o momento, a ANPD não se pronunciou sobre a denúncia. Vinculada ao Ministério da Justiça, a agência é responsável por fiscalizar o cumprimento da LGPD e aplicar sanções em caso de infração. Procurada, a xAI, desenvolvedora da IA, também não emitiu comentários. O Idec aguarda resposta da autoridade e afirma que pode adotar novas medidas caso a suspensão não seja efetivada.
Com o avanço das investigações no Brasil e no exterior, a atuação de órgãos reguladores tende a definir o futuro do Grok no país. Autoridades avaliam se as salvaguardas prometidas pela X serão suficientes ou se será necessária a interrupção total do serviço para proteger direitos fundamentais dos usuários.
