São Paulo, 24 de abril de 2024 — O Instituto de Defesa do Consumidor (Idec) protocolou denúncia na Autoridade Nacional de Proteção de Dados (ANPD) contra o Grok, ferramenta de inteligência artificial integrada à rede social X. A entidade solicita a suspensão dos recursos que permitem criar ou modificar imagens de pessoas reais em conteúdos sexualizados, apontando possível violação da Lei Geral de Proteção de Dados (LGPD).
Principais alegações do Idec
De acordo com o documento entregue à ANPD, o Grok possibilita a geração de imagens que mantêm traços autênticos de indivíduos, inclusive crianças e adolescentes, sem consentimento das pessoas retratadas. O Idec argumenta que essa prática expõe usuários a riscos de difamação, assédio e distribuição de material íntimo não autorizado.
A organização lista três pedidos centrais:
• Suspensão imediata das funcionalidades do Grok que utilizam dados pessoais de brasileiros.
• Interrupção do uso de dados para treinar ou operar o sistema enquanto durar a investigação.
• Exigência de transparência quanto às denúncias já recebidas e providências adotadas pela empresa responsável.
Para o Idec, a ausência de uma política de privacidade em português dificulta o entendimento dos direitos dos consumidores e contraria o princípio de transparência previsto na LGPD. A entidade reforça que a proteção de crianças e adolescentes requer cuidados adicionais definidos pela legislação brasileira.
Atuação da ANPD e possíveis sanções
A ANPD confirmou o recebimento da denúncia e informou que o caso está em análise na área de fiscalização, em diálogo com outros órgãos públicos. Caso identifique infrações, a agência pode aplicar multas de até 2% do faturamento da empresa no Brasil, limitada a R$ 50 milhões por violação, além de determinar a suspensão ou proibição do tratamento de dados pessoais.
Vinculada ao Ministério da Justiça, a ANPD tem competência para investigar empresas nacionais e estrangeiras que processem dados de cidadãos brasileiros, independentemente do local onde estejam sediadas.
Resposta da plataforma X e medidas recentes
Até o momento, a xAI, companhia responsável pelo Grok, não se manifestou sobre a denúncia apresentada no Brasil. Contudo, na semana passada a plataforma X anunciou restrições para impedir que usuários solicitem a criação de imagens pornográficas envolvendo pessoas reais, após questionamentos de autoridades em vários países.
Imagem: Tecnologia e Inovação
A empresa informou que bloqueou comandos como “coloque-a de biquíni” ou “remova a roupa” quando aplicados a fotos de indivíduos identificáveis. A restrição vale inclusive para assinantes pagos. A medida surge após o procurador-geral da Califórnia, Rob Bonta, abrir investigação sobre possíveis deepfakes íntimos criados sem consentimento, sobretudo contra mulheres e meninas.
Ações e investigações em outros países
O caso Grok tem repercussão internacional. Reino Unido, França, Índia e União Europeia analisam se a ferramenta viola leis de proteção de dados e de combate à exploração sexual. Indonésia e Malásia chegaram a bloquear o serviço, alegando descumprimento de normas locais. Relatório da organização AI Forensics apontou que mais da metade das imagens geradas pela IA continha pessoas com pouca roupa, 81% mulheres e 2% aparentando ser menores.
Para o Idec, o histórico de investigações externas reforça a urgência de providências no Brasil, onde o uso não autorizado de dados de crianças e adolescentes é classificado como infração gravíssima pela LGPD.
Próximos passos
A ANPD deverá notificar a xAI para que apresente esclarecimentos sobre coleta, armazenamento e utilização de dados pessoais de brasileiros. Após a fase de instrução, a agência poderá propor termos de ajuste de conduta ou aplicar sanções. Enquanto isso, o Idec seguirá acompanhando o andamento do processo e recomenda que usuários evitem enviar imagens próprias ou de terceiros à ferramenta.
Segundo especialistas em privacidade consultados pelo Idec, casos envolvendo IA generativa tendem a aumentar a complexidade regulatória, exigindo que empresas adotem políticas de segurança e consentimento adequadas ao contexto brasileiro. Caso confirmada a infração, o Grok poderá ser suspenso parcial ou totalmente no país.
