A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) enviaram uma recomendação conjunta à controladora da rede social X para que a ferramenta de inteligência artificial Grok deixe de ser usada na criação e distribuição de conteúdos sexualizados sem consentimento. O documento estabelece prazo de 30 dias para que sejam implantados mecanismos de identificação, revisão e remoção de material que já circula na plataforma.
Recomendações das autoridades
As três instituições pedem a suspensão imediata das contas envolvidas na geração de imagens eróticas, incluindo deepfakes de adultos ou de crianças e adolescentes. Também solicitam a criação de procedimentos técnicos e operacionais capazes de impedir que novos conteúdos semelhantes sejam produzidos a partir de comandos fornecidos pelos utilizadores do Grok.
O texto exige ainda a implantação de um canal acessível para que titulares de dados possam exercer direitos previstos na legislação brasileira, como pedir exclusão de imagens, relatar uso abusivo de dados pessoais e denunciar conteúdos gerados sem autorização. Segundo o documento, o sistema de atendimento deve garantir resposta adequada em prazo razoável.
Motivações e base legal
A recomendação foi motivada por denúncias de utilizadores, reportagens nacionais e internacionais e testes conduzidos pelas próprias autoridades, que identificaram a produção de imagens sintéticas de caráter sexual envolvendo pessoas reais. O material inclui fotografias e vídeos manipulados por inteligência artificial para inserir mulheres, crianças e adolescentes em situações pornográficas.
Para ANPD, Senacon e MPF, essas práticas violam a proteção de dados pessoais, afetam relações de consumo e atingem direitos fundamentais, como a dignidade da pessoa humana. O documento recorda que o artigo 19 do Marco Civil da Internet limita a responsabilização de plataformas por conteúdos de terceiros, mas ressalta que deepfakes sexuais resultam de interação direta entre utilizador e ferramenta proprietária do X, tornando a rede social coautora do material.
O texto também menciona decisão recente do Supremo Tribunal Federal que declarou parcialmente inconstitucional o mesmo artigo 19, ao entender que ele oferece proteção insuficiente contra crimes graves, sobretudo aqueles direcionados a mulheres. Segundo o STF, provedores têm dever especial de cuidado para prevenir a circulação massiva de conteúdos ilícitos.
Além da legislação, as autoridades citam a própria política interna do X, que proíbe nudez não consensual e a manipulação de imagens de terceiros com conteúdo sexual. Conforme o documento, manter o Grok sem filtros rigorosos contraria essas regras de autorregulação.
Consequências do descumprimento
Se a plataforma não adotar as medidas recomendadas ou apresentá-las de forma considerada insuficiente, ANPD, Senacon e MPF podem recorrer a outras ações administrativas e judiciais. As possibilidades incluem processos para garantir remoção de conteúdo, aplicação de multas e responsabilização civil, com foco na proteção de mulheres, crianças e adolescentes.
Imagem: Ultimas Notícias
As instituições reforçam que a recomendação não impede investigações criminais individuais nem o ajuizamento de ações coletivas. Segundo o documento, o objetivo é prevenir a continuidade de práticas que facilitam a produção e a disseminação de material sexual não autorizado, potencialmente lesivo à honra, à privacidade e à integridade das vítimas.
O prazo de 30 dias começou a contar a partir da publicação da recomendação, realizada na terça-feira, 20 de fevereiro. Até o encerramento desse período, a controladora do X deverá enviar relatório detalhando as providências adotadas. O texto determina que as medidas sejam eficazes tanto para conteúdos já gerados quanto para impedir novas criações.
Entre as ações esperadas estão:
- bloqueio automático de comandos que envolvam representação sexual de menores;
- detecção e remoção rápida de imagens eróticas de pessoas identificáveis sem consentimento;
- auditoria interna do Grok para verificar falhas nos filtros de segurança;
- suspensão de contas reincidentes;
- canal transparente para denúncias de violações de dados.
As entidades sustentam que a adoção dessas medidas é necessária para reduzir riscos associados a tecnologias de geração de imagem, preservar direitos fundamentais e cumprir as exigências da Lei Geral de Proteção de Dados Pessoais, do Código de Defesa do Consumidor e de normas internacionais de direitos humanos.
Até o momento, a controladora do X não divulgou posicionamento público sobre as recomendações. Caso seja comprovada omissão ou resistência, as autoridades poderão solicitar à Justiça ordens de bloqueio de funcionalidades ou até da própria ferramenta de inteligência artificial no território brasileiro.
