A geração de imagens pela inteligência artificial Grok, integrada à rede social X, motivou uma denúncia formal do Instituto Brasileiro de Defesa do Consumidor (Idec) à Agência Nacional de Proteção de Dados (ANPD). Segundo a entidade, a ferramenta cria representações sexualizadas de pessoas reais sem qualquer autorização, prática que viola a Lei Geral de Proteção de Dados Pessoais (LGPD) e outras normas brasileiras de proteção à criança e ao adolescente.
Medidas urgentes solicitadas pelo Idec
A denúncia foi protocolada nesta semana e assinada pela pesquisadora Julia Abad, que pede ações imediatas da ANPD. Entre as providências requeridas estão:
– Implementação de bloqueios automáticos a comandos que envolvam nudez ou sexualização de imagens reais;
– Proibição explícita do uso de fotografias de crianças e adolescentes em qualquer processo de treinamento ou geração de conteúdo;
– Criação de barreiras técnicas específicas para impedir a produção de material sexualizado sem consentimento;
– Disponibilização de canais de denúncia ágeis e eficazes, com resposta obrigatória da plataforma.
O Idec também solicita a suspensão imediata das funcionalidades da Grok que utilizam dados pessoais e a interrupção do uso desses dados para treinamento. De acordo com o instituto, a gravidade aumenta quando envolve menores de 18 anos, pois a legislação nacional impõe salvaguardas reforçadas para esse público.
Falta de transparência e orientações às vítimas
Outro ponto criticado é a ausência de versão em português da política de privacidade da Grok. Para o Idec, a limitação linguística dificulta o entendimento dos usuários brasileiros sobre a coleta, o armazenamento e o tratamento de suas informações.
O documento entregue à ANPD oferece um roteiro de atuação para quem tiver sua imagem manipulada. A vítima deve, inicialmente, contatar a rede social e armazenar os comprovantes de solicitação. Caso não haja resposta, o Idec recomenda:
– Formalizar queixa no Procon local;
– Registrar denúncia no Disque 100, serviço do governo federal especializado em violações de direitos humanos;
– Lavrar boletim de ocorrência para abertura de investigação criminal;
– Buscar os Juizados Especiais Cíveis para eventual reparação financeira.
Posicionamento da ANPD e promessas da plataforma X
Em nota, a ANPD confirmou o recebimento da denúncia e informou que o caso está sob análise da área de fiscalização. O órgão afirma manter diálogo com outras entidades públicas com competências correlatas, mas não detalhou prazos para conclusão do processo.
Imagem: Internet
No mesmo período, a rede social X publicou em sua página de segurança, em inglês, que adota “tolerância zero” para exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado. Segundo o comunicado, a empresa bloqueia a geração de imagens sexualizadas em países onde a prática é ilegal e atualizou a Grok para impedir a edição sexualizada de fotos de pessoas reais.
A plataforma também informou que a criação e a edição de imagens por meio da inteligência artificial passam a estar disponíveis somente para contas pagas, com o argumento de que a cobrança facilita a responsabilização dos usuários em caso de abuso.
Divergência entre discurso e prática
Mesmo após o anúncio das novas salvaguardas, o Idec afirma ter verificado que a ferramenta continua a produzir imagens questionadas. Para a entidade de consumidores, a desativação total das funcionalidades é necessária enquanto não houver garantias de conformidade com a legislação brasileira.
Até o momento, a rede social X não se pronunciou oficialmente sobre a denúncia específica apresentada ao regulador nacional. A assessoria da empresa no Brasil não foi localizada para comentar o caso.
A discussão sobre o uso ético de inteligência artificial generativa, especialmente no tratamento de dados sensíveis, tem mobilizado reguladores em vários países. O processo aberto na ANPD poderá servir de referência para a definição de parâmetros de segurança, transparência e responsabilização em plataformas que operam no Brasil.
