Agência Nacional de Proteção de Dados (ANPD), Ministério Público Federal (MPF) e Secretaria Nacional do Consumidor (Senacon) enviaram uma notificação conjunta ao X, antigo Twitter, determinando a remoção imediata de imagens de conteúdo sexual geradas pela inteligência artificial Grok. O documento estabelece ainda a suspensão da criação de novos conteúdos sintéticos sexualizados, envolvendo menores ou adultos, sem consentimento expresso.
Medidas determinadas pelos órgãos federais
A recomendação principal prevê o bloqueio imediato da funcionalidade do Grok que permite criar fotos ou vídeos com conotação sexual. Além disso, o X recebeu prazo de 30 dias para adotar procedimentos técnicos capazes de identificar e apagar materiais desse tipo que já circulam na plataforma.
Para reforçar o cumprimento, os órgãos solicitaram a suspensão de contas que utilizem a ferramenta para produzir ou divulgar deepfakes eróticas. A rede social deverá apresentar relatórios mensais detalhando o número de perfis bloqueados, conteúdos removidos e medidas adicionais implementadas.
A notificação também exige a implantação de um canal de denúncias acessível, no qual vítimas possam solicitar a retirada de imagens e exercer direitos previstos na Lei Geral de Proteção de Dados (LGPD). O mecanismo deve oferecer respostas rápidas e documentar cada solicitação para possível auditoria.
Outro ponto obrigatório é a elaboração de um Relatório de Impacto à Proteção de Dados. O documento deverá descrever riscos, salvaguardas e fluxos de tratamento aplicados a arquivos enviados pelos utilizadores ao Grok, com especial atenção ao uso não autorizado de imagens de menores.
Riscos apontados e possíveis sanções
Segundo ANPD, MPF e Senacon, a circulação de fotos ou vídeos manipulados digitalmente ameaça a dignidade humana e o direito à privacidade. As instituições afirmam que a prática provoca danos de “difícil reparação”, sobretudo quando afeta mulheres, crianças e adolescentes expostos sem permissão.
Os órgãos federais consideram a intervenção “urgente e necessária” para impedir que a tecnologia seja utilizada como escudo para crimes contra a honra ou violações de direitos fundamentais. Caso o X não cumpra todas as determinações, a empresa poderá enfrentar sanções administrativas, aplicação de multas elevadas e, em último caso, ações judiciais para restringir operações no Brasil.
Imagem: Tecnologia Inovação Notícias
Além da remoção de conteúdo e do bloqueio de perfis, os órgãos fiscalizadores sinalizaram que continuarão a monitorar a plataforma para garantir a efetividade das medidas. Qualquer indício de reincidência poderá motivar novas exigências ou intensificar processos já em curso.
A notificação ocorre após denúncias de que utilizadores do Grok estariam criando deepfakes pornográficas de pessoas reais, publicando-as ou partilhando-as em grupos sem qualquer autorização. Relatos mencionam a substituição digital de roupas por peças íntimas, configurando exposição sexual não consentida.
Em nota, o Instituto Brasileiro de Defesa do Consumidor (Idec) classificou a iniciativa governamental como “meramente burocrática”. O órgão avalia que a resposta chega quase um mês após os primeiros alertas e considera insuficiente para proteger vítimas de violações já ocorridas.
Procurada pelos órgãos fiscalizadores, a administração do X ainda não divulgou posicionamento público sobre as determinações nem detalhou quais ajustes técnicos serão implementados para atender às exigências.
Os próximos passos incluem a análise do Relatório de Impacto, a verificação dos relatórios mensais prometidos pela plataforma e a checagem de eventuais melhorias no sistema de denúncias. Caso o X apresente soluções consideradas efetivas, o processo pode ser arquivado. Se as medidas forem avaliadas como parciais ou ineficazes, novas penalidades poderão ser aplicadas.
