O chatbot Grok, operado pela empresa xAI de Elon Musk, restringiu a edição de imagens depois de criar milhares de representações sexualizadas de mulheres e menores. A decisão foi anunciada na noite de ontem e ocorre em meio ao escrutínio de reguladores europeus e britânicos sobre a circulação de deepfakes e a eficácia das atuais regras de segurança digital.
Restrição surge após avalanche de imagens sexualizadas
No início de julho, o Grok produziu imagens hiper-realistas de adolescentes e mulheres sob efeito de drogas, em poses sugestivas e, por vezes, com marcas de agressão física. Parte desse conteúdo expôs menores digitalmente despidas e circulou de forma privada entre utilizadores do serviço. A repercussão levou autoridades do Reino Unido, França e Itália a abrir investigações, enquanto Malásia e Indonésia impuseram suspensões temporárias ao chatbot.
De acordo com a Ofcom, reguladora britânica de comunicações, o uso da ferramenta para criar nudez não consentida constitui possível violação da Lei de Segurança Online. O órgão declarou que sua investigação permanece em andamento, mesmo após a limitação imposta pela xAI. Já a Comissão Europeia indicou que, se as novas barreiras não forem suficientes, poderá recorrer a todos os instrumentos disponíveis na Lei de Serviços Digitais para forçar correções adicionais.
Foco dos reguladores está na responsabilidade da plataforma
As discussões em Bruxelas e Londres giram em torno de quem deve arcar com a prevenção e remoção de conteúdos íntimos não autorizados: o utilizador que faz o pedido ou a plataforma que fornece a tecnologia. A legislação britânica classifica o compartilhamento de imagens íntimas sem consentimento como “infração prioritária” e prevê multas de até 10% do faturamento anual para empresas que descumprirem a norma. Em casos extremos, tribunais podem ordenar que provedores de internet bloqueiem o serviço.
No Parlamento Europeu, deputadas pedem reforço na aplicação da Lei de Serviços Digitais para impedir que algoritmos sejam usados na sexualização de mulheres e crianças. Especialistas em privacidade observam, contudo, que o texto comunitário não cobre explicitamente a criação de nudez adulta por inteligência artificial, exigindo apenas rotulagem de deepfakes. Essa lacuna alimenta o debate sobre uma possível atualização das regras.
Musk recua após minimizar o problema
Elon Musk havia inicialmente criticado as investigações, classificando-as como exageradas. O empresário, porém, adotou nova postura após denúncias apontarem o envolvimento de menores nas imagens geradas. A xAI informou que bloqueou a criação de figuras usando trajes sumários ou poses sexualizadas em “jurisdições onde isso é ilegal”, sem detalhar quais países estão incluídos. Testes realizados pela agência Reuters indicaram que, ao menos em algumas regiões, o sistema deixou de atender a pedidos de conteúdo explícito na manhã de hoje.
Para a advogada sueca Ängla Pändel, especialista em proteção de dados, a reação revela a “zona cinzenta” que envolve nudez gerada por IA: falta consenso sobre o conceito de consentimento e sobre o alcance territorial das leis. O advogado britânico Alexander Brown acrescenta que a nova tecnologia amplia o desafio porque torna barata a produção de imagens falsas em larga escala.
Imagem: NewsUp Brasil
Impacto sobre vítimas e próxima etapa da regulação
Organizações de combate a violência on-line relatam aumento nas denúncias ligadas a montagens pornográficas de celebridades e pessoas comuns. A advogada norte-americana Carrie Goldberg, que representa vítimas de assédio cibernético, afirma que o alcance global de redes sociais amplia o potencial de danos emocionais e reputacionais.
No Reino Unido, o governo avalia ampliar a legislação para incluir a simples criação de imagens íntimas não consentidas, independentemente de divulgação. O primeiro-ministro Keir Starmer declarou que a liberdade de expressão “não inclui o direito de violar o consentimento” e prometeu mudanças adicionais se as atuais salvaguardas se mostrarem insuficientes.
Enquanto isso, especialistas recomendam que plataformas adotem filtros mais rigorosos e sistemas de verificação antes de disponibilizar recursos de edição avançada. A expectativa é que o caso Grok sirva de teste para a coordenação internacional na aplicação de sanções e na definição de responsabilidades sobre conteúdo gerado por inteligência artificial.
Com a limitação implementada, o Grok volta a operar em regiões onde havia sido restringido, mas permanece sob observação de autoridades europeias e asiáticas. Reguladores sinalizam que novas medidas poderão ser exigidas se surgirem brechas capazes de contornar o bloqueio atual.
