O Grok, assistente de inteligência artificial integrado à rede social X, controlada por Elon Musk, passou a restringir a geração e a edição de imagens aos utilizadores pagantes. A mudança entrou em vigor nesta sexta-feira (9) após críticas sobre a produção de conteúdos sexualmente explícitos que retratavam mulheres e menores mediante montagem de fotografias reais.
Restrição foi resposta a controvérsia global
Nos últimos dias, utilizadores da versão gratuita relataram que o sistema criava imagens em que pessoas pareciam nuas, embora não tivessem posado dessa forma. As montagens — obtidas por edição de fotos ou vídeos originais — motivaram protestos de organizações de defesa dos direitos das mulheres e da infância em diversos países.
Quando a função ficou indisponível, o assistente emitiu a mensagem: “A geração e a edição de imagens estão atualmente reservadas aos assinantes pagos. Você pode assinar para desbloquear essas funções”. A decisão desagradou autoridades, que consideraram inadequado transformar um recurso passível de uso ilegal num serviço premium.
Reações governamentais no Reino Unido e na União Europeia
Em Londres, um porta-voz do primeiro-ministro britânico, Keir Starmer, afirmou que a medida “simplesmente converte um mecanismo de criação de imagens ilegais num benefício para quem paga”, classificando o gesto como “um insulto às vítimas de misoginia e violência sexual”. O governo britânico já havia cobrado “ação urgente” da plataforma para conter a disseminação de nudez falsa gerada por IA.
Em Bruxelas, a Comissão Europeia declarou ter “tomado conhecimento das últimas alterações”, porém avaliou que a restrição não resolve o problema. “Com ou sem assinatura, não queremos ver esse tipo de conteúdo”, destacou Thomas Régnier, porta-voz para Assuntos Digitais. Segundo ele, a exigência do bloco é que as plataformas projetem sistemas capazes de impedir a criação de material considerado ilegal desde a origem.
Na quinta-feira (8), o órgão executivo da União Europeia anunciou a aplicação de uma medida cautelar ao X. A plataforma foi obrigada a preservar, até o fim de 2026, todos os documentos internos relacionados ao Grok, facilitando eventual investigação sobre violações da Lei de Serviços Digitais (DSA, na sigla em inglês).
Pressão regulatória e histórico de sanções
A medida cautelar soma-se a penalidades já impostas pela UE. No início de dezembro, o X recebeu multa de 120 milhões de euros por descumprir a DSA, legislação que obriga empresas de tecnologia a moderar conteúdos ilícitos e proteger usuários. A infração ocorreu mesmo após alertas públicos de autoridades europeias.
Além da esfera europeia, outros governos discutem iniciativas para coibir a circulação de deepfakes pornográficos. O episódio envolvendo o Grok intensificou debates no Reino Unido sobre leis que responsabilizem plataformas e criadores de IA por material abusivo. Nos Estados Unidos, parlamentares apresentaram projetos para criminalizar a produção de nudez falsa sem consentimento.
Imagem: Tecnologia e Inovação
Como funciona o Grok e o modelo de assinatura
O assistente de IA foi anunciado por Elon Musk como diferencial para assinantes do X, porém algumas funções vinham sendo testadas por utilizadores gratuitos. A partir da alteração desta sexta-feira, somente quem paga poderá gerar ou editar imagens. A plataforma não especificou se planeia implementar filtros adicionais nem detalhou o prazo para eventual reabertura da funcionalidade ao público em geral.
Nos planos pagos, o utilizador recebe selo de verificação, pode publicar textos mais extensos e, agora, mantém acesso exclusivo às ferramentas visuais do Grok. A empresa não divulgou números de adesão, mas associa a receita de assinatura ao financiamento do desenvolvimento de IA.
Desafios de moderação e exigências de transparência
Especialistas em direitos digitais apontam que limitar o recurso a assinantes não garante a eliminação de conteúdos abusivos. Embora o número de potenciais infratores diminua, o material gerado pode continuar a circular por meio de partilhas. Organizações de proteção à infância pedem mecanismos robustos de verificação de pedidos, detecção automática de nudez e auditoria independente dos modelos de IA.
A Comissão Europeia exige que plataformas que operam no bloco demonstrem transparência sobre algoritmos, procedimentos de moderação e avaliação de riscos. Ao ordenar a preservação de documentos, Bruxelas pretende analisar se o design do Grok facilita a criação de imagens ilegais, o que poderia acarretar novas penalidades.
Próximos passos para a plataforma
Procurada por autoridades e entidades civis, a empresa controladora do X não detalhou quais ajustes técnicos serão implementados. O porta-voz do primeiro-ministro britânico reforçou que o governo espera “solução completa” em curto prazo. Já a Comissão Europeia monitorará o cumprimento da ordem de retenção e avaliará se novas ações regulatórias são necessárias.
Enquanto isso, o debate sobre responsabilidade na geração de conteúdo via inteligência artificial continua a ganhar relevância. Legisladores europeus discutem ampliar a DSA e criar regras específicas para IA generativa, incluindo requisitos de marca-d’água e sanções mais severas. O caso Grok torna-se exemplo de pressão crescente sobre empresas tecnológicas para prevenir abusos antes que eles ocorram.
