A xAI, empresa de inteligência artificial fundada por Elon Musk, limitou o uso da ferramenta de criação de imagens do chatbot Grok na rede social X depois de críticas globais à divulgação de conteúdos sexualizados produzidos sem consentimento dos retratados.
Função permitia remoção de roupas e poses sensuais
Até esta semana, qualquer utilizador do X podia solicitar ao Grok a edição de fotografias de pessoas, incluindo a remoção de peças de vestuário e a colocação das figuras em posições sexualizadas. O próprio bot publicava o resultado na sequência da conversa, tornando o material imediatamente visível na plataforma.
A facilidade desencadeou forte reação negativa de autoridades, especialistas e grupos de direitos digitais, que classificaram a prática como potencial violação de privacidade e incentivo a assédio. Entre as críticas mais duras, a Comissão Europeia considerou “ilegais e chocantes” as imagens de mulheres e crianças sem roupa que começaram a circular no serviço.
Restrição vale só para assinantes pagos
Em comunicado interno publicado nesta sexta-feira, o Grok informou que seus recursos de geração e edição de imagens passam a estar disponíveis apenas para assinantes do plano pago do X. A mudança impede o bot de produzir automaticamente imagens em respostas públicas de perfis gratuitos, reduzindo a exposição imediata do conteúdo.
Apesar do novo bloqueio, utilizadores continuam a conseguir criar imagens sexualizadas pela aba dedicada ao Grok dentro do X — desde que mantenham uma subscrição ativa — e podem republicar esses ficheiros no feed da rede social. Já o aplicativo autónomo do Grok, fora do ecossistema do X, continua a disponibilizar a função de forma aberta, sem cobrança.
Para testar a novidade, um repórter da Reuters pediu ao chatbot que transformasse a própria fotografia em um retrato de biquíni. O Grok recusou o pedido e explicou que a ferramenta está restrita a assinantes, confirmando a aplicação das novas regras.
Empresas e governos mantêm pressão
A resposta institucional da xAI aos questionamentos da imprensa limitou-se a um e-mail automático com a frase “Legacy Media Lies” (“mentiras da mídia tradicional”). A equipa da rede social X, por sua vez, não comentou a decisão até o momento.
Elon Musk afirmou, na semana passada, que utilizadores que empregarem o sistema para criar conteúdo ilegal enfrentarão as mesmas consequências de quem fizer upload direto desse material. Ele não especificou, contudo, quais seriam as sanções.
Imagem: Internet
Para a Comissão Europeia, a restrição anunciada não resolve o problema. “Limitar a criação e a edição de imagens a assinantes pagos não altera a nossa preocupação fundamental: com ou sem assinatura, não queremos ver esse tipo de conteúdo”, declarou um porta-voz do órgão.
Outras autoridades reguladoras iniciaram investigações formais sobre o caso. O ministro alemão da Mídia, Wolfram Weimer, descreveu a proliferação de imagens de semidesnudo como “industrialização do assédio sexual”.
Mudança tenta conter riscos legais e de reputação
Especialistas em direito digital apontam que a publicação de deepfakes com teor sexual pode infringir legislações de proteção de dados e gerar processos cíveis e criminais contra a plataforma. Ao transferir a funcionalidade para um ambiente pago, a xAI procura reduzir o alcance de conteúdos potencialmente ilícitos e demonstrar às autoridades que adota medidas de controle.
A eficácia da estratégia, porém, ainda será avaliada pelos reguladores. Se o material continuar a surgir no X ou noutras aplicações ligadas ao Grok, a empresa poderá enfrentar multas e exigências de remoção, especialmente dentro da União Europeia, que endureceu regras para serviços online.
O episódio expõe o desafio crescente de conciliar avanços em inteligência artificial com salvaguardas éticas e legais. Enquanto empresas correm para oferecer recursos cada vez mais sofisticados, governos apertam a fiscalização para evitar abusos e proteger usuários contra conteúdos não consensuais.
