Elon Musk afirmou nesta quarta-feira que não tem conhecimento de qualquer “imagem de menores nus” produzida pelo Grok, chatbot de inteligência artificial da sua empresa xAI. A declaração ocorreu na rede social X, plataforma que também pertence ao empresário, no momento em que governos, parlamentares e organizações civis intensificam pedidos para que Apple e Google retirem o aplicativo das respetivas lojas.
Posicionamento do empresário e mecanismos do chatbot
Segundo Musk, o Grok apenas cria conteúdo quando solicitado pelo utilizador e está programado para recusar pedidos ilegais. “Literalmente zero”, respondeu o executivo ao ser questionado sobre eventuais imagens de menores geradas pela ferramenta. O empresário acrescentou que qualquer pessoa que utilize o chatbot para produzir material ilícito estará sujeita às mesmas consequências legais aplicáveis a quem publica esse tipo de conteúdo por outros meios.
A xAI desenvolveu o Grok para interagir em linguagem natural, incluindo a produção e edição de imagens. O recurso, contudo, passou a receber críticas depois que especialistas em segurança digital identificaram falhas nos filtros de moderação. Na semana passada, a X restringiu a capacidade de muitos utilizadores de gerar ou editar imagens publicamente, mas analistas afirmam que o recurso ainda consegue criar material sexualmente explícito, sobretudo por meio de funções pagas ou menos visíveis.
Pressão de legisladores e organizações civis
Em Washington, três senadores do Partido Democrata enviaram ofício a Apple e Google exigindo a remoção do Grok e do próprio aplicativo da X das lojas virtuais. Os parlamentares alegam que a plataforma tem sido utilizada para distribuir imagens sexuais não consensuais de mulheres e de menores. Uma coligação formada por grupos de defesa dos direitos das mulheres, entidades de vigilância tecnológica e ativistas progressistas reforçou o pedido, argumentando que as políticas de moderação atuais não impedem a propagação desse tipo de conteúdo.
O debate ganhou contornos internacionais. Malásia e Indonésia já bloquearam o acesso ao Grok e iniciaram ações judiciais contra a xAI e a X por alegadas falhas na prevenção de conteúdo nocivo. Os governos desses países sustentam que a empresa não implementou medidas suficientes para proteger utilizadores vulneráveis.
Novas legislações e impacto para a plataforma
No Reino Unido, a legislação deve ser atualizada ainda esta semana para criminalizar a criação de imagens sexuais geradas por IA envolvendo menores ou adultos sem consentimento. O primeiro-ministro Keir Starmer declarou que a X mantém diálogo com as autoridades para adequar seus serviços às exigências futuras.
Imagem: Tecnologia e Inovação
Especialistas em direito digital observam que mudanças regulatórias semelhantes avançam em várias jurisdições, aumentando o risco de sanções financeiras e proibições regionais para aplicações de IA que não comprovem mecanismos robustos de verificação e bloqueio. Embora Musk sustente que o Grok respeita as legislações locais, agências de fiscalização alertam que sistemas generativos dependem de filtros probabilísticos e, portanto, sujeitos a falhas.
Consequências potenciais para a xAI e para o ecossistema de IA
Em meio às controvérsias, analistas de mercado avaliam que a imagem da xAI pode sofrer danos relevantes, afetando acordos comerciais e captação de investimento. Além disso, a discussão reforça o escrutínio sobre modelos de IA generativa no setor tecnológico, sobretudo quanto à capacidade de impedir a produção de material ilegal em larga escala.
Entidades de proteção infantil defendem padrões de verificação mais rigorosos, como validação de idade e limitação do acesso a recursos de criação de imagens. Já organizações de direitos digitais alertam para o perigo de censura excessiva e para a necessidade de equilíbrio entre liberdade de expressão e proteção de grupos vulneráveis.
Até o momento, Apple e Google não anunciaram decisões formais sobre a permanência do Grok nas lojas de aplicativos. A xAI afirma que continua a aperfeiçoar os filtros de moderação e que colabora com autoridades para garantir o cumprimento de todas as normas vigentes.
