Elon Musk afirmou nesta quarta-feira (14) que não tem qualquer registro de “imagens de menores nus” produzidas pelo Grok, chatbot da sua empresa xAI. A declaração foi publicada na rede social X, plataforma também controlada pelo empresário, e surge no momento em que autoridades de vários países pressionam Apple e Google a retirar o serviço das respetivas lojas de aplicativos.
Declaração de Musk e defesa do funcionamento do Grok
Segundo Musk, o Grok é programado para recusar pedidos que violem leis locais ou envolvam conteúdo ilegal. “Obviamente, o Grok não gera imagens espontaneamente; ele o faz apenas quando um utilizador solicita”, escreveu. O executivo acrescentou que qualquer pessoa que tente produzir material ilícito com a ferramenta deve responder legalmente da mesma forma que aconteceria se enviasse o conteúdo para a internet por métodos tradicionais.
A manifestação responde a críticas de parlamentares, entidades civis e especialistas em segurança digital. Na semana passada, três senadores democratas dos Estados Unidos pediram à Apple e ao Google que removam o Grok e o próprio aplicativo X das lojas. Eles alegam que a plataforma facilita a criação e disseminação de imagens sexuais não consensuais envolvendo mulheres e menores de idade.
Restrições recentes e questionamentos sobre a eficácia
Como resposta preliminar, a X reduziu a capacidade do Grok de gerar ou editar imagens públicas para grande parte dos utilizadores. Apesar da medida, órgãos de fiscalização e profissionais do setor afirmam que o sistema continua apto a criar conteúdo sexualmente explícito. Para esses grupos, o acesso pago a determinadas funcionalidades não impede totalmente que recursos avançados de geração de imagens permaneçam disponíveis.
Uma coalizão formada por organizações de defesa de mulheres, vigilantes de tecnologia e grupos progressistas também exige que as gigantes de software limitem a distribuição do Grok. A principal alegação é a dificuldade em monitorar, de forma preventiva, pedidos que resultem em material ilícito. Até o momento, nem Apple nem Google se pronunciaram sobre eventual retirada do aplicativo.
Investigações, bloqueios e cenário internacional
No cenário global, a xAI e a X enfrentam investigações e ações judiciais em diferentes jurisdições. Malásia e Indonésia já bloquearam o acesso ao Grok, argumentando que a empresa não apresentou mecanismos suficientes para proteger utilizadores contra conteúdo prejudicial. Processos judiciais em curso nos dois países apuram falhas da plataforma na prevenção de abusos.
No Reino Unido, o Parlamento deve aprovar esta semana uma alteração legal que criminaliza a criação de imagens íntimas geradas por inteligência artificial sem consentimento das vítimas. O primeiro-ministro Keir Starmer afirmou que a X está colaborando para cumprir as novas exigências, embora detalhes sobre eventuais mudanças técnicas ou políticas internas não tenham sido divulgados.
Imagem: Internet
Próximos passos e implicações para a indústria
Especialistas em regulação digital apontam que o caso Grok pode influenciar novos padrões de responsabilidade para empresas que oferecem ferramentas de IA generativa. Pressões governamentais e possíveis remoções de lojas de aplicativos costumam forçar ajustes rápidos em políticas de moderação e monitorização.
Para a xAI, eventuais bloqueios adicionais podem restringir o crescimento de utilizadores globais e dificultar a monetização do serviço. Já para Apple e Google, a decisão de remover ou manter o Grok nas respetivas plataformas coloca-as no centro do debate sobre liberdade de expressão, segurança online e dever de cuidado com menores.
Musk não indicou alterações técnicas imediatas além das restrições anunciadas na semana anterior. Entretanto, afirmou que a empresa continuará a “garantir conformidade com as leis de qualquer país ou estado” e reiterou que acredita ser possível conciliar inovação em IA com salvaguardas contra uso indevido.
Enquanto isso, grupos de direitos civis mantêm a pressão para que sejam adotados filtros mais robustos, auditorias externas e relatórios transparentes sobre solicitações rejeitadas. Observadores do setor também sugerem que a criação de normas internacionais possa reduzir disparidades entre alegações de conformidade das empresas e as exigências legais de cada jurisdição.
O debate prossegue, e, por ora, a permanência do Grok nas principais lojas de aplicativos depende de negociações com reguladores, da eficácia das atuais limitações técnicas e da capacidade de demonstrar que o sistema bloqueia, de forma fiável, qualquer tentativa de gerar conteúdo ilegal.
