A Indonésia interrompeu, no sábado (10), o acesso ao Grok, assistente de inteligência artificial ligado à rede X e a Elon Musk. A medida foi anunciada depois de relatos de que usuários estariam gerando imagens pornográficas falsas, criadas a partir de fotos ou vídeos de pessoas reais. O governo classificou a prática como uma violação grave dos direitos humanos.
Decisão do governo e fundamentos
O Ministério das Comunicações e Digitalização, comandado por Meutya Hafid, justificou a suspensão temporária como uma ação de “proteção a mulheres, crianças e à sociedade em geral”. Na nota oficial, a pasta considerou os deepfakes sem consentimento um risco à dignidade e à segurança dos cidadãos, além de um atentado à privacidade.
O bloqueio vale para todo o território indonésio e permaneceu sem prazo definido para ser revisto. A decisão inclui também a convocação de representantes da plataforma X no país para prestar esclarecimentos sobre mecanismos de moderação e prevenção de abuso de inteligência artificial.
Autoridades locais explicaram que a legislação indonésia já prevê sanções a conteúdos obscenos e violentos, mas as ferramentas de IA elevaram o potencial de disseminação e dificultaram a identificação de responsáveis. Segundo o ministério, a suspensão busca pressionar a empresa a apresentar salvaguardas técnicas capazes de impedir a produção e o compartilhamento de material sem consentimento.
Resposta do Grok e reação internacional
Um dia antes do bloqueio, o perfil oficial do Grok na plataforma X informou que a geração e a edição de imagens passariam a ser restritas a assinantes pagos. A decisão não foi suficiente para acalmar críticas fora da Indonésia. No Reino Unido, um porta-voz do primeiro-ministro Keir Starmer classificou a mudança como “um insulto às vítimas de misoginia e violência sexual”, alegando que transformar o recurso em serviço premium apenas monetiza uma prática potencialmente ilegal.
Em Bruxelas, a Comissão Europeia declarou que tomou conhecimento das alterações implementadas pelo Grok, mas avaliou as medidas como “insuficientes” para garantir o cumprimento das regras de segurança digital vigentes no bloco. As instituições europeias acompanham a aplicação da Lei de Serviços Digitais, que exige transparência e controle rigoroso sobre algoritmos e conteúdos nocivos.
Organizações de direitos digitais também manifestaram preocupação. Grupos de proteção à privacidade argumentam que o bloqueio pontual não resolve a origem do problema: a facilidade de criar deepfakes cada vez mais realistas sem barreiras técnicas significativas. Especialistas alertam que, mesmo com assinaturas pagas, os conteúdos podem circular livremente em outras plataformas, escapando de filtros automáticos.
Caminhos para a liberação do serviço
O governo indonésio condicionou a retomada do Grok no país à apresentação de um plano de ação que inclua:
Imagem: NewsUp Brasil
• Implementação de sistemas automáticos capazes de detectar e bloquear solicitações de nudez não consentida.
• Procedimentos de denúncia mais rápidos para vítimas de deepfakes.
• Relatórios periódicos sobre moderação e volume de conteúdos sensíveis.
• Garantias de que imagens geradas sejam marcadas com metadados que indiquem a sua origem artificial.
Representantes da plataforma X ainda não detalharam como pretendem cumprir esses requisitos. A empresa limitou-se a afirmar que está empenhada em “colaborar com as autoridades indonésias” e que “revê continuamente as suas políticas de segurança”.
Impacto no ecossistema de IA
Analistas de mercado observam que o bloqueio imposto pela Indonésia pode desencadear ações semelhantes em outros países do sudeste asiático, região que tem demonstrado tolerância cada vez menor a conteúdos considerados nocivos. Singapura e Malásia, por exemplo, já discutem revisões legislativas para responsabilizar fornecedores de IA quando os sistemas forem usados para violar leis locais.
Para empresas de tecnologia, cresce o desafio de equilibrar inovação e conformidade regulatória. O episódio ilustra a pressão sobre ferramentas generativas, cujas capacidades evoluem em ritmo mais rápido do que os marcos legais. Como consequência, serviços que oferecem criação de imagem ou vídeo por IA tendem a reforçar controles preventivos, sob pena de perder acesso a mercados populosos.
Até o momento, a Indonésia não divulgou estatísticas sobre o número de imagens ilegais já geradas via Grok, nem informou se outras plataformas com recursos semelhantes serão alvo de fiscalização. Enquanto isso, grupos de defesa dos direitos digitais pedem normas globais para combater deepfakes, argumentando que legislações fragmentadas dificultam a proteção eficaz das vítimas.
