A autoridade britânica de regulação dos meios digitais, a Ofcom, iniciou uma investigação formal à rede social X (antigo Twitter) devido à divulgação de imagens de caráter sexual produzidas pelo assistente de inteligência artificial Grok. O procedimento foi anunciado nesta segunda-feira (12) e procura apurar se a plataforma violou obrigações previstas na legislação do Reino Unido sobre segurança online.
Ofcom avalia possíveis infrações à Lei de Segurança Online
De acordo com comunicado do regulador, chegaram ao órgão “relatos muito preocupantes” de que usuários solicitaram ao Grok a criação de imagens que despem pessoas reais, a partir de fotos ou vídeos, para fins sexuais. Entre os conteúdos reportados há materiais que podem configurar pornografia infantil ou atentado ao pudor. Esses pedidos e a subsequente partilha das imagens teriam ocorrido dentro da própria rede social.
A Ofcom informou ter requisitado explicações ao X na semana anterior. A empresa respondeu dentro do prazo, mas os detalhes do retorno não foram divulgados. A investigação irá verificar se a rede:
- avaliou adequadamente o risco de acesso a conteúdos ilegais no Reino Unido;
- implementou medidas eficazes para remover material ilícito;
- protegeu crianças de conteúdos potencialmente nocivos.
Caso sejam constatadas violações, o regulador pode impor multas que chegam a 10% do faturamento global da companhia ou, em última instância, solicitar à Justiça o bloqueio do serviço no território britânico.
Função de criação de imagens é limitada após críticas
A repercussão negativa em torno das chamadas deep fakes sexuais levou o X a desativar, na sexta-feira (9), a geração de imagens para usuários que não pagam assinatura. A decisão foi anunciada poucos dias depois de governos de Indonésia e Malásia suspenderem o acesso ao Grok em seus respectivos países, no sábado e domingo.
Um porta-voz do primeiro-ministro britânico, Keir Starmer, afirmou que restringir o recurso apenas a assinantes “transforma uma função que permite a criação de imagens ilegais em um serviço premium” e classificou a medida como um “insulto às vítimas de misoginia e violência sexual”.
Pressão internacional e debates sobre IA generativa
O episódio reacende discussões globais sobre o uso de inteligência artificial para gerar conteúdo íntimo sem consentimento. Especialistas em segurança digital alertam que ferramentas desse tipo podem ser empregadas para assédio, extorsão ou propagação de pornografia infantil, exigindo respostas rápidas de autoridades e empresas.
Embora o X não tenha divulgado números de usuários afetados, organizações de proteção à infância ressaltam que a disseminação de imagens adulteradas pode causar danos psicológicos graves às vítimas. A legislação britânica prevê obrigações específicas às plataformas para avaliar riscos, remover material ilícito e impedir que menores sejam expostos a conteúdo inadequado.
Imagem: Tecnologia Inovação Notícias
Próximos passos da investigação
A Ofcom não estabeleceu prazo para conclusão do inquérito, mas indicou que analisará documentos enviados pela empresa, medidas de mitigação adotadas e relatórios independentes. O órgão também poderá exigir auditorias externas ou depoimentos de executivos do X.
Enquanto isso, países da região Ásia-Pacífico mantêm restrições ao Grok, e outras autoridades europeias observam o caso para avaliar eventuais sanções no âmbito de suas próprias legislações de proteção de dados e combate à exploração infantil.
O X, adquirido por Elon Musk em 2022, vem expandindo funcionalidades baseadas em IA generativa para competir com rivais do setor. Segundo analistas de mercado, a investigação britânica poderá influenciar futuros lançamentos e elevar custos de conformidade regulatória, sobretudo em mercados que aprovam normas mais restritivas para conteúdos gerados por algoritmos.
A empresa ainda não comentou publicamente sobre o impacto financeiro potencial das sanções. Caso se confirme a multa máxima prevista, o valor pode atingir centenas de milhões de dólares, considerando a receita global anual do grupo.
Até a conclusão do processo, a função de criação de imagens do Grok permanece disponível apenas para assinantes pagos, sob políticas de uso revistas. Autoridades recomendam que qualquer usuário que encontre material ilegal na plataforma denuncie imediatamente para agilizar a remoção e a investigação criminal, quando cabível.
