O procurador-geral da Califórnia, Rob Bonta, anunciou hoje a abertura de uma investigação que coloca a empresa xAI e a rede social X, ambas controladas por Elon Musk, no centro de uma nova controvérsia. De acordo com o comunicado divulgado pelo Ministério Público estadual, a ferramenta de inteligência artificial Grok estaria a facilitar a criação em grande escala de montagens íntimas não consentidas, conhecidas como deepfakes, direcionadas sobretudo a mulheres e meninas.
Foco no uso de deepfakes para assédio online
Segundo Bonta, há indícios de que o Grok possibilita a produção e a difusão de imagens sexualmente explícitas geradas digitalmente sem autorização das pessoas retratadas. Essas montagens, que se espalham pela plataforma X, serviriam para humilhar, constranger ou chantagear as vítimas. O Ministério Público afirma que tal prática viola direitos de privacidade e pode configurar crime, principalmente quando envolve menores de idade.
Embora o comunicado não detalhe as etapas do processo, a investigação pretende apurar a extensão das violações e a responsabilidade da xAI, a desenvolvedora do Grok, por permitir que a tecnologia seja empregada de forma abusiva. O órgão público também quer entender se a rede social X adotou medidas suficientes para detectar, limitar e remover as imagens manipuladas.
Investigação soma-se a processos em outros países
O caso na Califórnia não é isolado. Autoridades de diversas jurisdições já iniciaram inquéritos semelhantes depois de surgirem relatos de que o Grok estaria envolvido na circulação de conteúdo sexual falsificado. Essas iniciativas refletem um aumento de preocupações sobre o impacto de ferramentas capazes de gerar imagens hiper-realistas, sobretudo quando utilizadas para expor indivíduos sem consentimento.
Em nota, Bonta ressaltou que a investigação estadual busca “garantir que empresas de tecnologia não se tornem cúmplices de violações de direitos”. Para o procurador, a facilidade de criação de deepfakes agrava o problema do assédio online, tornando mais difícil para as vítimas rastrear a origem do conteúdo e exigir reparação.
Empresas de Musk na linha de fogo
A xAI, responsável pelo desenvolvimento do Grok, foi fundada por Elon Musk para competir no mercado de inteligência artificial generativa. Já a plataforma X, também controlada pelo empresário, integra internamente a ferramenta. A proximidade entre as duas empresas levanta questões sobre eventuais falhas de coordenação no controle de conteúdos nocivos.
Imagem: NewsUp Brasil
Além da investigação anunciada hoje, tanto a xAI quanto a rede social X enfrentam críticas por sua política de moderação. Para as autoridades, a velocidade de disseminação das deepfakes, aliada à facilidade de criação oferecida pelo Grok, amplia os riscos para usuários vulneráveis, incluindo menores de idade.
Próximos passos do Ministério Público
O gabinete de Rob Bonta informou que reunirá provas, ouvirá especialistas e analisará eventuais reclamações de vítimas. Embora ainda não exista prazo para a conclusão do inquérito, o Ministério Público pretende avaliar se haverá necessidade de ações judiciais ou aplicação de multas. A investigação também poderá resultar em recomendações de mudanças técnicas ou políticas por parte das empresas investigadas.
No comunicado, Bonta salientou que a tecnologia não pode ser usada como escudo para práticas ilícitas. “Ferramentas poderosas exigem responsabilidade proporcional”, afirmou o procurador-geral, indicando que a prioridade é proteger cidadãos californianos de abusos facilitados por inovações de inteligência artificial.
A xAI e a rede social X não se pronunciaram sobre a investigação até o momento do anúncio. O caso continuará a ser acompanhado por autoridades reguladoras e por organizações que atuam na defesa de direitos digitais, interessadas em saber se as medidas tomadas serão suficientes para conter a proliferação de conteúdo sexual não consentido na internet.
