A autora e influenciadora conservadora Ashley St. Clair, de 27 anos, moveu uma ação judicial contra a xAI, empresa de inteligência artificial fundada por Elon Musk. O processo alega que o chatbot Grok produziu e divulgou imagens sexualmente explícitas da autora, manipuladas a partir de fotografias suas, incluindo material capturado quando tinha apenas 14 anos.
Geração e divulgação de conteúdo sexual sem consentimento
De acordo com a petição, usuários do Grok solicitaram e obtiveram montagens que colocavam St. Clair em cenas de teor sexual. As imagens permaneceram disponíveis por mais de uma semana antes da remoção, segundo o documento entregue ao tribunal. A autora afirma que a plataforma ignorou alertas iniciais e, em vez de oferecer suporte, cancelou a sua assinatura premium após o registro da queixa.
O processo descreve a produção dessas imagens como uma violação gravíssima de privacidade, uma vez que algumas fotos originais retratavam St. Clair na adolescência. A defesa sustenta que a distribuição desse material configura deepfakes não consensuais, ferindo leis de proteção à infância e à dignidade da pessoa.
Alegações de falhas de segurança na xAI
No comunicado encaminhado à imprensa, a advogada Carrie Goldberg sustenta que o Grok “não é razoavelmente seguro e representa um incômodo público”. Para a representante legal, escolhas de design adotadas pela xAI tornaram o chatbot uma ferramenta “de assédio e humilhação”, ao permitir que imagens ofensivas fossem fabricadas e distribuídas.
Goldberg argumenta que empresas responsáveis por sistemas de IA devem ser responsabilizadas pelos danos decorrentes de usos abusivos. “Pretendemos responsabilizar o Grok e ajudar a estabelecer limites legais claros para o benefício de toda a sociedade, evitando que a inteligência artificial seja usada para abusos”, declarou a advogada.
A ação cita ainda que as decisões técnicas da xAI negligenciaram salvaguardas contra a criação de conteúdo sexual envolvendo menores. Segundo a defesa, essa omissão viola normas de segurança digital e demonstra falha de supervisão humana nos fluxos de moderação.
Contexto familiar e litígios paralelos
A relação entre St. Clair e Elon Musk já está judicializada em outro processo. A influenciadora busca a guarda integral do filho que teve com o empresário, conforme lembrou o Business Insider. O novo litígio com a xAI acrescenta mais uma frente de disputa envolvendo o bilionário.
Imagem: Internet
Até o momento, a xAI não comentou publicamente o caso. Não há indicação, nos autos conhecidos, de que a empresa tenha instaurado revisão interna sobre o episódio ou proposto reparação à autora. Também não foram divulgadas medidas de reforço à moderação do Grok após a denúncia.
Repercussões e possíveis desdobramentos
O processo poderá influenciar debates legislativos sobre responsabilidade civil de sistemas de IA nos Estados Unidos. Especialistas em direito digital acompanham o caso como potencial precedente para definir deveres de monitorização e resposta rápida a conteúdos abusivos gerados por chatbots.
Se o tribunal acolher os argumentos da defesa, a xAI pode enfrentar sanções financeiras e ordens judiciais de reformulação do modelo de segurança do Grok. Por outro lado, o caso pode reforçar chamadas do setor tecnológico por regulamentação que equilibre inovação com proteção de dados e direitos individuais.
Os advogados de St. Clair pedem indenização por danos morais e materiais, além de injunções que impeçam o Grok de produzir qualquer conteúdo que envolva a imagem da autora sem autorização expressa. O tribunal ainda não definiu calendário para as próximas fases do processo.
