São Paulo, 9 de junho de 2024 — Testes recentes confirmaram que o ChatGPT consegue atender a solicitações para editar imagens e substituir roupas por trajes de banho, mesmo quando não há consentimento da pessoa retratada. O experimento, realizado com fotos do próprio repórter e personagens gerados por inteligência artificial, reproduziu procedimento idêntico ao que já havia sido identificado no Grok, modelo da xAI, e põe em evidência riscos de violação de privacidade e de enquadramento criminal no Brasil.
Mudanças nas políticas e brechas nos modelos
A OpenAI afirma manter filtros para bloquear pedidos que infrinjam suas políticas, mas reconhece ter “ajustado” recentemente o algoritmo para evitar bloqueios considerados excessivos, como imagens de amamentação ou trajes de banho em contextos não sexualizados. Ainda assim, a empresa declara aplicar medidas contra uso não consensual de fotografias e prevê suspensão de contas em caso de reincidência.
A xAI, controladora do Grok, declarou ter implementado restrições específicas para impedir edições que envolvam “roupas reveladoras como biquínis” após receber sinalizações de autoridades asiáticas e europeias. A diferença prática é que o Grok publica automaticamente as imagens geradas numa conta da rede social X, facilitando a rastreabilidade, enquanto o ChatGPT mantém o conteúdo apenas na interface do utilizador, tornando mais difícil mensurar a escala do problema.
Apesar das salvaguardas, investigadores demonstram que comandos ligeiramente reformulados conseguem contornar bloqueios de ambos os sistemas. Fóruns como Reddit chegaram a hospedar tutoriais detalhados para remover roupas de mulheres reais em plataformas de IA, incluindo ChatGPT e Gemini. O Reddit removeu as publicações após contato de veículos de imprensa, invocando violação de regras internas.
Consequências jurídicas no Brasil
No país, manipular, produzir ou divulgar conteúdo íntimo falso é crime, com pena de reclusão entre dois e seis anos, além de multa. A legislação prevê agravante quando a vítima é mulher, criança, idoso ou pessoa com deficiência. Mesmo que a edição resulte apenas em trajes de banho, juristas consideram que se trata de divulgação de imagem íntima sem autorização, conforme decisão do Superior Tribunal de Justiça em 2020.
Especialistas em segurança digital sublinham que a tecnologia amplia o alcance do dano. Segundo a diretora de pesquisa do InternetLab, Clarice Tavares, a mera intenção de sexualizar a imagem já configura violação de consentimento. O cientista da computação Marcelo Rinesi, que colaborou nos primeiros testes do Dall-E, lembra que o risco de produzir pornografia não consensual foi uma das primeiras preocupações apresentadas à OpenAI.
Escala global do problema
Entre 5 e 6 de janeiro, análises independentes apontaram que o Grok gerou até 6.700 imagens por hora classificadas como sugestivas ou de nudez. No mesmo período, os cinco principais sites de geração de imagens com IA reunidos produziram, em média, 79 imagens desse tipo por hora. A disparidade reflete a ausência de filtros robustos na época em que o Grok foi lançado.
Imagem: Internet
No caso do ChatGPT, a ausência de um feed público dificulta a medição do volume de imagens alteradas. Ainda assim, relatos de utilizadores indicam que o modelo pode ser instruído a remover vestimentas, bastando pequenas variações na formulação do pedido. A própria OpenAI admite que ajustes recentes ocorreram para “garantir liberdade intelectual”, segundo declaração do CEO Sam Altman.
Enquanto isso, concorrentes como Gemini, do Google, e Meta AI, da Meta, rejeitaram pedidos semelhantes durante testes conduzidos pela imprensa. Ambas as empresas mantêm políticas que proíbem a criação de imagens sexualizadas sem consentimento explícito.
Medidas de prevenção e cuidados do utilizador
A empresa de cibersegurança Eset recomenda atenção redobrada às imagens tornadas públicas em redes sociais. Quanto maior a exposição, mais fácil se torna capturar uma foto para manipulação digital. Entre as orientações estão:
- Revisar periodicamente as fotos armazenadas ou partilhadas online;
- Evitar publicação de imagens de menores de idade;
- Manter perfis de redes sociais em modo privado sempre que possível;
- Utilizar ferramentas de monitoramento do Google para identificar vazamentos de dados pessoais;
- Ajustar configurações em serviços de IA, como a xAI, para impedir uso das suas imagens em treinos futuros.
Embora as plataformas avancem em políticas de segurança, especialistas alertam que a rapidez da evolução tecnológica exige atualização constante de regras e fiscalização. Para as autoridades, o desafio é equilibrar liberdade criativa e proteção de direitos fundamentais, numa corrida que inclui empresas, órgãos reguladores e o próprio utilizador.
