O governo da Alemanha e diversas instituições de memória do Holocausto solicitaram, esta semana, que plataformas digitais atuem com maior rigor para impedir a circulação de imagens fabricadas por inteligência artificial sobre o genocídio nazista. Segundo os signatários, esse material distorce eventos históricos, banaliza o sofrimento das vítimas e dificulta a confiança em documentos autênticos.
Carta conjunta denuncia trivialização histórica
Memoriais de antigos campos de concentração, centros de documentação e outras entidades dedicadas à preservação da história enviaram uma carta, datada de 13 de janeiro, a várias empresas de mídia social. No documento, as organizações alertam para a proliferação do chamado “AI Slop” — fotos, vídeos ou textos gerados por IA que apresentam situações inexistentes, como encontros emocionais entre prisioneiros de Auschwitz e supostos libertadores, ou crianças posicionadas atrás de arame farpado.
Os signatários afirmam que esse conteúdo “distorce a história por meio da trivialização e da kitschificação” e, além disso, “alimenta a desconfiança” do público em relação a registros originais do período. As instituições apontam que as imagens falsas surgem com dois objetivos principais: atrair cliques, gerando receita, e promover narrativas revisionistas que diluem responsabilidades entre vítimas e perpetradores.
Entre os participantes do apelo estão os memoriais de Bergen-Belsen, Buchenwald e Dachau, locais onde foram mortas milhões de pessoas, incluindo judeus, roma, sinti, minorias sexuais e pessoas com deficiência. O grupo defende que empresas de tecnologia adotem mecanismos proativos de detecção, rotulagem clara e remoção dessas peças, em vez de aguardar denúncias de usuários.
Governo apoia identificação e retirada de deepfakes
O ministro alemão da Cultura e da Mídia, Wolfram Weimer, declarou apoio às reivindicações. Para o titular da pasta, marcar ou eliminar conteúdos falsificados “é uma questão de respeito pelos milhões de pessoas que foram mortas e perseguidas” pelo regime nazista.
Weimer também ressaltou a urgência de responsabilizar desenvolvedores de IA que permitem ou facilitam a criação de deepfakes. Uma das empresas citadas é a xAI, fundada por Elon Musk, cujo chatbot Grok foi associado à disseminação de milhares de imagens sexualizadas falsas de mulheres e menores de idade. O ministro afirmou que esses exemplos ilustram “um problema estrutural” que ultrapassa o caso específico do Holocausto.
Plataformas são instadas a agir antes de denúncias
As instituições lembram que as principais redes sociais já dispõem de tecnologia para classificar conteúdos potencialmente enganosos. Elas pedem a aplicação desses recursos de forma preventiva, bloqueando a monetização de postagens que utilizem imagens históricas adulteradas.
Especialistas em desinformação alertam que a popularização de ferramentas generativas de IA cria um ambiente em que textos, fotos e vídeos podem ser fabricados em grande escala e compartilhados instantaneamente. Esse cenário aumenta o risco de confusão entre o público, que passa a ter dificuldades para diferenciar material verídico de falsificações convincentes.
Imagem: Tecnologia Inovação Notícias
Os centros de memória argumentam que a integridade dos arquivos históricos está em jogo. Para eles, permitir que versões fictícias dos eventos circulem sem controle favorece a negação do Holocausto e abre espaço para discursos de ódio.
Pressão por normas mais rígidas
A mobilização alemã ocorre num momento de discussão internacional sobre regulação de inteligência artificial. A União Europeia aprovou recentemente o AI Act, que prevê classificações de risco e obrigações específicas para sistemas que possam gerar conteúdo sintético. Organizações de memória do Holocausto defendem que as normas incluam sanções claras para casos de manipulação histórica.
Mesmo sem legislação unificada em todos os países, as instituições pedem que as plataformas adotem políticas próprias alinhadas às recomendações da carta. Entre as medidas sugeridas estão:
- Identificação automática de imagens relacionadas ao Holocausto;
- Checagem de autenticidade com base em bases de dados oficiais;
- Exibição de avisos quando o conteúdo for gerado por IA;
- Bloqueio de publicidade e monetização em publicações que contenham material falso;
- Remoção rápida de postagens que propagam narrativas revisionistas.
Além do impacto histórico, a discussão coloca em evidência o papel das empresas de tecnologia na preservação da memória coletiva. Para as entidades alemãs, reconhecer e agir contra falsificações é fundamental para impedir que desinformação e teorias conspiratórias ganhem força em ambientes digitais.
Até o momento, as plataformas mencionadas não divulgaram posicionamentos públicos sobre as exigências. Contudo, o debate reforça a crescente pressão mundial por mecanismos eficazes de combate aos abusos possibilitados pela inteligência artificial.
