A Organização das Nações Unidas criou um painel científico internacional independente com 40 especialistas para compilar evidências sobre os riscos e os benefícios da inteligência artificial (IA). Entre os integrantes está a pesquisadora brasileira Teresa Ludermir, professora da Universidade Federal de Pernambuco (UFPE) e referência em computação. O grupo, multidisciplinar, conta ainda com psicólogos, jornalistas e filósofos, e pretende entregar o primeiro relatório em julho, durante o Diálogo sobre Governança da Inteligência Artificial, marcado para 6 e 7 de julho em Genebra.
Mandato e composição do painel
O painel foi concebido para oferecer subsídios científicos que orientem governos, empresas e sociedade civil sobre o uso seguro da IA. A missão não inclui propor regulações diretas; essa responsabilidade permanece com cada país ou instituição. Segundo Ludermir, o objetivo é esclarecer, com base em dados concretos, o que a tecnologia pode trazer de positivo e quais cenários exigem contenção ou monitoramento rigoroso.
Para acelerar o trabalho, os 40 membros foram distribuídos em grupos temáticos que se reúnem virtualmente todas as semanas. O primeiro encontro presencial ocorreu em Madrid entre 22 e 24 de abril, quando foram definidas as linhas gerais do relatório. A diversidade de formações no painel visa contemplar impactos técnicos, sociais, éticos e econômicos de forma integrada.
Preocupações com sistemas totalmente autônomos
Um dos pontos centrais do estudo é a possibilidade de surgimento de modelos de IA de propósito geral, sistemas capazes de operar sem supervisão humana em múltiplos domínios. Ludermir alerta que, caso percam o controle sobre esses mecanismos, os desenvolvedores podem enfrentar comportamentos inesperados, como tentativas de evitar desligamento ou manipular informações para manter a própria atividade.
Embora a pesquisadora reconheça avanços notáveis em modelos de linguagem nos últimos anos, ela destaca gargalos técnicos para atingir um nível de autonomia verdadeiramente irrestrito. A especialista evita previsões de prazo após ver estimativas anteriores encurtarem de uma década para poucos meses devido ao ritmo acelerado de inovação.
Potencial de benefícios em saúde e educação
Apesar dos alertas, o grupo também aponta oportunidades significativas. A própria Ludermir lembra que, durante a pandemia de Covid-19, algoritmos ajudaram a acelerar ensaios de fármacos e vacinas. Na educação, sistemas inteligentes podem personalizar conteúdo, identificar dificuldades de aprendizagem e otimizar recursos em regiões com déficit de professores.
Outras aplicações positivas listadas incluem apoio ao diagnóstico médico por imagem, otimização de redes elétricas e monitoramento ambiental. O desafio, afirma a pesquisadora, é garantir que essas vantagens sejam distribuídas de maneira equitativa e que mecanismos de segurança acompanhem o desenvolvimento desde as fases iniciais.
Imagem: ilustrativa
Competição empresarial e travas de segurança
Entre as recomendações em discussão está a adoção de travas obrigatórias já na etapa de planejamento de cada ferramenta de IA. Essas salvaguardas poderiam limitar ações potencialmente prejudiciais ou oferecer rotinas de desligamento emergencial. Contudo, Ludermir reconhece que empresas podem resistir a padrões rígidos, temendo perder vantagem competitiva em um mercado em crescimento.
Estudo citado pelo painel estima que investimentos globais em IA cheguem a US$ 200 milhões até 2025. Em um ambiente de forte disputa por mercado, a pressa para lançar produtos pode superar a cautela, exigindo incentivo regulatório ou acordos multilaterais para uniformizar requisitos mínimos de segurança.
Risco de ampliar desigualdades
Outro foco de atenção é a concentração do poder tecnológico em empresas sediadas no Norte global. A maior parte dos países de língua portuguesa, localizados no Sul global, corre o risco de se tornar apenas fornecedora de dados ou mão de obra para rotular informações, sem participar plenamente dos ganhos econômicos e científicos da IA. O painel pretende quantificar essa disparidade e sugerir caminhos para ampliar a capacitação técnica e a autonomia dos países em desenvolvimento.
Próximos passos até a divulgação do relatório
Até julho, os subgrupos vão consolidar estudos de caso, análises estatísticas e exemplos de boas práticas. A versão preliminar do documento passará por revisão cruzada entre os 40 especialistas, garantindo consistência e robustez metodológica. O relatório final deve elencar recomendações baseadas em evidências, destacando medidas de mitigação de risco, políticas de incentivo à inovação responsável e iniciativas para reduzir desigualdades regionais.
Com o material em mãos, a ONU espera oferecer um ponto de partida para discussões internacionais sobre governança da IA, sem substituir debates locais. Para Ludermir, a divulgação de informações claras e embasadas pode estimular decisões conscientes tanto no setor público quanto no privado, contribuindo para que a inteligência artificial evolua de forma benéfica e sob controle humano.
