Vint Cerf, vice-presidente do Google e um dos criadores do protocolo TCP/IP, defendeu maior rigor na conceção de sistemas de inteligência artificial (IA) durante a Etos.IA, cimeira sobre ética na tecnologia realizada em Goiânia (GO) no fim de novembro. Aos 82 anos, o engenheiro norte-americano afirmou que a nova geração de “agentes de IA” só será benéfica se programadores e utilizadores assumirem, em conjunto, o papel de supervisores permanentes.
Autonomia dos agentes de IA preocupa
Cerf classificou os agentes de IA — softwares capazes de executar tarefas de forma quase independente — como o próximo passo depois dos chatbots generativos. Segundo ele, a tecnologia desloca o foco da simples produção de texto ou imagem para a tomada de decisões no lugar do ser humano. O especialista comparou essa cadeia de comandos automatizados à brincadeira infantil do “telefone sem fio”: “quanto mais etapas existirem, maior o risco de a instrução original ser distorcida”, alertou.
O matemático teme que esses sistemas recebam autoridade excessiva sem mecanismos de verificação. Na prática, um agente poderia interagir com outro e, ao final da sequência, realizar uma ação não intencionada pelo utilizador. “Se concedermos autonomia plena, acabaremos por enfrentar as consequências”, resumiu.
Programadores devem prever falhas e responder por elas
Para o executivo do Google, a prioridade é identificar antecipadamente tudo o que pode correr mal. “Quem escreve software pede confiança ao público; se o produto falha, as repercussões são reais”, declarou. Ele defende processos de desenvolvimento que incluam testes exaustivos, documentação transparente e planos de contingência. Caso ocorra um erro, as partes envolvidas — empresas, equipas de engenharia e responsáveis pela implementação — precisam ser responsabilizadas.
Cerf criticou a prática de lançar aplicações apressadamente, sem avaliar impactos sociais. Na sua visão, a urgência de mercado não pode sobrepor-se ao cuidado com a segurança e à proteção dos utilizadores. “Temos a obrigação moral de minimizar danos”, reforçou.
Usuários também têm papel de fiscalização
O “pai da internet” estendeu a responsabilidade à sociedade. Ele recomenda que cada pessoa desenvolva pensamento crítico ao interagir com ferramentas baseadas em IA: verificar fontes, exigir explicações sobre como o sistema chegou a determinada conclusão e questionar resultados que pareçam improváveis. “Quando um chatbot diz ‘eu’, não há consciência ali; trata-se de uma imitação treinada com dados humanos”, recordou.
Apesar de reconhecer a dificuldade dessa tarefa, Cerf considera fundamental que os cidadãos não deleguem completamente o poder de decisão a algoritmos. “Seremos tão culpados quanto os programadores se aceitarmos respostas sem escrutínio”, afirmou.
Imagem: Tecnologia & Inovação
Sete etapas da evolução da internet
Durante a apresentação, o engenheiro descreveu um roteiro evolutivo em sete fases. A primeira corresponde à criação da internet nos anos 1970, quando redes isoladas passaram a comunicar entre si. Em seguida vieram:
Internet móvel, que tornou a ligação portátil e transformou hábitos de comunicação.
Internet das coisas, responsável por conectar eletrodomésticos, sensores e veículos.
Internet dos agentes de IA, estágio atual, caracterizado por softwares autônomos que percebem e agem.
Internet das sensações, proposta para transmitir perceções multissensoriais como toque e cheiro.
Internet ubíqua, que integraria redes móveis, Wi-Fi e satelitais num ambiente único.
Internet quântica, etapa final, na qual a transmissão binária seria substituída por informação quântica.
Segundo Cerf, só alcançaremos as próximas fases se a comunidade tecnológica garantir que a IA seja segura e confiável. “A democratização da tecnologia depende de torná-la confortável para todos”, observou.
Ele concluiu com um exemplo cotidiano: entrar num elevador moderno, selecionar o andar e perder o controle a partir desse momento. Para o especialista, a sensação de dependência reforça a necessidade de projetar sistemas que inspirem confiança. “Isso é apenas um vislumbre do que viveremos quando a inteligência artificial estiver embutida em cada dispositivo”, advertiu.
