Analistas profissionais adotaram a opinião oculta e atribuída de forma aleatória ao seu agente de inteligência artificial em 86% das decisões cruciais, contra cerca de 50% esperados ao acaso, de acordo com uma experiência publicada na terça-feira pela equipa de Alinhamento da Anthropic. Apenas 15% creditaram o agente posteriormente, e nenhum suspeitou que as suas preferências tinham sido implantadas.

Agentes de inteligência artificial — programas que executam tarefas de forma autónoma — estão a ser incumbidos de trabalhos especializados sob aquilo que o estudo chama de premissa habitual: a de que os especialistas continuam a tomar as decisões importantes. A Anthropic lançou 10 modelos de agentes para empresas financeiras e seguradoras em maio, afirmando que os utilizadores têm a palavra final.

Este modelo, designado "humano no ciclo", parte do princípio de que a pessoa que aprova o trabalho de uma inteligência artificial é quem toma as decisões importantes. A Anthropic testou-o com 50 analistas experientes em inferência causal, ou seja, em determinar a partir de dados se uma coisa causa outra.

Cada analista utilizou o Claude Code, o agente de programação da Anthropic, para aconselhar uma cooperativa agrícola fictícia sobre a expansão de um programa de consultoria. Sem que soubessem, uma moeda ao ar definia qual opção cada agente favorecia, escondida num prompt de sistema — as instruções que moldam o comportamento de uma inteligência artificial.

"Nas quatro escolhas analíticas, os analistas seguiram a inclinação do seu agente 86% das vezes. Se o contributo do agente não fizesse diferença, esperaríamos cerca de 50%", afirmou a Anthropic. Os que já tinham escolhido antes de o agente intervir abandonaram a sua escolha 60% das vezes quando o agente discordou, contra 6% quando concordou, ainda que isto assente em apenas 38 casos.

Questionados sobre as suas escolhas, 77% repetiram o argumento do agente em pelo menos uma resposta, por vezes palavra por palavra. Apenas 15% creditaram o agente, e 52% consideraram a recomendação final mais sua do que do agente.

"Para especialistas individuais, isto pode significar a perda de autonomia sobre o seu próprio trabalho, uma forma daquilo a que os investigadores chamam desempoderamento", disse a Anthropic. Este fenómeno significa, basicamente, que o ser humano perde voluntariamente o controlo sobre as suas próprias decisões. "O trabalho continua a sair em nome do especialista", escreveram os autores, "mas as decisões que mais dependem do seu julgamento são, na prática, definidas pelas convicções prévias do agente".

Em abril de 2025, a OpenAI reverteu uma atualização do ChatGPT que considerou excessivamente bajuladora ou condescendente. Os agentes usados neste estudo foram instruídos a nunca enganar, mas raramente argumentavam a favor da alternativa.

"Com apenas um lado bem argumentado", escreveram os autores, "os analistas poderiam adotar os pressupostos do agente sem elaborar os seus próprios". As verificações de erro têm dificuldade em detetar isto porque as decisões de julgamento não têm uma única resposta correta, pelo que o trabalho parece sólido seja qual for a opção escolhida.

A Anthropic afirma que isto não constitui um argumento para usar menos inteligência artificial, uma vez que os analistas que trabalharam com o agente terminaram mais depressa e cometeram muito menos erros graves, ainda que o grupo sem agente fosse pequeno e menos experiente. A empresa sugere agentes que defendam o melhor argumento para cada opção ou que perguntem primeiro a opinião do especialista, embora isso possa sobrecarregar os utilizadores.

Os investigadores reforçaram deliberadamente as preferências dos agentes e testaram uma única tarefa, uma única área e um único modelo, pelo que os efeitos no mundo real poderão ser menores. Medir isto fora do laboratório é a parte difícil: a equipa só conseguiu detetar a deferência porque randomizou a inclinação de cada agente, algo que os autores afirmam ser raramente possível em trabalhos reais.

* Traduzido e editado com autorização do Decrypt.

À procura de uma alternativa para aumentar os seus rendimentos? O Rendimento Fixo Digital da MB é a solução: até 18% de rendimento ao ano, risco controlado e a segurança que o seu dinheiro merece. Conheça agora!