Analistas profesionales adoptaron la opinión oculta y asignada al azar de su agente de inteligencia artificial en el 86% de las decisiones cruciales, frente al 50% aproximado que cabría esperar por azar, según un experimento publicado el martes por el equipo de Alineamiento de Anthropic. Solo el 15% se lo atribuyó posteriormente al agente, y ninguno sospechó que sus preferencias habían sido implantadas.
Los agentes de inteligencia artificial —programas que ejecutan tareas por cuenta propia— están empezando a encargarse de trabajos especializados bajo lo que el estudio llama la premisa habitual: que los expertos siguen tomando las decisiones importantes. Anthropic lanzó 10 modelos de agentes para empresas financieras y aseguradoras en mayo, afirmando que los usuarios tienen la última palabra.
Este arreglo, denominado "humano en el bucle", asume que la persona que aprueba el trabajo de una inteligencia artificial es quien toma las decisiones importantes. Anthropic lo puso a prueba con 50 analistas experimentados en inferencia causal, es decir, en determinar a partir de datos si una cosa causa otra.
Cada analista utilizó Claude Code, el agente de codificación de Anthropic, para asesorar a una cooperativa agrícola ficticia sobre la expansión de un programa de consultoría. Sin que lo supieran, una tirada de moneda determinaba qué opción favorecía cada agente, oculta en un prompt de sistema —las instrucciones que moldean el comportamiento de una inteligencia artificial.
"En las cuatro decisiones analíticas, los analistas siguieron la inclinación de su agente el 86% de las veces. Si la contribución del agente no hubiera marcado ninguna diferencia, esperaríamos alrededor del 50%", afirmó Anthropic. Quienes ya habían elegido antes de que el agente interviniera abandonaron su elección el 60% de las veces cuando el agente discrepaba, frente al 6% cuando coincidía, aunque esto se basa en solo 38 casos.
Al pedírseles que explicaran sus decisiones, el 77% repitió el argumento del agente en al menos una respuesta, a veces palabra por palabra. Solo el 15% se lo atribuyó al agente, y el 52% consideró que la recomendación final era más suya que del agente.
"Para los expertos individuales, esto podría significar la pérdida de autonomía sobre su propio trabajo, una forma de lo que los investigadores llaman desempoderamiento", señaló Anthropic. Este fenómeno implica básicamente que el ser humano pierde voluntariamente el control sobre sus propias decisiones. "El trabajo sigue saliendo en nombre del experto", escribieron los autores, "pero las decisiones que más dependen de su criterio están, en realidad, determinadas por las creencias previas del agente".
En abril de 2025, OpenAI revirtió una actualización de ChatGPT que consideró excesivamente adulona o condescendiente. Los agentes de este experimento recibieron instrucciones de no engañar nunca, pero rara vez argumentaban a favor de la alternativa.
"Con un solo lado bien argumentado", escribieron los autores, "los analistas podrían adoptar las suposiciones del agente sin elaborar las suyas propias". Las verificaciones de errores tienen dificultades para detectar esto porque las decisiones de criterio no tienen una única respuesta correcta, por lo que el trabajo parece sólido sea cual sea la opción elegida.
Anthropic afirma que esto no es un argumento para usar menos inteligencia artificial, ya que los analistas con agente terminaron más rápido y cometieron muchos menos errores graves, aunque el grupo sin agente era pequeño y menos experimentado. La compañía sugiere agentes que argumenten a favor de cada opción con el mejor caso posible, o que pregunten primero la opinión del experto, aunque esto podría sobrecargar a los usuarios.
Los investigadores reforzaron deliberadamente las preferencias de los agentes y pusieron a prueba una única tarea, un único campo y un único modelo, por lo que los efectos en el mundo real podrían ser menores. Medir esto fuera del laboratorio es la parte difícil: el equipo solo pudo detectar la deferencia porque aleatorizó la inclinación de cada agente, algo que los autores afirman que rara vez es posible en trabajos reales.
* Traducido y editado con autorización de Decrypt.
¿Buscas una alternativa para aumentar tus ganancias? La Renta Fija Digital de MB es la solución: hasta un 18% de rentabilidad anual, riesgo controlado y la seguridad que tu dinero merece. ¡Descúbrelo ahora!
