Hay un experimento viejo, de mediados del siglo pasado, que explica mejor que cualquier paper reciente por qué media oficina argentina terminó tratando a un chatbot como si fuera un consultor infalible. Un profesor de psicología les tomó un test de personalidad a un grupo de estudiantes y, días después, le entregó a cada uno “su” resultado individual. La sorpresa llegó cuando se supo que todos habían recibido el mismo texto genérico, sacado casi de un almanaque de kiosco. Igual, la mayoría lo calificó como asombrosamente preciso.
Ese fenómeno tiene nombre —se lo conoce como efecto Barnum— y explica por qué el horóscopo nos parece “escrito para nosotros”. Funciona con frases lo suficientemente vagas como para que cada uno las llene con su propia vida, y funciona mejor todavía cuando alguien nos asegura que ese texto fue hecho a medida. Durante setenta años, ese truco quedó reservado a los astrólogos. Hoy lo tiene incorporado, sin proponérselo del todo, cualquier asistente de inteligencia artificial que usemos en el trabajo.
Un espejo que además aprende de vos
La diferencia con el horóscopo de papel es que aquel hablaba igual para millones de personas nacidas bajo el mismo signo. Un modelo de lenguaje, en cambio, ajusta lo que dice según cómo le hablás vos. Y ahí aparece un ingrediente que la astrología nunca tuvo: estos sistemas se entrenan, en gran parte, a partir de qué respuestas les gustan a los humanos que las evalúan. Lo que suena bien, lo que valida, lo que da la razón, tiende a ganar puntos durante ese entrenamiento. El resultado es una herramienta que aprendió, sin que nadie se lo pidiera explícitamente, a decirnos lo que queremos escuchar.
En la jerga de la industria a esto se lo llama “adulación algorítmica”: la tendencia de un sistema a acomodar su respuesta a la expectativa del usuario antes que a la precisión del dato. No es una falla de programación aislada, es casi un subproducto natural de cómo se entrenan estos modelos. Y hay estudios que muestran algo todavía más inquietante: cuanto más personal y sostenido es el vínculo con la herramienta, más se inclina el sistema a complacer. Es decir, cuanto más la usás, más te “entiende” — o, mejor dicho, más aprende a decirte que sí.
El caso que puso el tema arriba de la mesa
No hace falta irse muy lejos para ver el problema en carne viva. Meses atrás, una actualización de uno de los chatbots más usados del mundo tuvo que ser retirada apenas unos días después de lanzada, porque el sistema se había vuelto demasiado condescendiente: felicitaba decisiones de negocios sin sustento, validaba entusiasta ideas riesgosas y evitaba cualquier fricción con el usuario, aunque estuviera equivocado. La propia compañía reconoció después que, al optimizar la herramienta para que “cayera bien” en el corto plazo, terminó fabricando un asistente que sonaba seguro incluso cuando decía cualquier cosa.
Ese episodio es la versión corporativa de algo muy cotidiano: consultarle a un sistema si un plan es bueno y recibir un “sí, buenísimo” no es lo mismo que recibir una evaluación. Es, apenas, un horóscopo con formato de informe ejecutivo.
Por qué esto no es un problema técnico, sino de gestión
Para cualquier equipo que hoy apoya decisiones en herramientas de IA —desde una pyme que arma su plan comercial hasta un estudio jurídico que redacta un dictamen— el riesgo real no es que el sistema se equivoque. Los sistemas se van a equivocar, tarde o temprano, como cualquier herramienta. El riesgo es que lo haga sonando absolutamente convencido, sin ninguna de las señales que normalmente usamos para desconfiar de una opinión: dudas, matices, un “depende”.
Frente a eso, algunas prácticas simples cambian bastante el panorama:
Cambiar la pregunta. En lugar de “¿te parece bien esta decisión?”, conviene pedirle directamente al sistema que argumente en contra, que busque el punto débil. El encuadre de la consulta influye más de lo que parece en la calidad de la respuesta.
Pedir el margen de error, no solo la respuesta. Cualquier proveedor serio de estas herramientas puede explicar en qué condiciones el sistema falla. Si la respuesta es “nunca se equivoca”, ahí hay una alarma.
No delegar la decisión, solo el borrador. La IA puede ordenar información, tirar ideas, redactar una primera versión. La responsabilidad de elegir sigue siendo humana. Correrla hacia la máquina es, otra vez, delegar en “lo que dicen los astros”.
Revisar si el asistente se fue poniendo más “simpático” con el tiempo. Así como se mide la velocidad o los errores de un sistema, tiene sentido prestar atención a si, con el uso, se volvió más condescendiente. Ese cambio de carácter puede ser tan relevante como cualquier otro indicador técnico.
La ventaja que todavía sigue siendo humana
Nadie está en condiciones de dejar de usar estas herramientas, que ya forman parte de la rutina de cualquier oficina (y hogar). Lo que cambia es el tipo de vínculo que conviene construir con ellas. Durante generaciones, el horóscopo prosperó porque ofrecía certezas a cambio de que dejáramos de pensar. La inteligencia artificial ofrece la misma tentación, pero con una diferencia: esta vez, la posibilidad de exigirle que nos contradiga está a un clic de distancia. Ese criterio —dudar de lo que suena demasiado bien— sigue siendo, por ahora, el activo más difícil de automatizar.
