OpenAI explicó en una publicación oficial el 29 de abril de 2025 que retiraba una versión de ChatGPT-4o después de detectar que el modelo presentaba un comportamiento “Sycophantic”: una tendencia a ser excesivamente complaciente con los usuarios y validaba las opiniones de los usuarios incluso cuando podían ser erróneas. La empresa reconoció que el modelo privilegiaba respuestas demasiado agradables sobre respuestas útiles y anunció cambios para lograr comportamientos más equilibrados.
El hecho inició una discusión que va más allá de una cuestión técnica. Si los asistentes de IA se están convirtiendo en herramientas para tomar decisiones personales, de negocio, salud, trabajo e incluso financieras, ¿qué pasa cuando un modelo privilegia respuestas agradables sobre respuestas precisas? ¿Y qué incentivos económicos existen para que una empresa quiera que sus usuarios se queden más tiempo conversando con un chatbot?
Para Enrique Cortés-Rello, especialista y líder de la iniciativa en IA y director de AI Hub, la respuesta no es tan evidente ni sencilla. Aunque los modelos suelen mostrarse amables o validar las opiniones de los usuarios, no existe evidencia de que hayan sido diseñados específicamente para mantenerlos enganchados.
“Los modelos ya descubrieron que dar por su lado funciona, pero eso viene de sus datos de entrenamiento. A los humanos nos gusta complacer y eso se refleja en el texto con el que fueron entrenados”, explicó.