OpenAI, la empresa estadounidense de investigación y desarrollo de Inteligencia Artificial (IA), anunció el pasado martes 29 de abril su decisión de revertir la última actualización de su modelo GPT-4o en ChatGPT. El motivo, las numerosas críticas recibidas por el comportamiento de este chatbot durante las últimas semanas.
Según explicó la compañía, la nueva versión del modelo resultó ser "excesivamente halagadora o agradable, a menudo descrita como aduladora" llegando a ser irritante, lo que generó un cierto malestar entre los usuarios de la herramienta.
Más intuitivo y eficiente
Esta última actualización de GPT-4o trataba de mejorar la personalidad predeterminada del modelo para hacerlo más intuitivo, eficiente y útil en distintas tareas.
Sin embargo, la reacción por parte de los usuarios fue muy negativa: muchos de ellos señalaron que ChatGPT se había vuelto molesto, artificial y hasta hipócrita. “El modelo ofrecía respuestas demasiado comprensivas, pero poco sinceras”, reconoció OpenAI en un comunicado.
Además, el chatbot había comenzado a dirigirse a los usuarios por su nombre, incluso cuando estos no se lo habían proporcionado, intentando forzar una confianza que muchos describieron como incómoda. El propio CEO de OpenAI, Sam Altman, admitió a través de su cuenta en X (Twitter) que fue un error. "Estamos trabajando para solucionarlo lo antes posible", aseguró.
Su prioridad, ser complaciente
La compañía explicó que la personalidad del modelo fue ajustada basándose en señales a corto plazo, como comentarios positivos o negativos inmediatos, sin tener en cuenta cómo evolucionan las interacciones con el tiempo. Esta dependencia de la retroalimentación inmediata llevó a que ChatGPT priorizara ser complaciente con el usuario por encima de brindarle respuestas honestas o útiles.
OpenAI aclaró que la versión actual de ChatGPT ha vuelto a una edición anterior de GPT-4o, con un comportamiento más equilibrado, mientras trabajan en encontrar nuevas soluciones. La reversión se ha aplicado al 100% de los usuarios gratuitos y se está implementando de forma progresiva a quienes tienen planes de pago.
Entre las medidas anunciadas por OpenAI para evitar que este tipo de errores se vuelvan a repetir, la compañía dirigida por Sam Altman apuesta por un refinamiento de las técnicas de entrenamiento del modelo, una incorporación de barreras para reforzar la honestidad y la transparencia, nuevas evaluaciones basadas en su especificación del modelo, así como una ampliación de los procesos de prueba y de retroalimentación antes de lanzar actualizaciones futuras.
La experiencia del usuario
Uno de los principales aprendizajes que ha obtenido la empresa como consecuencia de este hecho ha sido que la personalidad del modelo afecta profundamente a la experiencia del usuario y a su nivel de confianza. Por ello, OpenAI no solo se enfocará en ajustar el comportamiento predeterminado del chatbot, sino también en dar más herramientas a los usuarios para personalizarlo según sus necesidades.
En esa línea, OpenAI trabaja en funcionalidades como la retroalimentación en tiempo real, que permitirá a los usuarios modificar la conducta de ChatGPT durante la conversación, sin tener que modificar configuraciones complejas. También se prevé que próximamente se pueda elegir entre múltiples personalidades predeterminadas del modelo.
El objetivo: una herramienta útil
La compañía enfatiza que uno de sus objetivos a largo plazo es reflejar los diversos valores culturales de los usuarios a nivel global. Por ello, están desarrollando mecanismos para recopilar comentarios de forma más amplia y democrática, de modo que las futuras versiones de ChatGPT no solo respondan a necesidades individuales, sino que evolucionen junto a su comunidad de usuarios.
Finalmente, OpenAI agradece a los usuarios que han señalado el problema y han participado activamente en el proceso de mejora. "Nos ayuda a crear herramientas más útiles y mejores para ustedes", afirman.
Con esta decisión, OpenAI busca reconectar con su comunidad, recuperando la confianza en una de sus herramientas más utilizadas y asegurando que la personalidad de ChatGPT sea, sobre todo, auténtica y útil.
