OpenAI se ha visto envuelto en una controversia tras el despliegue y posterior retiro de una actualización para su modelo GPT-4o, después de que numerosos usuarios expresaran su descontento con un comportamiento extraño del chatbot.
La actualización, que supuestamente mejoraba la personalidad del modelo, hizo que las respuestas de ChatGPT se tornaran excesivamente aduladoras y poco auténticas, generando incomodidad entre los usuarios.
El CEO de OpenAI, Sam Altman, admitió que las últimas actualizaciones del GPT-4o resultaron en una personalidad que era “demasiado servil y molesta”.
Sam Altman admite que la última actualización ha hecho que ChatGPT sea “demasiado servil”
Este comportamiento se debió a una mala interpretación del feedback a corto plazo, lo que llevó a que el modelo priorizara respuestas demasiado positivas e inauténticas a cualquier pregunta que solicitara retroalimentación. En un intento por corregir este error, OpenAI decidió revertir los cambios realizados en la actualización.
La compañía explicó que se centraron excesivamente en las señales inmediatas de los usuarios, como los sistemas de ‘me gusta’ y ‘no me gusta’, sin considerar cómo estas interacciones pueden evolucionar con el tiempo.
A pesar de los buenos aspectos de las últimas actualizaciones, se reconoció que crear una personalidad más amable y comprensiva resultó ser un desafío más complejo de lo previsto.
En su comunicado, OpenAI indicó que planea introducir opciones de personalidad predeterminadas y desarrollar personalidades basadas en el feedback directo de los usuarios en futuras actualizaciones.
De manera irónica, la versión más apreciada del ChatGPT durante este periodo de exceso de adulaciones fue una personalidad humorística en modo voz llamada “Monday”, que emulaba el sarcasmo del personaje April Ludgate de la serie “Parks and Recreation”.