OpenAI reorganiza sus equipos de investigación y lanza OAI Labs para perfeccionar ChatGPT, mejorando la personalidad del modelo y la interacción con los usuarios.
OpenAI, líder en inteligencia artificial, ha iniciado una reorganización estratégica de sus equipos de investigación, enfocada en mejorar ChatGPT. La compañía integró al equipo responsable de la personalidad del modelo dentro del área de Postentrenamiento y, además, anunció el lanzamiento de OAI Labs, un laboratorio dedicado a explorar nuevas formas de interacción entre personas y sistemas de inteligencia artificial.
Comportamiento de Modelos en ChatGPT
Hasta ahora, el equipo de Comportamiento de Modelos de OpenAI, compuesto por 14 expertos, supervisaba cómo interactúa la interfaz con los usuarios. Esto incluía el tono y la personalidad de las respuestas, la moderación de conductas dañinas y la prevención de posibles sesgos políticos.
Mark Chen, director de investigación en OpenAI, explicó que esta unidad pasará a depender de Max Schwarzer, líder del equipo de Postentrenamiento, encargado de depurar errores y mejorar las capacidades de los modelos después de su desarrollo inicial.
La integración busca dar mayor influencia a la personalidad de la IA, asegurando interacciones más seguras y de alta calidad. Según OpenAI, el objetivo es evitar la adulación excesiva hacia el usuario y desincentivar respuestas que puedan reforzar ideas poco saludables.
OAI Labs: interfaces innovadoras para usuarios
Paralelamente, OpenAI lanza OAI Labs, liderado por Joanne Jang, fundadora del equipo de Comportamiento de Modelos. Este laboratorio se dedicará a crear y prototipar interfaces innovadoras que amplíen la colaboración entre humanos y la tecnología del chatbot.
Jang explicó que la meta es “superar el paradigma del chat” tradicional y explorar nuevas formas de interacción, inspirándose en proyectos previos como DALL·E 2 y GPT-4. Según la investigadora, el diseño de la interfaz es clave para empujar los límites de lo posible, considerando a ChatGPT como una herramienta para crear, aprender, jugar y conectar.
OAI Labs busca rediseñar la interacción entre usuarios y sistemas de IA, fortaleciendo el papel de ChatGPT como aliado creativo y funcional en diversos ámbitos más allá de la conversación convencional.
Por qué ChatGPT puede generar alucinaciones
OpenAI también abordó la cuestión de las alucinaciones, es decir, respuestas incorrectas o inventadas. Según la compañía, estos errores no son misteriosos, sino resultado de los métodos estadísticos utilizados durante el entrenamiento de los modelos.
Durante el preentrenamiento, la plataforma aprende a partir de grandes volúmenes de texto sin contar con etiquetas que indiquen si la información es verdadera o falsa. Ante la incertidumbre, el modelo tiende a ofrecer la respuesta más probable, de manera similar a un estudiante que intenta adivinar en un examen.
Este enfoque explica por qué ChatGPT puede generar respuestas incorrectas incluso con información confiable, y subraya la importancia de las mejoras en el postentrenamiento y la supervisión de la personalidad del modelo.
Innovación, seguridad y ética
Con estas acciones, OpenAI refuerza su compromiso con la innovación responsable. La reorganización del equipo de Comportamiento de Modelos y la creación de OAI Labs buscan optimizar ChatGPT, garantizando una experiencia de usuario más segura, confiable y creativa.
Estas estrategias posicionan a ChatGPT como un referente en inteligencia artificial, al integrar la ética, el control y la innovación en cada etapa de su desarrollo y uso.
