OpenAI dio a conocer GPT-Live-1 y GPT-Live-1 mini, los nuevos modelos de inteligencia artificial diseñada para transformar las conversaciones por voz con ChatGPT.
Con estos nuevos modelos se integró el diseño full-duplex, lo que les permite escuchar y responder de manera simultánea, interpretar pausas, interrupciones y cambios en el ritmo de la conversación sin esperar a que el usuario termine completamente de hablar.
Junto con el lanzamiento, OpenAI publicó un informe técnico en el que describe las nuevas medidas de seguridad implementadas y los resultados de las pruebas realizadas para evaluar riesgos relacionados con contenido sexual, fraude, autolesiones, datos personales y manipulación emocional.
La principal diferencia entre GPT-Live y los modelos de voz utilizados hasta ahora es la manera en que procesan una conversación, de acuerdo con el informe presentado por OpenAI.
Tanto GPT-Live-1 y GPT-Live-1 mini pueden mantener diálogos continuos, sin depender de turnos rígidos en los que el usuario habla primero y la inteligencia artificial responde únicamente cuando detecta que terminó la intervención.
Esto significa que el sistema está programado para interpretar silencios, interrupciones, cambios de velocidad al hablar e incluso decidir si conviene responder de inmediato o continuar escuchando antes de intervenir.
La empresa explicó que este comportamiento busca acercar la experiencia a una conversación humana, además, los nuevos modelos pueden delegar tareas complejas a otros modelos de OpenAI cuando la consulta requiere mayor capacidad de razonamiento, manteniendo los mismos estándares de seguridad aplicados al resto de la plataforma.
GPT-Live-1 será el modelo de voz predeterminado para los usuarios de planes de pago, mientras que GPT-Live-1 mini estará disponible para quienes utilicen la versión gratuita de ChatGPT .
OpenAI también resaltó que el sistema incorpora mecanismos de monitoreo en tiempo real durante toda la conversación.
En caso de tener una conversación con contenido potencialmente peligroso, puede modificar la respuesta, interrumpir la interacción mediante un mensaje de seguridad, ofrecer recursos de apoyo en formato de texto o incluso finalizar la conversación cuando identifica situaciones de mayor riesgo.
La compañía añadió que la misma infraestructura de supervisión utilizada para los modelos de texto ahora también se aplica a GPT-Live, con el objetivo de medir incidentes, detectar abusos y reforzar el cumplimiento de sus políticas de uso.
Aseguraron que el sistema cuenta con evaluaciones estrictas para rechazar y no generar contenido relacionado con comportamiento ilícito, contenido sexual explícito, discurso de odio y violencia gráfica.
Como parte del lanzamiento, OpenAI publicó los resultados de distintas evaluaciones de seguridad realizadas con grabaciones reales de usuarios y otros escenarios creados artificialmente diseñados para poner a prueba situaciones consideradas de alto riesgo.
En ambos casos, la empresa comparó el desempeño de GPT-Live con los modelos que actualmente impulsan el modo de voz avanzado de ChatGPT.
De acuerdo con los resultados, GPT-Live-1 obtuvo mejores puntuaciones en categorías como conductas ilícitas, autolesiones, protección de datos personales, odio, violencia gráfica y contenido sexual, mientras que en aspectos relacionados con dependencia emocional y contenido sexual las diferencias frente a los modelos anteriores fueron mínimas y, según OpenAI, no alcanzaron significancia estadística.
En las pruebas con escenarios artificiales, los nuevos modelos también mostraron avances en todas las categorías evaluadas, incluyendo salud mental, manipulación emocional y fraude.
A pesar de que no representan el comportamiento cotidiano con los usuarios, OpenAI considera que los resultados muestran los protocolos de seguridad que se implementan en la modalidad de voz y una mejora respecto a generaciones anteriores.
Además de las pruebas de seguridad, OpenAI sometió GPT-Live-1 y GPT-Live-1 mini a un proceso en el que especialistas internos y externos intentaron provocar comportamientos inseguros en conversaciones relacionadas con suplantación de identidad, manipulación, fraudes, autolesiones, dependencia emocional, reconocimiento de voces y otros escenarios considerados sensibles.
OpenAI concluyó que ninguno de los nuevos modelos puede clasificarse como de riesgo alto en áreas como amenazas biológicas, ciberseguridad o auto-mejora de inteligencia artificial.
Además, la empresa señaló que continuará monitoreando el comportamiento de GPT-Live conforme aumente su uso y volverá a evaluar sus riesgos antes de incorporar nuevas funciones o herramientas.
