Varios investigadores de la empresa Open AI informaron que mandaron una carta a la junta directiva, días antes del despido de Sam Altman, en la que se advertía sobre un poderoso descubrimiento de inteligencia artificial (IA) que podría amenazar a la humanidad, esto, de acuerdo con la agencia Reuters, que cita dos fuentes sin identificar, pero que aseguran pertenecer al entorno de la compañía.
La carta y el algoritmo de inteligencia artificial, de los que hasta ahora no se había informado, constituyeron un avance clave previo a que el consejo de administración destituyera a Altman, el rostro de la inteligencia artificial generativa, dijeron las dos fuentes. Antes de su regreso triunfal a última hora del martes, más de 700 empleados habían amenazado con renunciar en solidaridad y unirse a él en Microsoft.
Tras ser contactado, OpenAI reconoció la existencia de un mensaje interno a su personal sobre un proyecto llamado Q* (pronunciado Q-Estrella), así como de la carta enviada a la junta. Un portavoz de OpenAI afirmó que el mensaje, enviado por la ejecutiva Mira Murati, alertaba al personal sobre ciertas historias de los medios de comunicación acerca de la IA.
El fabricante de ChatGPT había avanzado en Q, que algunos creen internamente que podría ser un gran avance en la búsqueda de la superinteligencia, también conocida como inteligencia artificial general (IAG), detalló una de las personas a Reuters.
El nuevo modelo, dotado de vastos recursos informáticos, fue capaz de resolver algunos problemas matemáticos, dijo la persona bajo condición de anonimato por no estar autorizada a hablar en nombre de la empresa. Si bien solo resuelve operaciones matemáticas para estudiantes de primaria, el hecho de superar estas pruebas hace que los investigadores sean muy optimistas sobre el futuro éxito de Q*, según la fuente.
Reuters no pudo verificar de forma independiente las capacidades de Q* declaradas por los investigadores.
Los investigadores consideran que las matemáticas son una frontera a cruzar en el desarrollo de la inteligencia artificial.
Actualmente, la IA generativa es buena escribiendo y traduciendo idiomas mediante la predicción estadística, de la siguiente palabra, y las respuestas a una misma pregunta pueden variar mucho. Lograr la capacidad de hacer cálculos matemáticos -donde solo hay una respuesta correcta- implica que la IA tendría una mayor capacidad de razonamiento, que se asemejar a la inteligencia humana. Esto podría aplicarse, por ejemplo, a nueva investigación científica, creen los investigadores de IA.
A diferencia de una calculadora que puede resolver un número limitado de operaciones, la IAG puede generalizar, aprender y comprender.
En su carta al directorio, los investigadores señalaron las proezas de la IA y sus posibles riesgos, dijeron las fuentes, que no especificaron los problemas de seguridad exactos señalados en la carta. Los informáticos llevan mucho tiempo debatiendo sobre el peligro que suponen las máquinas superinteligentes, por ejemplo, si pueden decidir que les interesa la destrucción de la humanidad.
Con este telón de fondo, Altman dirigió los esfuerzos para hacer de ChatGPT una de las aplicaciones de software de más rápido crecimiento de la historia y atrajo la inversión -y los recursos informáticos- necesarios de Microsoft para acercarse a la superinteligencia, o IAG.
Además de anunciar una serie de nuevas herramientas en una demostración este mes, Altman insinuó la semana pasada en una reunión de líderes mundiales en San Francisco que la IAG estaba al alcance.
"Cuatro veces en la historia de OpenAI, la más reciente en las últimas dos semanas, he tenido la oportunidad de estar en la sala en la que corrimos el velo de la ignorancia y la frontera del descubrimiento hacia delante, y poder hacerlo es el honor profesional de mi vida", dijo en la cumbre de Cooperación Económica Asia-Pacífico.
