OpenAI comienza el entrenamiento de su nuevo modelo

Es decir, al alcanzar este punto, el software será capaz de llevar a cabo labores para las que originalmente no estaba necesariamente entrenado o desarrollado, lo cual representa una evolución importante en cómo se ve a la IA.

Algunas de las características a tomar en cuenta de la IA general es que tendría control autónomo, un grado razonable de comprensión y la capacidad de aprender nuevas habilidades, incluso resolver problemas complejos en entornos para los cuales no estaba entrenada.

Hasta la actualidad se han alcanzado algunos hitos para llegar a este punto, como los modelos de machine learning capaces de extraer puntos importantes de documentos y generar resúmenes comprensibles. En la ciencia ficción, este punto se describe como una máquina capaz de pensar por sí misma y tener comprensión humana.

OpenAI crea una nueva junta de seguridad

En este contexto, la empresa anunció la creación de un Comité de Seguridad cuya responsabilidad será hacer recomendaciones a la junta directiva “sobre las decisiones críticas de seguridad para proyectos y operaciones de OpenAI”.

Este nuevo equipo sustituirá a uno anterior que se disolvió y el cual se centraba en los riesgos a largo plazo de los desarrollos de OpenAI. Esta junta estaba liderada por los cofundadores Ilya Sutskever y Jan Leike, quienes renunciaron a mediados de mayo.

Tras su salida, Leike escribió que “la cultura y los procesos de seguridad de OpenAI han pasado a un segundo plano frente a los productos brillantes”, lo cual fue una dura crítica hacia el reciente accionar de la empresa por priorizar la tecnología sobre la seguridad.

Ahora, la nueva junta de supervisión estará compuesta por el CEO de la empresa, Sam Altman, así como otros miembros de la junta directiva de OpenAI, como Bret Tayler, Adam D'Angelo y Nicole Seligman.

Durante los próximos tres meses, anunció la compañía en el blog, el equipo de seguridad evaluará los procesos y compartirá sus recomendaciones sobre los procesos que estén llevando a cabo con el fin de atender las preocupaciones en torno al desarrollo de nuevas tecnologías.