Sam Altman, CEO de OpenAI, advierte los dos riesgos que podrían hacer que la IA termine "muy mal"

“Reglas consistentes para gestionar el riesgo de frontera, de modo que podamos maximizar los beneficios son una buena idea (y nos entusiasman ideas como los auditores independientes)”, escribió Altman.

Asimismo, resaltó que ante los avances que registra la tecnología, son necesarios los cambios de enfoque en su desarrollo y evaluación a través de nuevas herramientas para mantener la seguridad de los usuarios, incluso antes del lanzamiento de sus modelos más novedosos.

“Esperamos que otras empresas aprendan de nuestros enfoques y propongan los suyos propios; creemos que estándares compartidos para desalineación, monitoreo y seguridad conducirán a mejores resultados”, dijo Altman. “Esperamos con interés colaborar con nuestros colegas en toda la industria para formular la mejor versión de estos”.

Por último, si bien se han publicado diversas opiniones sobre el avance vertiginoso de la IA, el ejecutivo de OpenAI fue contundente al decir que no está pidiendo que el avance pare. “El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento de lo que podría ser de otra manera; intervenciones como casos de seguridad y monitoreo tienen costos significativos”, dijo.

Anthropic encendió las alertas en torno a la IA

Las declaraciones de Altman llegan después de la publicación del exempleado de Anthropic, Jacob Coxon, quien dijo que la Inteligencia Artificial acabará con la humanidad, preocupaciones que el CEO de Anthropic, Dario Amodei, también abordó en un ensayo .

“Desde este verano, la IA ha avanzado a un ritmo vertiginoso , impulsada principalmente por su creciente capacidad para crear la próxima generación de IA”, afirmó Amodei. “Si no se controla, podría superar nuestra capacidad de comprender y controlar estos sistemas, por lo que debemos abordarlos con suma cautela, si es que lo hacemos”.

En su perspectiva, es necesario incorporar tres fases para moderar el ritmo de avance sin “sacrificar la ventaja comercial ni el liderazgo de Estados Unidos en la IA”, las cuales son otorgar acceso a evaluadores externos, algo que, según dijo, la propia Anthropic ya está realizando.

Por otra parte, instó a los laboratorios de vanguardia a establecer estándares de seguridad comunes, limitar el ritmo de avance descontrolado de la IA e intentar coordinar los esfuerzos en este sentido a nivel mundial.

Sin embargo, este último punto es el más problemático, ya que implicaría una desaceleración y coordinación con los principales desarrolladores de IA en China, nación con la que EU se encuentra inmersa en una dura carrera por probar quién tiene más capacidad y potencial.

“A largo plazo, lo ideal sería trabajar juntos para poner un límite de velocidad al ritmo de progreso de la IA”, dijo Amodei. “Creo que va a ser muy difícil porque los incentivos para tomar la delantera y la ventaja militar que eso conlleva son enormes. Y, sinceramente, no sé si es posible, pero deberíamos intentarlo”.