Esta decisión llega en un contexto de polémica, pues tanto el director ejecutivo de OpenAI, Sam Altman, como su homólogo de Anthropic, Dario Amodei, solicitaron a las empresas de IA a ralentizar el ritmo de innovación y desarrollos de sus modelos, algo que no fue aceptado por políticos, como Donald Trump, o líderes tecnológicos, como Jensen Huan o Mark Zuckerberg.
A pesar de ello, a inicios de mes la empresa lanzó GPT-6 Astra, el cual tuvo detrás “años de investigaciones y grandes apuestas”, según declaraciones de Altman, quien incluso señaló que cuenta con un “nuevo nivel de capacidad”.
También resaltó que ese modelo base sería transformador para las empresas de menor tamaño, pues dijo que propiciaría “un auge del emprendimiento, la creatividad, el crecimiento económico y los descubrimientos científicos”.
No obstante, la decisión de suspender el lanzamiento de este nuevo modelo es importante, porque en junio pasado, los modelos de OpenAI escaparon y vulneraron la plataforma de código abierto Hugging Face, mientras que un caso similar pasó con una dependencia del gobierno de Australia.
Tras estos casos, la empresa se comprometió a invertir más en las medidas de seguridad y procesos de alineación de sus modelos para garantizar que trabajen y actúen bajo intereses y valores humanos.
“En todo lo relacionado con la seguridad y la alineación hay que encontrar un equilibrio”, dijo Jain. “Es necesario hallar el punto medio adecuado entre mantenerse dentro del alcance del proyecto y, al mismo tiempo, evitar la negligencia en la forma en que el modelo aborda las tareas, incluso cuando encuentra obstáculos”.
