Tecnología

Tras intentar sacar a Sam Altman de OpenAI, Sutskever abre empresa de IA segura

Ilya Sutskever, antiguo científico en jefe de OpenAI, fue una de los ejecutivos que fraguó la salida de Sam Altman de la empresa en noviembre pasado.

jue 20 junio 2024 09:00 AM

Tras intentar sacar a Sam Altman de OpenAI, Ilya Sutskever abre empresa de IA segura — Ilya Sutskever, cofundador de OpenAI, junto a Sam Altman, director ejecutivo de OpenAI. (Foto: Twitter@ilyasut)

Expansión

@ExpansionMx

Ilya Sutskever, cofundador y excientífico en jefe de OpenAI, inauguró su propia empresa de Inteligencia Artificial, la cual se llamará Safe Superintelligente (SSI) y estará centrada en la seguridad de los productos. Este anuncio llega tan sólo un mes después de haber dejado formalmente OpenAI.

De acuerdo con el documento que publicó Sutskever, SSI abordará las principales preocupaciones en seguridad mientras avanza en el desarrollo de productos, de una forma singular, es decir, sin la presión externa que suelen enfrentar los equipos de otras compañías, como OpenAI, Google o Microsoft.

“Nuestro modelo de negocio significa que la seguridad, la protección y el progreso están aislados de las presiones comerciales a corto plazo. De esta manera podemos escalar en paz”, comentó Sutskever.

SSI también fue cofundada por Daniel Levy, quien anteriormente fue parte del personal técnico de OpenAI, y por Daniel Gross, quien lideró la división de IA en Apple. Cabe recordar que Sutskever también fue el principal actor en la destitución del director ejecutivo de OpenAI, Sam Altman, en noviembre pasado.

Sutskever y las alertas por el avance de la IA

Dentro de OpenAI, Sutskever fue uno de los miembros más importantes en las iniciativas para el mejoramiento de la seguridad de los sistemas “superinteligentes”, un área de la que se ha hablado poco y en la cual trabajó con Jan Leike.

Leike, por mencionar su situación, también dejó OpenAI en mayo pasado en medio de una disputa sobre cómo abordar la seguridad de los productos y ahora dirige un equipo en una de las startups rivales de la firma, Anthropic.

Por su parte, Sutskever ha alertado sobre los posibles peligros de la inteligencia artificial. Incluso resaltó en 2023 que esta tecnología podría tener una inteligencia superior a la humana en una década y cuando llegue no será benevolente, por lo que es necesario idear formas de controlarla o restringirla.

Tras el anuncio de la nueva empresa, Sutskever afirmó que la misión y hoja de ruta de productos de SSI estará basada en la seguridad, incluidos los equipos de trabajo, inversores y modelo de negocio.

Si bien Sutskever no dio muchos detalles sobre la financiación o valoración de la nueva empresa, una cosa es segura y es que se diseñó desde un inicio como una organización con fines de lucro.

Esto es importante destacarlo, pues OpenAI se originó en 2015 como una organización sin fines económicos y posteriormente se reestructuró, cuando las enormes inversiones necesarias para su potencia informática se hicieron más obvias. Incluso esto ha generado polémica entre Altman y Musk, quien también fue cofundador de la compañía.

Durante una conversación con Bloomberg, Daniel Gross afirmó que de todos los posibles problemas que podrían enfrentar, “recaudar capital no será uno de ellos”, además de que la startup ya tiene un par de oficinas en Palo Alto, California, y en Tel Aviv, Israel, donde están contratando talento técnico.