“La declaración sucinta tiene como objetivo superar” el obstáculo que implica lo difícil que es expresar todas las inquietudes alrededor de los riesgos más graves de la Inteligencia Artificial avanzada y está destinada a “crear un conocimiento común del creciente número de expertos y figuras públicas que también toman en serio” las amenazas implícitas, indica el Center for AI Safety.
Es la segunda carta abierta que apunta en esta dirección, sin embargo, en esta ocasión no se plantea un llamado a pausar el desarrollo de la Inteligencia Artificial de inmediato, tal como sucedió en una declaratoria firmada por personajes como Elon Musk.
Sam Altman, CEO la empresa creadora del ChatGPT, también expresó estas preocupaciones en el blog de OpenAI recientemente, donde también apunta que los últimos avances de IA generativa son tan importantes como el descubrimiento de la energía nuclear. Altman propone, entre otras cosas, la creación de una agencia internacional para regular y auditar el desarrollo de estos sistemas que, en 10 años, podrían alcanzar la superinteligencia.
Expertos de Inteligencia Artificial de Meta no han firmado
Un comunicado de CAIS señaló a Meta META.O, donde trabaja el tercer padrino de la IA, Yann LeCun, por no firmar la carta.
"Pedimos a muchos empleados de Meta que firmaran", declaró Dan Hendrycks, director del CAIS. Meta no respondió inmediatamente a las peticiones de comentarios.
