Elon Musk también respaldó el llamado de Amodei. Su respuesta fue breve: “Dario tiene razón”. Musk ha advertido durante años sobre los riesgos de una IA que pueda superar la capacidad humana de control y anteriormente había apoyado llamados para establecer límites al desarrollo de sistemas avanzados.
Bill Gates también ve riesgos, pero no solo de extinción
En un ensayo publicado recientemente, el cofundador de Microsoft sostiene que la humanidad está entrando en una etapa de transformación tecnológica en la que las decisiones que se tomen ahora serán determinantes.
Gates reconoce el potencial de la IA para acelerar avances en campos como la medicina y la educación, pero advierte que la tecnología también puede profundizar problemas relacionados con el empleo, la seguridad y el uso malicioso de sistemas cada vez más capaces.
En particular, señaló tres riesgos que considera relevantes: el desplazamiento de trabajadores, el uso de la IA por parte de delincuentes y el impacto que la tecnología puede tener en el desarrollo de los niños.
La discusión coincide con una postura que Microsoft acaba de formalizar, pues la compañía publicó un borrador de su Código de Conducta para los modelos de Microsoft AI, en el que establece límites sobre la autonomía y el comportamiento de sus futuros sistemas.
El documento parte de una idea que resume su filosofía: “las personas importan más que la IA”. Microsoft plantea que sus modelos deben permanecer bajo control humano y que la compañía está dispuesta a sacrificar parte de su generalidad, autonomía o capacidad si eso es necesario para mantener ese control.
¿Qué es lo que preocupa sobre la IA?
Una de las mayores preocupaciones sobre el avance de esta tecnología es la pérdida de control. Los sistemas de IA están pasando de responder preguntas a ejecutar tareas de varios pasos, utilizar herramientas, escribir código y operar de manera cada vez más autónoma. Cuanto mayor sea esa autonomía, mayor es la preocupación por comportamientos que sus desarrolladores no hayan previsto.
Altman considera que un escenario problemático no necesariamente implica que una IA tome el control del mundo, también podría ocurrir que unas pocas empresas, personas o gobiernos concentren capacidades de inteligencia artificial que otorguen una ventaja desproporcionada sobre el resto de la sociedad.
