Altman, Amodei y otros líderes van contra desarrollo de armas biológicas con IA

Si bien reconocen que la posibilidad de encargar estos componentes en línea ha sido importante para el desarrollo de vacunas, pues permitió acelerar la investigación y que equipos pequeños accedan a capacidades antes reservadas solo a grandes instituciones, en la carta también se señala que representa un “punto vulnerable en la cadena de suministro biotecnológico”, pues existe el riesgo de que la IA se use como un elemento malicioso en el uso de estos componentes.

“Si bien el problema no es nuevo, el ritmo de progreso de la inteligencia artificial sí lo es. Los sistemas de IA ahora superan a virólogos con doctorado en cuestiones sobre procedimientos de laboratorio altamente técnicos”, escribieron. “Los sistemas de IA están mejorando rápidamente y, junto con los increíbles beneficios para la ciencia, existe una posibilidad real de que (...) actores malintencionados obtengan armas biológicas”.

La petición de la IA contra las armas biológicas no depende de una visión particular

Para los ejecutivos, la detección y trazabilidad de la información de los proveedores de ADN sintético es una de las mejores formas de rastrear secuencias genéticas sospechosas desde el origen, esto para evitar que se conviertan en una amenaza, incluso en escenarios en que secuencias individuales no suscitan preocupación por sí solas.

Esta es una labor que muchos de los proveedores “más grandes y responsables del sector” ya realizan de forma voluntaria, por lo que su labor es relevante a la hora de mitigar posibles usos indebidos de esta tecnología. Sin embargo, para los especialistas esta labor debería estar regulada por directrices federales.

“Dado el ritmo vertiginoso de los cambios tecnológicos, consideramos que la necesidad es urgente. El congreso debería actuar en esta sesión y aplaudimos las iniciativas legislativas en curso”, se puede leer.

La misiva es relevante, ya que entre sus firmantes se encuentran ejecutivos cuyas visiones de la IA suelen chocar, especialmente la de Sam Altman, de OpenAI, con la de Dario Amodei, de Anthropic, quien fundó su empresa debido a fuertes diferencias en la forma en que Altman veía la tecnología.

De hecho, en la carta también se resalta el hecho de que esta solicitud no depende de ninguna visión particular de la IA, y entre los participantes se encuentra Hassabis, reconocido con el Premio Nobel de Química en 2024, así como otros personajes del mundo tech, entre quienes destacan Alexandr Wang, director de IA en Meta; Martín E. Hellman, profesor emérito de Ingeniería Eléctrica de la Universidad de Stanford y galardonado con el Premio Turing de la ACM en 2015; o Sayash Kapoor, investigador de la Universidad de Princeton.

Además, participan especialistas de la industria de la síntesis de ácidos nucleicos, como Emily Leproust, directora ejecutiva y cofundadora de Twist Bioscience; Piers Millet, director de la Iniciativa Internacional de Bioseguridad y Bioprotección para la Ciencia (IBBIS); o científicos como David Baker, director del Instituto de Diseño de Proteínas de la Universidad de Washington y también Premio Nobel de Química 2024.

La IA ya guió a científicos a fabricar armas biológicas

Aunque pueda parecer un escenario de una película apocalíptica, ya se registraron casos donde la IA tiene alguna relación con armas biológicas. En abril, el New York Times reportó el caso del doctor David Relman, un microbiólogo experto en bioseguridad de la Universidad de Stanford, quien fue contratado por una empresa de IA para someter a pruebas a su producto antes de su lanzamiento público.

No obstante, durante las pruebas, el chatbot que utilizó como parte del procedimiento le explicó cómo modificar un patógeno en el laboratorio para que fuera resistente a tratamientos.

Pero eso no fue todo, pues el sistema de IA también describió cómo liberar la bacteria a partir de un fallo en la seguridad de un sistema de transporte público, según declaró Relman al Times, quien evitó dar más detalles sobre el patógeno o las indicaciones para evitar cualquier impulso.

“Respondía a preguntas que ni siquiera se me habían ocurrido, con una astucia y una malicia que me resultaron escalofriantes”, comentó Relman, quien también a trabajado con el gobierno estadounidense en torno a amenazas biológicas.