“Podríamos comprimir un siglo de progreso científico y médico en una década”
Dario Amodei, director ejecutivo de Anthropic, dedicó buena parte de su discurso al potencial de la inteligencia artificial para acelerar los descubrimientos científicos. “Creo que una IA suficientemente poderosa, que trabaje en conjunto con los humanos, podría comprimir un siglo de progreso científico y médico en una década”, aseguró.
Amodei recordó que él y su hermana perdieron a su padre por una enfermedad que encontró cura pocos años después de su fallecimiento. Esa experiencia lo llevó a iniciar su carrera en biología con la intención de contribuir al desarrollo de tratamientos.
Durante su intervención mencionó aplicaciones de Claude en áreas como el estudio de proteínas, el diseño de medicamentos, la genética del cáncer y la administración de ensayos clínicos. Sin embargo, reconoció que los resultados todavía son preliminares y que los experimentos y las pruebas clínicas requieren tiempo.
“Los riesgos van desde la disrupción económica hasta perder el control de los sistemas de IA”
El optimismo sobre las aplicaciones de Claude también estuvo acompañado de una advertencia sobre los peligros de la tecnología. “Estos riesgos van desde el uso indebido de la tecnología por individuos o Estados, hasta la disrupción económica y la pérdida de control de los sistemas de IA”, dijo Amodei.
El directivo aclaró que Anthropic no considera inevitables estos escenarios y que, precisamente por esa razón, busca desarrollar mecanismos para prevenirlos.
La preocupación por perder el control de sistemas cada vez más capaces forma parte del debate sobre los riesgos existenciales de la inteligencia artificial. Este escenario contempla la posibilidad de que modelos avanzados actúen de maneras que sus desarrolladores no puedan supervisar, limitar o detener adecuadamente, con consecuencias potencialmente graves.
Anthropic investiga técnicas para comprender el funcionamiento interno de sus modelos, evaluar sus comportamientos y establecer salvaguardas frente a riesgos biológicos y cibernéticos. La compañía también desarrolla métodos de entrenamiento que buscan mantener los sistemas alineados con las instrucciones y objetivos humanos.