La carrera global por desarrollar sistemas de inteligencia artificial cada vez más potentes abrió un nuevo frente de debate. Anthropic, una de las empresas más importantes del sector y creadora del chatbot Claude , propuso una pausa coordinada a nivel mundial en el desarrollo de los modelos de IA más avanzados, al considerar que la tecnología podría evolucionar más rápido de lo que gobiernos, empresas y sociedades son capaces de gestionar.
Anthropic pide frenar desarrollo de IA avanzada: teme que los nuevos modelos escapen al control humano
Los desarrolladores de Claude consideran que, por consenso, todos los desarrolladores de inteligencia artificial avanzada deberían detenerse ante posibles riesgos.
Publicidad
En un informe publicado este jueves, la compañía con sede en San Francisco señaló que una desaceleración temporal del desarrollo de la IA de frontera sería "probablemente una buena idea" para permitir que la investigación en seguridad y los marcos regulatorios avancen al mismo ritmo que la tecnología.
La empresa advirtió, sin embargo, que una pausa unilateral tendría pocas posibilidades de éxito. Si una sola compañía decide frenar sus avances, sus competidores podrían aprovechar para tomar ventaja en una carrera tecnológica que involucra a gigantes de Estados Unidos y China.
"Creemos que sería bueno para el mundo tener la opción de disminuir o pausar temporalmente el desarrollo de vanguardia de la IA para permitir que las estructuras sociales y la investigación sobre alineamiento sigan el ritmo del avance de la tecnología", señaló Anthropic.
La propuesta llega en un momento en el que las principales tecnológicas destinan miles de millones de dólares al desarrollo de modelos cada vez más sofisticados, impulsadas por la expectativa de que la IA transforme industrias enteras y se convierta en uno de los principales motores de crecimiento económico de las próximas décadas.
El dilema de la competencia global en el desarrollo de la IA
Anthropic reconoce que implementar una pausa efectiva requeriría un acuerdo internacional entre empresas y gobiernos, acompañado de mecanismos de supervisión verificables.
La compañía comparó el desafío con los acuerdos de control de armas nucleares, aunque admitió que el problema podría ser incluso más complejo debido a que el entrenamiento de modelos de IA es mucho más difícil de monitorear que el desarrollo de armamento tradicional.
La discusión ocurre en medio de una creciente rivalidad tecnológica entre Estados Unidos y China. Funcionarios estadounidenses y directivos de grandes tecnológicas han argumentado que cualquier desaceleración podría otorgar una ventaja estratégica a Pekín en una de las industrias consideradas clave para la seguridad nacional y el liderazgo económico futuro.
De hecho, varios actores de la industria han criticado la postura de Anthropic, al considerar que exagera los riesgos más extremos de la IA y que sus llamados a una mayor cautela podrían terminar beneficiando a la propia empresa frente a sus competidores.
Publicidad
¿Por qué preocupa una IA que se mejore a sí misma
El principal argumento de Anthropic gira en torno a la velocidad con la que los sistemas actuales están comenzando a contribuir a su propio desarrollo.
Según la compañía, sus datos internos muestran que la inteligencia artificial ya acelera distintas etapas de investigación, programación y mejora de modelos, reduciendo progresivamente la intervención humana.
Ese fenómeno podría derivar en lo que los investigadores llaman "superación recursiva": la capacidad de un sistema para mejorarse a sí mismo de forma continua y acelerar cada vez más su propio progreso.
"Aún no hemos llegado a ese punto, y la superación recursiva no es inevitable", reconoció la empresa en el informe. Sin embargo, advirtió que ese escenario podría materializarse antes de que las instituciones estén preparadas para enfrentarlo.
"Las pruebas sugieren que el papel humano se está reduciendo en cada paso del proceso de desarrollo de la IA", señaló Anthropic.
Publicidad
Regulación y vigilancia
El debate también ha comenzado a trasladarse a los gobiernos. Esta semana, el presidente Donald Trump firmó una orden ejecutiva que permitirá a las autoridades estadounidenses realizar evaluaciones preliminares de algunos de los modelos de IA más poderosos desarrollados por empresas nacionales antes de su lanzamiento.
Al mismo tiempo, la Casa Blanca ha reconocido las capacidades de Mythos, uno de los modelos más avanzados de Anthropic, que por ahora permanece restringido a un número limitado de organizaciones debido a sus capacidades en materia de ciberseguridad.
Para Anthropic, la pregunta ya no es si la inteligencia artificial seguirá avanzando, sino si las instituciones serán capaces de desarrollar mecanismos de control, supervisión y coordinación internacional al mismo ritmo que la tecnología.
Con información de AFP
Recomendaciones
Más acerca del autor:
Newsletter
Publicidad