Tecnología

"No tenemos un plan": Desarrollador de Anthropic admite que la IA podría exterminar a la humanidad

Jacob Coxon renunció a Anthropic esta semana y, como mensaje de despedida, lanzó una advertencia sobre el rápido avance de estas herramientas y los peligros que representa para los humanos en la actualidad.

mié 09 septiembre 2026 09:50 AM

Añadir Expansión en Google

Imagen generada con IA de dos robots humanoides paseando por la calle en medio de las personas en un entorno urbano. — "Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”, comentó Jacob Coxon, exempleado de Anthropic. (Foto: Generada con Inteligencia Artificial.)

Fernando Guarneros Olmos

@Guarolf_

Jacob Coxon, un investigador de seguridad de Anthropic que renunció a la empresa de Inteligencia Artificial este martes, encendió las alertas en torno al potencial negativo de esta tecnología en el mundo, pues resaltó que los laboratorios como la propia Anthropic u OpenAI, entre otros, están “jugando con nuestras vidas”.

Los comentarios podrían pasar desapercibidos al igual que muchas otras advertencias de usuarios en internet. Sin embargo, este caso específico tiene mayor impacto al provenir de una persona que hasta unas horas antes estuvo directamente implicada en el desarrollo y entrenamiento de dichas herramientas.

“Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando”, comentó Coxon. “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”.

Asimismo, sus palabras ponen una vez más en la conversación la creciente preocupación en torno al potencial de la IA en diferentes ámbitos, incluso hasta el punto de suponer una amenaza para la humanidad, al tiempo que las empresas mantienen su desarrollo y financiamiento millonario.

Una alerta para no subestimar a la IA

“No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, escribió Coxon en X.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026

Estas advertencias tienen de contexto el lanzamiento de modelos como Mythos, de Anthropic, o las versiones más recientes de GPT, de OpenAI, las cuales han demostrado ser capaces de vulnerar sistemas de ciberseguridad complejos en una velocidad que hasta el momento las personas no habían logrado.

Asimismo, Coxon resaltó que estas tecnologías son capaces de mejorarse a sí mismas de forma continua sin mucha intervención humana y los laboratorios están trabajando para que esta retroalimentación se ejecute sin la necesidad de una persona detrás.

Las advertencias no son “un truco de marketing”

En una de las publicaciones que hizo Coxon, resaltó que las advertencias “no son un truco de marketing” , pues incluso las personas con las que trabajó al interior de Anthropic también han expresado miedo al respecto. “Ninguna otra actividad humana representa este nivel de peligro”, dijo.

Si bien aceptó que puede llegar a ser contradictorio el hecho de que las empresas trabajen en estos desarrollos, al tiempo que consideran que representa un riesgo, señaló que en el caso de OpenAI no “han interiorizado” los peligros que significan, mientras que Anthropic está “atrapada” en una carrera por avanzar más rápido y llegar primero para poder actuar responsablemente y sentar las bases de la industria.

Luego de la publicación de Coxon, Evan Hubinger, responsable del desarrollo científico de Anthropic, aceptó que las declaraciones eran correctas y que incluso no tienen ningún plan para el escenario en que la IA se salga de control, aunque están trabajando en ese objetivo.

“Jacob tiene razón: ¡Realmente creemos que la IA podría acabar con todos los humanos! Personalmente, creo que esto ocurrirá en más del 10% de los casos en la próxima década. Creo que Anthropic está haciendo todo lo posible, pero aún no tenemos un plan para resolver el problema de la alineación para la superinteligencia y no estamos claramente encaminados a lograrlo”, escribió en X.

Por otra parte también comentó que los riesgos de los modelos actuales de IA son “bajos”, pero aceptó que las capacidades de automejoramiento recursivo están ocurriendo más rápido de lo que pensaban, lo cual constituye un riesgo importante,

Hackeos y advertencias en torno a la IA

Estas preocupaciones crecieron luego de los casos de hackeos por parte de las IA, como el suceso de junio en que un modelo de OpenAI se descontroló y vulneró a la plataforma de desarrolladores de código abierto, HuggingFace.

Advertencias como estas, además, se han replicado en otras personas, como el empresario Elon Musk, quien desde hace unos años ha advertido que la IA podría representar una amenaza para la humanidad .

“Soy optimista sobre el potencial para la coordinación”, señaló Coxon, quien agregó una propuesta en torno a la regulación: “No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal para mejorar las capacidades de los modelos”.