La empresa estadounidense Anthropic, desarrolladora de los modelos de inteligencia artificial (IA) Claude, puso el martes a disposición del gran público la versión más potente de su tecnología, aunque limitada en áreas sensibles como la ciberseguridad y los riesgos de ataque biológico.
Bautizado como Fable 5, este modelo es el primero de la clase Mythos —la gama más avanzada de Anthropic, presentada en abril pero restringida por motivos de seguridad— que se abre al público.
Paralelamente, Anthropic ofrece una versión sin limitaciones, Claude Mythos 5, a las empresas, organizaciones y agencias estatales que ya disponen de acceso a esta familia de patrones, presentada como capaz de detectar y explotar fallos de seguridad a una velocidad y con una precisión inéditas.
A principios de abril, Anthropic había anunciado simultáneamente la existencia de Mythos y su decisión de limitar su acceso a socios de confianza para reforzar su protección frente a ciberataques.
La noticia le valió acusaciones de hacer un "marketing del miedo" y provocó al mismo tiempo una agitación entre los Estados y las instituciones mundiales, para evaluar el nivel de la amenaza sobre infraestructuras esenciales (bancarias, energéticas y otras).
Desde entonces, varias empresas que tuvieron acceso a Mythos han confirmado sus capacidades, y el gobierno estadounidense, a pesar de estar en litigio con Anthropic, terminó probándolo.
La Casa Blanca instauró desde entonces un dispositivo de evaluación opcional para los modelos de IA estadounidenses más potentes antes de su comercialización. OpenAI, el rival de Anthropic, está a punto de presentar la versión 5.6 de su ChatGPT.
Hasta ahora, Anthropic justificaba restringir el acceso a Mythos únicamente por los riesgos de ciberseguridad. Sin embargo, con Fable 5, amplió la vigilancia y el control a los riesgos de ataques biológicos, sin precisar las amenazas específicas que busca prevenir (diseño de armas químicas, bacteriológicas, entre otras).
Según la empresa, la mayoría de las solicitudes relacionadas con la ciberseguridad o la biología reciben una respuesta del modelo inferior, Opus 4.8, hecho público a finales de mayo. Este marco se basa en filtros automáticos que analizan las solicitudes en tiempo real y bloquean las que tratan temas sensibles.
Anthropic afirma haber encargado a expertos externos que intentaran sortearlos -un enfoque de simulación de ataque- con remuneraciones para premiar a quienes lograran explotar fallos.
Según la empresa, ninguno en 1,000 horas de pruebas, logró un "bypass universal", es decir, desbloquear por completo el modelo. Sin embargo, la empresa tampoco dijo si se identificaron bypass puntuales.
Con información de AFP
