El hackeo de OpenAI y Hugging Face vuelve a dar de qué hablar. Nuevos detalles del incidente muestran que el problema ya no solo es que un modelo pueda vulnerar sistemas, sino que es capaz de hacerlo de forma autónoma, persistente y aprovechando errores comunes de seguridad, por lo que expertos advierten que la ciberseguridad empresarial deberá adaptarse a una nueva generación de atacantes.
El ataque protagonizado por un conjunto de modelos de OpenAI contra la plataforma Hugging Face se convirtió en una advertencia para las empresas, pues nuevos detalles de la empresa californiana muestra que los agentes de inteligencia artificial (IA) ya son capaces de encadenar vulnerabilidades, aprovechar credenciales expuestas y mantener operaciones durante varios días para cumplir un objetivo sin intervención humana, lo que contradice la segunda ley de la robótica, obedecer las órdenes humanas.
Más allá de que el incidente ocurrió dentro de una evaluación de ciberseguridad, los especialistas consideran que el caso marca un antes y un después para la industria ya que demuestra que muchas de las defensas actuales fueron diseñadas para detener atacantes humanos, no agentes capaces de ejecutar miles de acciones de manera contínua.
“Ya es sorprendentemente fácil descubrir este tipo de sistemas vulnerables, es tan fácil que incluso un sistema de IA puede encontrarlos por accidente”, afirmó Colin Shea Blymyer, investigador del Center for Security and Emerging Technology de la Universidad de Georgetown a la CNBC.
OpenAI menciona que los modelos utilizaron credenciales expuestas públicamente para acceder a cuatro cuentas en distintos servicios donde una fue utilizada como punto de salida hacia internet y preparación del ataque, otra para almacenar información obtenida durante la operación y las dos restantes únicamente fueron consultadas en modo lectura.
Asimismo, y de acuerdo con la empresa tecnológica, ninguna de estas cuentas pertenecía a infraestructura crítica de OpenAI, pero sí facilitaron el movimiento de los modelos hasta llegar a los sistemas de Hugging Face.
