China domina los modelos abiertos de IA y alcanzará a EU a finales de este año, advierte el CEO de HuggingFace

La competencia ya no es solo tecnológica

Pero, ¿qué son los sistemas abiertos? Estos se refieren a los componentes principales, como los pesos y el código, que se encuentran disponibles de manera pública permitiendo descargar archivos del modelo para ejecutarlos en servidores propios.

“Está claro que ahora mismo dominan los modelos abiertos, y no me sorprendería que, al ritmo que van progresando, empiecen a dominar también los modelos de vanguardia a finales de este año o el próximo”, declaró Clément Delangue en un programa de CNBC.

Asimismo, el directivo se refirió a que los modelos de IA de código abierto están avanzando tan rápido que pronto podrán superar a los sistemas cerrados y exclusivos de las grandes tecnológicas. Esto se debe a que los modelos de vanguardia o de frontera son los programas más avanzados, costosos y cerrados del mercado creados por gigantes tecnológicas que guardan su código en secreto como OpenAI y Anthropic.

Para Victor Ruíz, fundador de SILIKN, empresa mexicana de ciberseguridad y tecnología, lo que pasó entre OpenAI y Hugging Face demuestra que la industria ya no solo debe prepararse para atacantes humanos, sino para agentes de IA que ya demostraron ser capaces de identificar vulnerabilidades, adaptar estrategias, y ejecutar operaciones ofensivas a velocidad de máquina.

“Más allá de las particularidades del caso el mensaje es claro: la IA tiene el potencial de transformar el ciclo de los ciberataques al identificar vulnerabilidades de forma automatizada y adaptar técnicas, lo que obliga a replantear las estrategias de protección”, mencionó a Expansión.

Por otro lado, Delangue, quien defiende los modelos de código abierto, mencionó a CNBC que lo ocurrido con HuggingFace fue un error de ingeniería y que su empresa utilizó una versión de un modelo abierto Chino para contener el ataque. De esta forma, el director ejecutivo sostuvo que este caso también refleja cómo los modelos abiertos desarrollados en China han acortado la distancia tecnológica contra los estadounidenses en medio del debate sobre si su acceso debería restringirse.

Por otra parte, empresas como Microsoft, Nvidia o Palantir, han pedido a los responsables políticos evitar limitaciones a este tipo de modelos al considerar que son clave para mantener la competencia y el desarrollo de herramientas de ciberseguridad impulsadas por la IA.

El siguiente reto serán los agentes de IA

La aceleración de esta tecnología ocurre al mismo tiempo que empresas como Meta, OpenAI, Microsoft o Google apuestan por llevar agentes personales a miles de usuarios para administrar tareas cotidianas, desarrollar software o interactuar con aplicaciones empresariales. En este sentido, para el especialista Victor Ruiz, este escenario ampliará de forma importante la superficie de ataque de las organizaciones.

“El reto no será impedir su uso, sino aprender a convivir con ellos de manera segura”, afirmó. Desde su perspectiva, las empresas deberán comenzar a establecer esquemas de gobernanza específicos para la inteligencia artificial, definir qué información pueden consultar estos agentes, limitar sus privilegios, fortalecer sus controles de identidad y mantener una supervisión permanente de cada una de sus acciones.

Debido a que verificar la información debe ser el principal eje rector, aparecen principios como Zero Trust que refieren al modelo de ciberseguridad que se rige por la regla “nunca confíes, siempre verifica”, implementado por las principales empresas de tecnología como Microsoft, Google o IBM.

Ante este contexto, para Ruíz, los esquemas tradicionales de seguridad resultan insuficientes, por lo que recomienda que las empresas refuercen el aislamiento de los entornos donde se desarrollan, entrenan o evalúan modelos de IA y “consoliden arquitecturas basadas en principios de Zero Trust, implementen una segmentación más estricta de la infraestructura, apliquen el principio del mínimo privilegio, fortalezcan la protección de credenciales y se mantenga una supervisión contínua”, menciona el fundador de SILIKN.

Por otro lado, advierte que para México el reto será aún mayor debido a que muchas organizaciones aún presentan rezagos en la gestión de vulnerabilidades y la detección temprana de incidentes. “ La inteligencia artificial transformará la manera en la que operan tanto los defensores como los atacantes”, menciona, por lo que la ciberseguridad deberá de verse como un gasto operativo para convertirse en un elemento estratégico para la continuidad del negocio.