Cedes demasiado control a la IA sin notarlo: estas medidas te permiten acotar su autonomía

La autonomía de la IA, señala Mantas Laukauskas, líder de IA de Hostinger, ha crecido más rápido que los controles de permisos. “Un agente que resume tu inbox no necesita mandar emails, borrar archivos o hacer pagos”, dice Laukauskas a Expansión.

Para reducir el riesgo de filtraciones o vulnerabilidades, los agentes solo deben acceder a la información de la cuenta autorizada y requieren confirmación del cliente para realizar operaciones delicadas como eliminar datos, efectuar pagos o modificar la configuración de los dominios. Sin embargo, para Laukauskas “ninguna protección es suficiente” y duda de cualquier empresa que diga que “su agente no puede ser manipulado”.

Incluso OpenAI ha dicho que el prompt injection, un tipo de vulnerabilidad en la que el atacante manipula la entrada de un modelo de IA para hacer que ignore sus reglas, o las estafas en línea son improbables de resolverse por completo.

Anthropic , por otro lado, reporta que los usuarios aprobaron aproximadamente un 93% de los permisos solicitados por su agente de programación, cifra que de acuerdo con Laukauskas evidencia que las personas pueden acostumbrarse a aceptar las solicitudes sin evaluar sus consecuencias.

¿Cómo proteger a tu empresa de un modelo de IA?

En 2025, Hostinger comenzó a permitir que sus asistentes ejecutaran acciones desde el panel de control y en 2026 dentro de los servidores privados virtuales (SPV) de sus clientes, gestionando más de un millón de conversaciones mensuales, por lo que “incluso una pequeña falla podría afectar a los usuarios todos los días”, asegura Laukauskas .

La empresa también distingue entre las acciones de solo lectura y aquellas que pueden modificar información, entonces antes de ejecutar una operación el sistema comprueba que la solicitud corresponda a una herramienta autorizada y cumpla con un formato específico.

De esta forma, si un atacante consigue introducir instrucciones maliciosas en un correo electrónico o página web, el agente no debería poder ejecutar acciones fuera de los permisos establecidos.

Otra medida consiste en mantener la posibilidad de intervención humana, por lo que los clientes pueden solicitar atención de una persona en cualquier momento y conservar el historial de la conversación. Además, la empresa revisa las interacciones para identificar errores, corregirlos e incorporar los casos detectados a sus pruebas de seguridad.

Emilis Strimaitis, jefe de productos de inovación de Hostinger explica a Expansión que aunque la IA ya participa en el desarrollo de código, los programadores profesionales siguen siendo indispensables para revisar los resultados, garantizar la seguridad de las aplicaciones y resolver problemas de integración antes de implementar nuevas funciones.

Pero estas restricciones se vuelven más relevantes cuando se conectan con otras aplicaciones. Strimaitis explica que sus herramientas pueden integrarse con más de 1,000 aplicaciones, entre ellas, “Gmail, Google Drive y Notion, y si un usuario autoriza el acceso a su correo electrónico, el agente puede leer y enviar mensajes”, lo que hace necesario definir qué información puede consultar y qué acciones puede realizar.

Asimismo, los modelos que utilizan están desarrollados por OpenAI, Anthropic, y Google pero incorporan una capa propia de software que determina las herramientas, instrucciones y capacidades disponibles para sus agentes. Lo que significa que las medidas de seguridad no solo dependen de las protecciones incorporadas por los desarrolladores de los modelos, sino de las decisiones de cada empresa.

¿Quién responde cuando un agente de IA se equivoca?

Para Laukauskas, la responsabilidad de un incidente debe distribuirse entre los distintos participantes, aunque no todos tienen el mismo grado de compromiso, pues mientras el atacante responde por introducir instrucciones maliciosas, las empresas que ponen los agentes a disposición del público son las que deciden a qué información y herramientas pueden acceder.

Por esta razón, considera que las compañías que implementan estas tecnologías tienen la principal responsabilidad frente a sus usuarios. Los desarrolladores de modelos, por su parte, deben incorporar mecanismos de protección y comunicar con transparencia las limitaciones de sus sistemas.

En Europa, esta discusión también tiene implicaciones regulatorias. Laukauskas comenta que la actualización de la Directiva sobre Responsabilidad por Productos Defectuosos de la Unión Europea incluye al software y los sistemas de inteligencia artificial dentro de su alcance, con un nuevo marco que los países miembros deberán aplicar a partir de diciembre de 2026.

Sin embargo, las medidas técnicas y las obligaciones legales no eliminan por completo el riesgo. A medida que los agentes adquieren capacidad para ejecutar tareas por cuenta de los usuarios, el desafío para sus desarrolladores consiste en anticipar qué podría salir mal y limitar las consecuencias de una instrucción equivocada o maliciosa.

La prioridad, de acuerdo con Laukauskas, no es asumir que un agente nunca podrá ser engañado, sino diseñarlo para que, incluso cuando eso ocurra, sus permisos no le permitan provocar daños mayores.