Incluso tiene impacto en términos de ciberseguridad, pues permite que las capacidades de detección y respuesta se ejecuten directamente en el dispositivo del usuario, utilizando el hardware para identificar amenazas de manera más profunda y rápida que los métodos tradicionales, menciona Pablo de Pardo, arquitecto de seguridad de software en Intel.
Este tipo de tecnología también es capaz de identificar el malware incluso si este ha sido modificado con herramientas de IA generativa, debido a que su propia IA local se enfoca en la telemetría de la CPU, lo que permite detectar las amenazas prácticamente en tiempo real, agrega el especialista.
Empresas como Microsoft o Intel ya impulsan este modelo con soluciones que integran IA en el propio dispositivo. En paralelo, Lenovo y HP están desarrollando computadoras diseñadas para ejecutar modelos de lenguaje de forma local.
Qué dispositivos se necesitan para aprovechar la IA híbrida
El avance de la IA híbrida exige cambios en el hardware. Los equipos requieren procesadores con unidades especializadas para IA, conocidas como NPU. Fabricantes como Intel, AMD y Qualcomm integran estas capacidades en sus nuevos chips a cambio de un menor consumo energético.
La memoria también juega un papel clave. En este sentido, los dispositivos deben incluir al menos 16 GB de RAM para ejecutar este tipo de modelos de forma eficiente. En equipos más avanzados, la capacidad supera los 32 GB para soportar cargas de trabajo complejas.
Además, el almacenamiento rápido resulta esencial. Las unidades de memoria de estado sólido, mejor conocidas como SSD, permiten acceder a modelos y datos sin latencia, lo que mejora la experiencia del usuario en tareas cotidianas.
El impacto en la productividad puede ser significativo, según datos de Deloitte, este tipo de herramientas de IA pueden reducir hasta 30% el tiempo dedicado a tareas administrativas, lo cual libera espacio para actividades estratégicas e incluso se extiende en términos de privacidad, pues al procesar información en el dispositivo, las empresas reducen el riesgo de filtraciones y cumplen con regulaciones más estrictas.
Sin embargo, el modelo también presenta desafíos importantes, señala la consultora. El primero es el costo del hardware, ya que los equipos con capacidades de IA local resultan más caros debido a la integración de chips avanzados y mayor memoria.
Además, el contexto de crisis de memoria agrava este escenario, pues el aumento en precios de DRAM, que TrendForce anticipa será del 30%, impactará directamente en el costo final de los dispositivos, haciéndolos hasta un 15% más costosos, lo que limita su adopción masiva.
Otro riesgo es la fragmentación tecnológica, pues no todos los dispositivos cuentan con la misma capacidad para ejecutar modelos de IA, lo que genera experiencias desiguales entre usuarios, a lo que se suma el reto de la actualización de modelos, pues a diferencia de la nube, donde las mejoras se implementan de forma centralizada, en el entorno local se requiere actualizar cada dispositivo de forma individual.