Estas capacidades han aumentado la demanda de tecnología de software espía, abriendo paso a una industria lucrativa que se utiliza para vender a los gobiernos y a actores maliciosos la capacidad de explotar vulnerabilidades en dispositivos de consumo.
“Aunque el uso de software espía normalmente solo afecta a un pequeño número de objetivos humanos a la vez, su impacto más amplio se extiende a toda la sociedad, al contribuir a las crecientes amenazas a la libertad de expresión y la prensa libre y la integridad de los procesos democráticos en todo el mundo”, señala dicho análisis.
Esta es una de las razones por las que -de acuerdo con Hansen- Google e Internews han formado una asociación global para empoderar a periodistas y defensores de derechos humanos en “áreas de alto riesgo” y hasta ahora han capacitado a 3,000 personas.
La IA puede ser una aliada para la protección de datos
El estudio de Google apunta que desde 2020, grupos de ciberespionaje de más de 10 países han atacado a usuarios en México; sin embargo, más del 77% de la actividad de phishing respaldada por el gobierno se concentra entre grupos de la República Popular China (RPC), Corea del Norte y Rusia.
En este sentido, la creciente implementación de Inteligencia Artificial podría jugar un papel relevante como defensora de la ciberseguridad de los usuarios. Desde la perspectiva de la tecnológica, la aplicación de la IA también debe cumplir con estándares de seguridad claros.
En 2023 la compañía presentó el Marco de IA Segura (SAIF), aplicable para sistemas de IA seguros, el cual está diseñado para ayudar a mitigar los riesgos específicos de los sistemas de IA, como el robo del modelo, el envenenamiento de los datos de entrenamiento, la inyección de entradas maliciosas mediante inyección rápida y la extracción de información confidencial de los datos de entrenamiento.
El gran reto y objetivo final, de acuerdo con Hansen, es invertir “el dilema del defensor”, el cual refiere que los atacantes solo requieren un ataque exitoso para causar daño, pero los defensores deben defender contra todas las amenazas todo el tiempo.
