¿Digitalizar la militarización?: El plan Ángel puede vulnerar derechos humanos

¿Qué dice el plan Ángel?

De acuerdo con Ebrard, esta es su propuesta para pacificar México a través del uso de reconocimiento facial, reconocimiento morfológico de delincuentes, drones rastreadores de vehículos y bases conectadas a sistemas de Inteligencia Artificial (IA).

"Vamos a disfrutar del México más seguro de la historia”, aseguró el excanciller en un evento donde presentó su plan. Sin embargo, la medida ha sido criticada por activistas y organizaciones civiles.

De acuerdo con la Red en Defensa de los Derechos Digitales (R3D), a pesar de que estas herramientas de vigilancia han sido promocionadas como soluciones “mágicas” a la inseguridad y delincuencia, forma parte de una narrativa que “oculta la evidencia documentada de sus múltiples fallas, los abusos y fines autoritarios con que se han implementado”.

Luis Fernando García, presidente de la R3D, dijo a Expansión que un sistema de vigilancia masivo implica un monitoreo permanente de toda la población con la desventaja de que estas tecnologías cometen errores por los cuales se arrestan a personas inocentes.

“Su despliegue en el espacio público abre puerta a detenciones arbitrarias. El mayor problema es que los errores no son parejos, sino que afectan a poblaciones históricamente discriminadas, como las mujeres, los adultos mayores, las personas racializadas, además de personas trans y no binaries”, comentó.

García destaca que las tecnologías propuestas han sido utilizadas para la persecución de manifestantes antirracistas en Estados Unidos, grupos feministas en la Ciudad de México, activistas prodemocracia en Hong Kong, e incluso para el monitoreo sistemático, perfilamiento y persecución de minorías étnicas, como los Uigures en la región china de Xinjiang.

También destacó que la pretensión de detectar potenciales criminales con base en los movimientos o forma de caminar está basado en fundamentos pseudocientíficos, que ya han sido refutados.

Por su parte, Amnistía Internacional también ha alertado sobre el uso de este tipo de sistemas. En el contexto de los Juegos Olímpicos de París 2024, la organización pidió al poder legislativo francés rechazar cualquier plan de usar videovigilancia alimentada por IA, debido a que viola el derecho a la intimidad y pueden violar los derechos a la libertad de expresión y de reunión pacífica.

“Reabastecer el aparato de seguridad con una vigilancia masiva alimentada por IA es un proyecto político peligroso que podría desembocar en violaciones generalizadas de los derechos humanos. Todas y cada una de las acciones que se realicen en un espacio público serán absorbidas en una red de arrastre de infraestructura de vigilancia, lo que menoscabará libertades civiles fundamentales”, puntualizó Agnès Callamard, secretaria general de Amnistía Internacional.

García apuntó que esta iniciativa forma parte de una tendencia por digitalizar la militarización, pues existe “un deseo real de parte de las autoridades de generar un control militar de las actividades en el espacio público físico y digital”.

Ya compartimos datos a las empresas, ¿cuál es la diferencia en este caso?

Erik Huesca, físico de la UNAM y doctor en IA por la Universidad de California, en Berkeley, comentó que en la actualidad prácticamente todas las personas conectadas a internet son constantemente vigiladas por empresas privadas, pero destacó que un sistema de estas características puede resultar problemático debido a los sesgos éticos con los que está programado.

Existe el riesgo de que un sistema de “brutez artificial” —como los llama sarcásticamente— programado con la información de que las personas tatuadas estuvieron en la cárcel, señale que cualquier individuo con tatuajes podría ser un potencial criminal.

García compartió las preocupaciones del doctor Huesca respecto a que las empresas privadas también cuentan con grandes cantidades de datos de los usuarios, pero señaló el hecho de que un gobierno recabe tal cantidad de información para labores de vigilancia, incluidos datos biométricos, es particularmente preocupante.

El especialista dijo que los usuarios no están obligados a usar los servicios de tecnología si no desean entregar sus datos, no obstante, con una propuesta como el plan Ángel, la medida es “ineludible” para todos.

“Tanto el uso de los datos por parte de las empresas como de los gobiernos son bastante problemáticos y ninguna de las dos partes justifica un despliegue de sistemas de vigilancia masiva”, comentó.

Los expertos también coincidieron en que no existen marcos regulatorios en México con los cuales se pueda prevenir que este tipo de tecnologías se usen de forma abusiva contra los ciudadanos. En este sentido, García citó el caso Pegasus, a través del cual el gobierno espió a activistas y periodistas impunemente.

“Si no fueron capaces de prevenir, proteger y sancionar cuando hubo casos de vigilancia focalizada a un pequeño número de personas, mucho menos lo van a poder hacer cuando la vigilancia sea de forma generalizada”, sentenció.

Centralización de datos, el riesgo latente de un hackeo

Para hacer funcionar este tipo de tecnologías es necesario contar con una gran base de datos. En México, el intento de crear un repositorio de información tan grande se llamó Padrón Nacional de Usuarios de Telefonía (Panaut), mismo que fue declarado inconstitucional por el Tribunal de Justicia.

Huesca dijo que un sistema de estas características puede ser objeto de ataques cibernéticos o filtraciones para obtener toda la información disponible, lo que resultaría bastante perjudicial para los ciudadanos, pues agentes maliciosos no sólo obtendrían su información personal, sino también datos biométricos que representan un nivel de vulnerabilidad mucho mayor.

Por otra parte, García resaltó que el contexto de colusión y corrupción que suele haber en las corporaciones de seguridad pública también es un argumento para no confiar en el plan de Marcelo Ebrard.

Si bien en México existen especialistas en muchas áreas de la tecnología y la Inteligencia Artificial, Aldo Luévano, CEO de Roomie IT, destacó que en esta iniciativa, si llega a ejecutarse, también se van a necesitar peritos híper especializados capaces de ejecutar una curaduría detallada sobre las suposiciones que haga la IA, bajo el objetivo de minimizar los posibles errores de la herramienta.

Miguel Hernández y López, gerente de ingeniería en la firma de ciberseguridad CheckPoint, agregó que también se requiere de mayor preparación en el manejo de los sistemas tecnológicos para conocer los riesgos y generar planes de acción al encontrar un tipo de incidente.

Por otra parte, el doctor Huesca, quien fue presidente de la Academia Mexicana de Informática, concluyó en que cualquier sistema de IA que se aplique de forma masiva tiene que transparentar la ética con la que fue hecho, es decir, cuáles fueron los valores con los que fue programado para analizar datos, además de quién fue el responsable en la creación de la tecnología y qué lógica está detrás de su funcionamiento.