En el panorama global de la guerra por la información y el dominio de la tecnología a manos de las grandes potencias, ha surgido una nueva amenaza que utiliza a la Inteligencia Artificial (IA) como arma de doble filo. Una red global de desinformación con sede en Moscú ha logrado infiltrarse en herramientas de IA occidentales, propagando narrativas pro-rusas en diversas regiones del mundo.
Infiltración de desinformación rusa en la IA, un desafío global
Enfrentamos una nueva dimensión en la guerra de la información, donde las narrativas falsas no solo se dirigen a audiencias humanas, sino también a sistemas de IA que moldean la percepción pública.
Publicidad
La organización NewsGuard, líder mundial en análisis de confiabilidad de la información, ha publicado recientemente el reporte “ La infección de chatbots de inteligencia artificial occidentales por una red de propaganda rusa ”, en el que analiza el papel de Pravda, una red que ha cobrado relevancia tras la invasión de Ucrania por parte de Rusia en 2022, en la manipulación de modelos de inteligencia artificial y en la difusión de narrativas pro-Rusia a nivel global.
En el experimento de NewsGuard, se realizaron preguntas a chatbots utilizando una muestra de 15 narrativas falsas promovidas por la red Pravda. A través de un sistema de calificación de respuestas, los investigadores probaron que, a pesar de que algunos pueden desmentir las afirmaciones, a menudo citan a Pravda como una fuente confiable, lo que podría llevar a la confusión del usuario y a su exposición a la desinformación.
Por otro lado, según el estudio, Pravda hace “lavado de desinformación”, es decir, agrega y redistribuye contenido de medios estatales rusos como RT, influencers pro-Kremlin y fuentes gubernamentales en numerosos sitios web que aparentan ser independientes. Este “lavado” consolida los relatos falsos y hace que sea difícil para los sistemas de IA filtrar fuentes no confiables.
Asimismo, la red emplea técnicas deliberadas de optimización para motores de búsqueda (SEO) para aumentar artificialmente la visibilidad de su contenido en los resultados. Así, asegura que sus narrativas sean más propensas a ser encontradas y procesadas por sistemas de IA que dependen de contenido disponible públicamente.
La red Pravda busca saturar los conjuntos de datos de entrenamiento de IA con tokens cargados de desinformación. Esta técnica, conocida como “grooming de LLM”, incrementa la posibilidad de que los modelos de IA generen o repitan las mismas narrativas falsas, independientemente de las fuentes que se estén utilizando. Según NewsGuard, desde su lanzamiento, la red de desinformación rusa ha sido responsable de la propagación de al menos 207 afirmaciones falsificadas.
Lo más alarmante es la estrategia de la red rusa para infiltrarse en los modelos de inteligencia artificial occidentales. Al inundar los resultados de búsqueda y los rastreadores web con afirmaciones pro-Kremlin, la red distorsiona los modelos de lenguaje de gran escala que procesan y difunden noticias e información. El estudio de NewsGuard revela que “las principales herramientas de IA generativa replicaron narrativas falsas propagadas por la red en el 33% de los casos analizados”.
Una nueva dimensión en la guerra de la información
La red Pravda, que en ruso significa “verdad”, fue identificada por primera vez en febrero de 2024 por Viginum, una agencia gubernamental francesa que monitorea la desinformación extranjera. En el documento “ Portal Kombat”, una red estructurada y coordinada de propaganda pro-rusa ” Viginum explica cómo esta red, también denominada “Portal Kombat”, está compuesta por aproximadamente 193 sitios web que difunden noticias con una inclinación pro-Kremlin. Estos sitios, que incluyen versiones en inglés, francés, alemán, polaco y español, promedian alrededor de 31,000 visitas mensuales.
El contenido que se transmite sirve principalmente para cubrir el conflicto en Ucrania, presentando por un lado la invasión rusa de manera positiva a las poblaciones occidentales y, por otro lado, denigrando a Ucrania y sus líderes.
De acuerdo con Viginum, desde su lanzamiento en abril de 2022, Pravda ha difundido al menos 207 afirmaciones probablemente falsas, que van desde la existencia de laboratorios secretos de armas biológicas en Ucrania operados por Estados Unidos hasta narrativas fabricadas que acusan al presidente ucraniano Volodymyr Zelensky de malversación de la ayuda militar estadounidense. Los sitios creados desde la invasión de Ucrania se han convertido en verdaderas "cámaras de eco" para el aparato de influencia digital ruso.
Publicidad
Otro de los hallazgos más significativos es la capacidad de la red rusa de diseminar desinformación en múltiples idiomas y a través de diversas plataformas. La red abarca aproximadamente 150 dominios que operan en varios idiomas y regiones, incluyendo Europa, África y América del Norte. Esta diversidad lingüística y geográfica contribuye a que las narrativas erróneas se perciban como más creíbles y ampliamente aceptadas, planteando un riesgo considerable para la integridad de la información que se produce a través de los modelos de IA.
La infiltración de desinformación en herramientas de IA tiene implicaciones profundas. Los modelos de IA, al ser entrenados con datos contaminados, pueden perpetuar y amplificar falsedades, afectando decisiones en ámbitos como la política, la salud pública y la seguridad nacional. Esto subraya la necesidad de desarrollar sistemas de IA más robustos y mecanismos de verificación de datos más efectivos.
En el panorama actual, esto representa una nueva dimensión en la guerra de la información, donde las narrativas falsas no solo se dirigen a audiencias humanas, sino también a sistemas de IA que moldean la percepción pública. Para enfrentarla, es imperativo que gobiernos, empresas tecnológicas y sociedad en general colaboren para desarrollar estrategias que contrarresten la propagación de desinformación y protejan la veracidad en el ecosistema informativo global.
____
Nota del editor: Maricarmen Fernández Chapou es Profesora del Departamento de Medios y Cultura Digital e investigadora del Observatorio de Medios Digitales del Tecnológico de Monterrey , Campus Santa Fe. Las opiniones publicadas en esta columna corresponden exclusivamente a la autora.
Consulta más información sobre este y otros temas en el canal Opinión
Publicidad
Más acerca del autor:
Newsletter
Publicidad