Afortunadamente, en medio de este desafío, han surgido herramientas dedicadas a la protección del entorno digital. La llamada ‘policía digital’ trabaja incansablemente para identificar y moderar las amenazas en línea, desde la detección de actividades sospechosas hasta la lucha contra la desinformación. Estas tecnologías avanzadas desempeñan un papel crucial al defender nuestra privacidad, garantizar la seguridad de nuestros datos y mantener la integridad de la información que consumimos. En México la conocemos como Policía Cibernética.
'Deepfakes', la nueva era de la manipulación de contenidos
Probablemente ya lo sabes, pero los deepfakes son una forma de contenido digital manipulada utilizando técnicas avanzadas de inteligencia artificial (IA) que permiten crear imágenes, videos o audios que, aunque parecen ser extremadamente realistas, en realidad son engañosos o ‘profundamente’ falsos. En resumen, los deepfakes ––que se empezaron a detectar por ahí de 2017–– son una manifestación de la capacidad avanzada de la IA para crear contenido digital falso pero convincente, y su desarrollo plantea importantes desafíos éticos y técnicos en la era digital. ¿Ves por qué es esencial asegurar una IA ética y responsable?
¿Te acuerdas del video deepfake de Barack Obama ––creado en 2018 por Jordan Peele en colaboración con BuzzFeed––? Bueno, pues ese fue uno de los momentos en los que nos dimos cuenta de la terrorífica habilidad de los deepfakes para transformar a cualquier persona, discurso o situación en algo completamente surrealista… o incluso peligroso.
Un guardia cibernético con mano dura
Después de tantas red flags, la búsqueda por aplicar medidas severas contra los deepfakes llevó a la creación de herramientas para identificar y reducir los efectos de estos contenidos fake. En este caso, pondremos como ejemplo a FakeCatcher, un sistema de detección de deepfakes que utiliza técnicas avanzadas de análisis facial y redes neuronales para identificar manipulaciones en tiempo real. ¡Esta plataforma puede detectar deepfakes en milisegundos con un 96% de precisión! Y es que cada vez es más difícil reconocer irregularidades que puedan revelar la existencia de un deepfake. ¡Son tan increíblemente realistas que podrían engañar incluso al ojo más entrenado! Por ejemplo, yo caí redondita con el deepfake de Tom Cruise jugando golf que se hizo viral en TikTok.
El análisis facial examina las características físicas y dinámicas del rostro en video ––esto incluye la sincronización del movimiento de los labios y microexpresiones faciales–– buscando cualquier señal que delate alteraciones. Pero lo más increíble es que trabaja en tiempo real, lo cual permite a las plataformas de medios y servicios de transmisión identificar y reaccionar rápidamente ante contenido sospechoso antes de que se difunda ampliamente. De hecho, se ha utilizado durante procesos electorales para detectar y eliminar videos manipulados que podrían influir en la opinión pública.
Una vez que se detecta un deepfake, se toma acción. Se clasifica y marca como contenido manipulado, alertando a los usuarios y a los sistemas sobre la presencia de contenido falso. Dependiendo de la plataforma o el contexto, el contenido marcado puede pasar a una revisión adicional por parte de moderadores humanos y entonces puede ser bloqueado, eliminado o señalado como no-real.
Por supuesto que, por ejemplo, un deepfake de Kim Kardashian rapeando en freestyle no tiene la misma gravedad que uno de Nancy Pelosi diciendo incoherencias o de Vladimir Putin haciendo comentarios sobre temas delicados y confidenciales. ¿O qué tal Trump publicando fotos falsas de Taylor Swift ‘apoyándolo’?
