El internet es un espacio lleno de maravillas. De hecho, la mayoría de las personas no podría imaginar su vida sin el ciberespacio. En serio, ¿cómo lo hacíamos antes del internet? Cada vez es más difícil recordarlo, ¿no? Sin embargo, a medida que la red crece y el acceso a la tecnología se expande, también aumentan los riesgos. Cada vez es más común encontrar peligros como el ciberacoso, la invasión a la privacidad y la difusión de desinformación. La capacidad de manipular y distorsionar la realidad a través de noticias falsas y contenido engañoso se ha convertido en un gran desafío que necesita una vigilancia constante.
Conoce al poli de los 'deepfakes' en internet
La llamada ‘policía digital’ trabaja incansablemente para identificar y moderar las amenazas en línea, desde la detección de actividades sospechosas hasta la lucha contra la desinformación.
Publicidad
Afortunadamente, en medio de este desafío, han surgido herramientas dedicadas a la protección del entorno digital. La llamada ‘policía digital’ trabaja incansablemente para identificar y moderar las amenazas en línea, desde la detección de actividades sospechosas hasta la lucha contra la desinformación. Estas tecnologías avanzadas desempeñan un papel crucial al defender nuestra privacidad, garantizar la seguridad de nuestros datos y mantener la integridad de la información que consumimos. En México la conocemos como Policía Cibernética.
'Deepfakes', la nueva era de la manipulación de contenidos
Probablemente ya lo sabes, pero los deepfakes son una forma de contenido digital manipulada utilizando técnicas avanzadas de inteligencia artificial (IA) que permiten crear imágenes, videos o audios que, aunque parecen ser extremadamente realistas, en realidad son engañosos o ‘profundamente’ falsos. En resumen, los deepfakes ––que se empezaron a detectar por ahí de 2017–– son una manifestación de la capacidad avanzada de la IA para crear contenido digital falso pero convincente, y su desarrollo plantea importantes desafíos éticos y técnicos en la era digital. ¿Ves por qué es esencial asegurar una IA ética y responsable?
¿Te acuerdas del video deepfake de Barack Obama ––creado en 2018 por Jordan Peele en colaboración con BuzzFeed––? Bueno, pues ese fue uno de los momentos en los que nos dimos cuenta de la terrorífica habilidad de los deepfakes para transformar a cualquier persona, discurso o situación en algo completamente surrealista… o incluso peligroso.
Un guardia cibernético con mano dura
Después de tantas red flags, la búsqueda por aplicar medidas severas contra los deepfakes llevó a la creación de herramientas para identificar y reducir los efectos de estos contenidos fake. En este caso, pondremos como ejemplo a FakeCatcher, un sistema de detección de deepfakes que utiliza técnicas avanzadas de análisis facial y redes neuronales para identificar manipulaciones en tiempo real. ¡Esta plataforma puede detectar deepfakes en milisegundos con un 96% de precisión! Y es que cada vez es más difícil reconocer irregularidades que puedan revelar la existencia de un deepfake. ¡Son tan increíblemente realistas que podrían engañar incluso al ojo más entrenado! Por ejemplo, yo caí redondita con el deepfake de Tom Cruise jugando golf que se hizo viral en TikTok.
El análisis facial examina las características físicas y dinámicas del rostro en video ––esto incluye la sincronización del movimiento de los labios y microexpresiones faciales–– buscando cualquier señal que delate alteraciones. Pero lo más increíble es que trabaja en tiempo real, lo cual permite a las plataformas de medios y servicios de transmisión identificar y reaccionar rápidamente ante contenido sospechoso antes de que se difunda ampliamente. De hecho, se ha utilizado durante procesos electorales para detectar y eliminar videos manipulados que podrían influir en la opinión pública.
Una vez que se detecta un deepfake, se toma acción. Se clasifica y marca como contenido manipulado, alertando a los usuarios y a los sistemas sobre la presencia de contenido falso. Dependiendo de la plataforma o el contexto, el contenido marcado puede pasar a una revisión adicional por parte de moderadores humanos y entonces puede ser bloqueado, eliminado o señalado como no-real.
Por supuesto que, por ejemplo, un deepfake de Kim Kardashian rapeando en freestyle no tiene la misma gravedad que uno de Nancy Pelosi diciendo incoherencias o de Vladimir Putin haciendo comentarios sobre temas delicados y confidenciales. ¿O qué tal Trump publicando fotos falsas de Taylor Swift ‘apoyándolo’?
Publicidad
Estos últimos dos ejemplos demuestran cómo los deepfakes pueden ser utilizados para difundir desinformación, influenciar la opinión pública y crear conflictos. La detección inmediata de estos contenidos falsificados es clave para mitigar su impacto negativo.
Mientras enfrentamos estos desafíos, tecnologías como FakeCatcher y otras herramientas similares emergen como aliadas vitales en la defensa contra la desinformación y el engaño porque sólo a través de una vigilancia constante y el desarrollo de soluciones innovadoras ––que frenen la viralización de amenazas como los deepfakes–– podremos garantizar un entorno digital seguro y confiable para todas las personas.
Así que, la próxima vez que navegues por el inmenso océano de internet, recuerda la importancia de cuestionar, verificar y proteger la veracidad de lo que encuentras. La responsabilidad de mantener un entorno digital auténtico y seguro es de todos.
____
Nota del editor: Ana Peña es directora de comunicación para Intel Américas. Síguela en LinkedIn . Las opiniones publicadas en esta columna pertenecen exclusivamente a la autora.
Consulta más información sobre este y otros temas en el canal Opinión
Publicidad
Más acerca del autor:
Newsletter
Publicidad