Facebook usa ingeniería inversiva para detectar deepfakes

Si bien la ingeniería inversa no es un enfoque innovador en el ámbito, los desarrolladores de la tecnología y la empresa defienden su uso dentro de este campo, pues permiten descubrir la huella digital en la imagen final, el cual es un elemento clave para identificar su origen. Son ”patrones sutiles, pero únicos”, describen los investigadores Xi Yin y Tal Hassner, en una publicación de Facebook .

La tecnología, explican los especialistas, tiene una inspiración en técnicas forenses utilizadas para identificar qué modelo de cámara se utilizó para tomar una fotografía a partir de los patrones en la imagen.

Asimismo, destacan que identificar los rasgos de modelos para realizar las deepfake son relevantes, pues esto abre la posibilidad de descubrir las propiedades del modelo que ha generado la imagen falsa, y por el otro, abre la posibilidad de rastrear similitudes entre un conjunto de deepfakes distribuidas en la red.

Con este modelo “ahora podríamos decir: ‘Mira, la imagen se subió aquí o allá, y todas provienen del mismo modelo”, señaló Hassner a The Verge, medio al que también dijo que de esta manera sería más sencillo identificar a los responsables de la propagación de las deepfakes.

Cabe mencionar que el proyecto aún se encuentra en una etapa de investigación y no ha sido desplegado, pero la iniciativa forma parte de los esfuerzos de la tecnológica por evitar la propagación de las distintas formas de desinformación dentro de su plataforma.

De hecho, la misma compañía puso a prueba diversas herramientas para este fin y la más relevante únicamente logró detectar los videos manipulados en un 65.18% de las veces, lo cual demuestra que la identificación de este tipo de archivos sigue siendo un problema para las empresas de redes sociales.

Y es que si bien la tecnología no es nueva, e incluso la han utilizado millones de usuarios alrededor del mundo dentro de aplicaciones para cambiar su edad o su género, sus usos maliciosos están relacionados con la desinformación o incluso el acoso en internet.

Ante ello, otras empresas como Microsoft han establecido acuerdos con medios de comunicación y redes sociales, entre ellas Twitter, para desarrollar protocolos de seguridad en los cuales se defina la procedencia y autenticación del contenido, con el fin de “restablecer la confianza en el contenido digital a través de métodos que autentican las fuentes y rastrean la evolución de la información que consumimos”.