Publicidad
Revista Digital

Síguenos en nuestras redes sociales:

Publicidad

Facebook usa ingeniería inversiva para detectar deepfakes

El uso de la ingeniería inversa es una de las claves que la tecnológica y la Universidad de Michigan están investigando para resolver el problema de la desinformación a partir de estos montajes.
jue 17 junio 2021 01:00 PM
Facebook quiere detener las deepfake
El nuevo método que quiere plantear la empresa buscaría detectar el quién difundió un montaje de este tipo.

Aunque el uso de las deepfakes se ha popularizado en áreas como la publicidad, estas siguen siendo un problema a considerar en términos de desinformación, a través de las redes sociales. Por ello, Facebook ha financiado una investigación con diversas instituciones académicas para protegerse contra estas amenazas desde su origen, por medio de Inteligencia Artificial (IA).

Los montajes deepfake son imágenes o videos en los que se ha manipulado el rostro, o incluso la voz, para introducir a ciertos personajes en contextos que no les corresponden. Si bien han sido usados en contextos de entretenimiento, tienen usos maliciosos.

En este sentido, el más reciente trabajo de Facebook es una asociación con la Universidad Estatal de Michigan, cuyo equipo de académicos ha creado un método para realizar ingeniería inversa en este tipo de archivos, es decir, analizan las imágenes para identificar las características del modelo de aprendizaje automático que lo creó.

Publicidad

Si bien la ingeniería inversa no es un enfoque innovador en el ámbito, los desarrolladores de la tecnología y la empresa defienden su uso dentro de este campo, pues permiten descubrir la huella digital en la imagen final, el cual es un elemento clave para identificar su origen. Son ”patrones sutiles, pero únicos”, describen los investigadores Xi Yin y Tal Hassner, en una publicación de Facebook .

La tecnología, explican los especialistas, tiene una inspiración en técnicas forenses utilizadas para identificar qué modelo de cámara se utilizó para tomar una fotografía a partir de los patrones en la imagen.

Asimismo, destacan que identificar los rasgos de modelos para realizar las deepfake son relevantes, pues esto abre la posibilidad de descubrir las propiedades del modelo que ha generado la imagen falsa, y por el otro, abre la posibilidad de rastrear similitudes entre un conjunto de deepfakes distribuidas en la red.

Con este modelo “ahora podríamos decir: ‘Mira, la imagen se subió aquí o allá, y todas provienen del mismo modelo”, señaló Hassner a The Verge, medio al que también dijo que de esta manera sería más sencillo identificar a los responsables de la propagación de las deepfakes.

Publicidad

Cabe mencionar que el proyecto aún se encuentra en una etapa de investigación y no ha sido desplegado, pero la iniciativa forma parte de los esfuerzos de la tecnológica por evitar la propagación de las distintas formas de desinformación dentro de su plataforma.

De hecho, la misma compañía puso a prueba diversas herramientas para este fin y la más relevante únicamente logró detectar los videos manipulados en un 65.18% de las veces, lo cual demuestra que la identificación de este tipo de archivos sigue siendo un problema para las empresas de redes sociales.

Y es que si bien la tecnología no es nueva, e incluso la han utilizado millones de usuarios alrededor del mundo dentro de aplicaciones para cambiar su edad o su género, sus usos maliciosos están relacionados con la desinformación o incluso el acoso en internet.

Ante ello, otras empresas como Microsoft han establecido acuerdos con medios de comunicación y redes sociales, entre ellas Twitter, para desarrollar protocolos de seguridad en los cuales se defina la procedencia y autenticación del contenido, con el fin de “restablecer la confianza en el contenido digital a través de métodos que autentican las fuentes y rastrean la evolución de la información que consumimos”.

Publicidad
Publicidad
Publicidad