De acuerdo con el último estudio de iProove, solo el 0.1% de los encuestados identificó correctamente todos los deepfakes en un escenario controlado. La compañía refiere que esto indica que la vulnerabilidad a los deepfakes en situaciones reales, donde la gente está menos preparada, es aún mayor.
En exclusiva con Expansión, Daniel Molina, vicepresidente para Latinoamérica de iProov, dijo que esto no quiere decir que la tecnología sea mala, sino que existe y su uso depende de las manos en las que caiga.
“Literalmente con una foto tuya y texto yo puedo hacer que vueles en un video con música que nunca has escuchado en un lugar en el que nunca has estado”, apuntó.
Molina comentó que el problema en la actualidad radica en que la gente piensa que puede identificar estas deepfakes, lo que los expone aún más a ser engañados o víctimas de algún fraude de suplantación de identidad. “Esa incongruencia entre lo que pensamos y lo que somos nos hace más frágiles frente a estas herramientas”.
El estudio de iProov revela que las personas tienen particular dificultad para identificar videos falsos, con solo el 9% de los participantes capaces de detectarlos todos, “lo que genera preocupaciones sobre fraudes como la suplantación de identidad en videollamadas”.
Molina explica que la población tiene una concepción generalizada de que “truquear” un video es más complicado que una imagen, pues éste está en movimiento y algo tendría que delatar que no es real pero no conciben lo mucho que ha avanzado la tecnología.
Molina cita como ejemplo la película Rápidos y Furiosos 7, donde el actor Paul Walker fue sustituido con CGI luego de su deceso en un accidente en noviembre de 2013. La película se estrenó en 2015 y el público se asombró al ver al actor en pantalla.
“En ese entonces se necesitaba una computadora que costaba 250,000 dólares el minuto de producción. Ahorita cualquiera con menos de lo que te cuestan tres tacos puede tener un programa que hace lo mismo y mejor”, refirió.
Molina agregó que parte del tamaño del conflicto es que son los propios usuarios quienes comparten esta información de manera inconsciente pues desconocen el valor de sus datos. Aunque la preocupación por los deepfakes crece, un 22% de los consumidores encuestados por iProov no conocía esta tecnología antes del estudio. Además, muchos tienen una falsa confianza en su capacidad para detectarlos (más del 60%).
¿A qué se exponen los usuarios?
Los deepfakes suponen una amenaza abrumadora en el panorama actual digital y han evolucionado a un ritmo alarmante en los últimos 13 meses. El informe de inteligencia sobre amenazas de 2024 de iProov destaca un aumento de 704% en los intercambios de rostros, que es uno de los tipos de deepfakes.
Los datos señalan que la población estaría más expuesta a la desinformación en línea, particularmente en uno de los espacios que más utilizan: las redes sociales.
Las plataformas como Meta y TikTok son percibidas como los principales fuente de deepfakes, lo que disminuye la confianza en las redes sociales. Un 49% confía menos en ellas tras enterarse de que los deepfakes existen.
Molina apunta que la eliminación de la verificación de información en las plataformas de Meta en Estados Unidos y que se planea extender al resto de países en los que la empresa opera, traería consigo aún más desinformación.
Con estas acciones, agregó, empresas como Meta se deslindan de cualquier responsabilidad sobre el contenido que consumen los usuarios.
“Si yo me pongo a poner filtros, yo (Meta) me responsabilizo de que solo te llegue lo bueno y ahí es donde Meta dice ‘¿Quién soy yo para decir qué es verdad y que no lo es?’”, añadió.
En este sentido expuso que además las personas tienden a compartir mucha de su información en redes sociales que podrían ocupar los delincuentes para hacer un fraude de suplantación de identidad.
Entre la información que podría ser usad en su contra están desde el nombre de su primer mascota, que algunas veces se ocupa como pregunta cuando una persona olvida su contraseña, hasta imágenes de menores de edad en su primer día de escuela exponiendo datos sensibles.
Datos de la Condusef refieren que México sufrió pérdidas por fraudes financieros por un monto cercano a los 14,500 millones de pesos, con la suplantación de identidad y robo de datos bancarios como riesgos principales, con un 40% de los fraudes reportados.
Otro campo afectado es el de las telecomunicaciones, donde las pérdidas por fraude alcanzaron los 4,000 millones de pesos, causados principalmente por contrataciones mediante identidades falsas.
Molina subrayó la necesidad urgente de mejorar la educación y los mecanismos de denuncia relacionados con los deepfakes, pues menos de un tercio de los encuestados toma este tipo de medidas. Además concluyó que resulta fundamental fortalecer la capacidad de la ciudadanía para identificar y verificar la información en línea.
