Pero poco a poco el mercado de deepfakes en América Latina, y en particular en México, ha crecido rápidamente, impulsado por la adopción de inteligencia artificial (IA) para diversos fines, desde entretenimiento hasta estafas.
En 2023, los incidentes de deepfakes en México aumentaron un 700%, lo que refleja el crecimiento alarmante de esta tecnología en el ámbito del fraude de identidad, especialmente en sectores como las criptomonedas y fintech, de acuerdo con Kaspersky. Por ello, saber identificar este tipo de fraude empieza a ser más relevante para las compañías.
Por ello, Honor presentó la primera IA que detecta deepfakes desde un dispositivo. Esta tecnología emplea algoritmos para analizar detalles minuciosos en el contenido audiovisual, identificando discrepancias en la coherencia de los píxeles, la composición de imágenes y la continuidad entre fotogramas.
Esta solución tiene como objetivo proteger a los usuarios de amenazas crecientes como el robo de identidad y la difusión de desinformación, de acuerdo con George Zhao, CEP de Honor.
Una de las razones principales por las que es difícil detectar deepfakes es que los detalles más reveladores, como los bordes de los rostros, la sincronización de labios o la iluminación, a menudo no son perceptibles para el ojo humano.
Dentro de las soluciones que ya existen, Microsoft ha desarrollado herramientas como Video Authenticator, que analiza videos en tiempo real y proporciona una puntuación de confianza para indicar la probabilidad de que el contenido haya sido manipulado.
Sin embargo, la propia empresa admite que la evolución de los deepfakes sigue superando las tecnologías de detección disponibles, debido a que los modelos de IA continúan aprendiendo y haciendo contenido más sofisticado.
Deloitte ha destacado que el problema de los deepfakes no solo radica en la dificultad técnica para detectarlos, sino también en la rapidez con la que la desinformación puede propagarse una vez que un contenido se vuelve viral. Esto plantea un reto adicional, ya que incluso si un deepfake es eventualmente identificado, el daño a la reputación o la confianza pública es difícil de soportar y remediar.
