Fraudes y extorsiones hechos con IA
El caso de DeStafano se vuelve cada vez más común y, aunque no se puede saber con exactitud cuántos fraudes con IA con voz se cometen al año, la Comisión Federal de Comercio de Estados Unidos ya detectó y alertó este problema , compartiendo que el año pasado recibieron 2.4 millones de reportes por fraudes, provocando la pérdida de 8,000 millones de dólares en ese año.
“Una de nuestras mayores preocupaciones es que los criminales están tomando la voz de videos de personas para cometer estos delitos”, compartió Satnam Narang, ingeniero Senior de Investigación en la empresa de ciberseguridad Tenable.
De acuerdo con él, lo que ocurre es que los cibercriminales agarran videos, ya sea de TikTok, YouTube, Instagram, o cualquiera donde la voz de la víctima esté presente, la introducen a programas de IA generativa con el texto que desean replicar y así es como se puede realizar el crimen.
“Algunos llaman diciendo que están en una situación de peligro, que tienen una emergencia o que están secuestrados y la voz suena muy convincente”, dice Satnam. Además, los cibercriminales también pueden combinar con otras herramientas como ChatGPT para crear más y mejores textos.
Por otro lado, de acuerdo con Miguel Hernández, CTO de ciberseguridad en CheckPoint, otro de los problemas que identifican es cuando se aplica la voz para verificar la identidad, por ejemplo, en entidades bancarias.
“Es un reto el aplicar ciertas herramientas para poder detectar estos mecanismos, como tonos de voz, modalidad de voz (...) lo crítico es que estas herramientas son de uso público en internet”, compartió Hernández.
Pero, de acuerdo con Narang, “no podemos vivir con miedo. Todo lo que podemos hacer es prepararnos”. Sugiere que, para evitar este tipo de fraudes, puedes establecer con tus seres queridos algún tipo de palabra clave que solo entre ustedes podrían saber.
Por otro lado, Hernández menciona que la suplantación de identidad con IA no solo puede ser por voz, sino también a través de deep fakes , y que los usuarios tienen que ser más críticos con el contenido que ven y aprender a identificar contenidos falsos.
IA en la industria musical: ¿un aliado o un rival?
En abril, el caso de los cantantes Drake y The Weekend se volvió viral, pues un anónimo bajo el nombre de usuario Ghostwriter977 publicó una canción titulada Heart On My Sleeve pero, generada con IA con la voz de estos artistas.
La canción alcanzó 600,000 reproducciones en Spotify, 15 millones de visitas en TikTok, 275,000 views en YouTube. Pero, ante tal popularidad, Universal Music Group pidió que la canción fuera removida por “contenido infractor creado con IA generativa”.
Pero mientras estos artistas lo vieron como algo negativo, la cantante canadiense Grimes tuiteó que ella dividiría el 50% de sus regalías en cualquier canción exitosa generada con IA que usara su voz. “Siéntete libre de usar mi voz sin penalización. No tengo etiqueta ni ataduras legales”, compartió.
Aunque aún no existe una regulación contundente y mundial en torno a la IA generativa, existen esfuerzos como la del Dr. Martin Clancy, presidente fundador del IEEE Global AI Ethics Arts Committee. Este es un comité compuesto por artistas, académicos y líderes de la industria que publicaron "La voz del artista en la era del algoritmo" y representó al Comité ante representantes de la UE, el G20 y la UNESCO.
