Publicidad
Publicidad

Desde fraudes hasta música: cuidado con la clonación de voz por IA

La clonación de voz con Inteligencia Artificial puede ser utilizada desde la industria del entretenimiento hasta para cometer cibercrímenes. Te contamos qué es y algunos casos emblemáticos.
jue 25 mayo 2023 06:00 AM
voz-ia-falsa.jpg
Desde fraudes hasta música: cuidado con la clonación de voz por IA

Hace unas semanas, Jennifer DeStefano recibió una llamada . Era la voz de su hija adolescente, Brianna. “Mamá, unos hombres malos me tienen secuestrada”, le dijo. Después de cuatro minutos de terror y una petición de un millón de dólares, DeStefano se percató de una cosa: Brianna no estaba del otro lado del teléfono. Era un fraude hecho con Inteligencia Artificial (IA).

La clonación de voz mediante IA es un proceso que implica utilizar algoritmos y técnicas de aprendizaje automático para recrear y sintetizar la voz de una persona y se usa para distintas cosas.

Por ejemplo, en la industria del entretenimiento, se puede utilizar para recrear la voz de personajes en películas o videojuegos. Tal fue el caso de la película “Top Gun: Maverick”, pues Val Kilmer, quien interpreta el papel de Tom Kazanzky, perdió su voz a causa de un cáncer de garganta. Sin embargo, gracias a la IA pudieron filmar esta nueva edición de la película.

También puede ser utilizada para los asistentes virtuales o chatbots, para tener una interacción “más humana”; sistemas de respuesta automática por teléfono; hasta la personalización de la voz de tu Alexa o asistente de voz.

Sin embargo, la clonación de IA por voz también puede ser un arma de doble filo.

Publicidad

Fraudes y extorsiones hechos con IA

El caso de DeStafano se vuelve cada vez más común y, aunque no se puede saber con exactitud cuántos fraudes con IA con voz se cometen al año, la Comisión Federal de Comercio de Estados Unidos ya detectó y alertó este problema , compartiendo que el año pasado recibieron 2.4 millones de reportes por fraudes, provocando la pérdida de 8,000 millones de dólares en ese año.

“Una de nuestras mayores preocupaciones es que los criminales están tomando la voz de videos de personas para cometer estos delitos”, compartió Satnam Narang, ingeniero Senior de Investigación en la empresa de ciberseguridad Tenable.

De acuerdo con él, lo que ocurre es que los cibercriminales agarran videos, ya sea de TikTok, YouTube, Instagram, o cualquiera donde la voz de la víctima esté presente, la introducen a programas de IA generativa con el texto que desean replicar y así es como se puede realizar el crimen.

“Algunos llaman diciendo que están en una situación de peligro, que tienen una emergencia o que están secuestrados y la voz suena muy convincente”, dice Satnam. Además, los cibercriminales también pueden combinar con otras herramientas como ChatGPT para crear más y mejores textos.

Por otro lado, de acuerdo con Miguel Hernández, CTO de ciberseguridad en CheckPoint, otro de los problemas que identifican es cuando se aplica la voz para verificar la identidad, por ejemplo, en entidades bancarias.

“Es un reto el aplicar ciertas herramientas para poder detectar estos mecanismos, como tonos de voz, modalidad de voz (...) lo crítico es que estas herramientas son de uso público en internet”, compartió Hernández.

Pero, de acuerdo con Narang, “no podemos vivir con miedo. Todo lo que podemos hacer es prepararnos”. Sugiere que, para evitar este tipo de fraudes, puedes establecer con tus seres queridos algún tipo de palabra clave que solo entre ustedes podrían saber.

Por otro lado, Hernández menciona que la suplantación de identidad con IA no solo puede ser por voz, sino también a través de deep fakes , y que los usuarios tienen que ser más críticos con el contenido que ven y aprender a identificar contenidos falsos.

IA en la industria musical: ¿un aliado o un rival?

En abril, el caso de los cantantes Drake y The Weekend se volvió viral, pues un anónimo bajo el nombre de usuario Ghostwriter977 publicó una canción titulada Heart On My Sleeve pero, generada con IA con la voz de estos artistas.

La canción alcanzó 600,000 reproducciones en Spotify, 15 millones de visitas en TikTok, 275,000 views en YouTube. Pero, ante tal popularidad, Universal Music Group pidió que la canción fuera removida por “contenido infractor creado con IA generativa”.

Pero mientras estos artistas lo vieron como algo negativo, la cantante canadiense Grimes tuiteó que ella dividiría el 50% de sus regalías en cualquier canción exitosa generada con IA que usara su voz. “Siéntete libre de usar mi voz sin penalización. No tengo etiqueta ni ataduras legales”, compartió.

Aunque aún no existe una regulación contundente y mundial en torno a la IA generativa, existen esfuerzos como la del Dr. Martin Clancy, presidente fundador del IEEE Global AI Ethics Arts Committee. Este es un comité compuesto por artistas, académicos y líderes de la industria que publicaron "La voz del artista en la era del algoritmo" y representó al Comité ante representantes de la UE, el G20 y la UNESCO.

Publicidad

Newsletter

Únete a nuestra comunidad. Te mandaremos una selección de nuestras historias.

Publicidad

Publicidad