Los deepfakes - que hasta hace menos de cinco años se contemplaban como una tecnología remota, ha alcanzado una afinación acelerada en los algoritmos de entrenamiento para clonar voces e imágenes que tienen como resultado audios y retrato casi ‘real’ a la de una persona. La rápida expansión de los deepfakes en un contexto electoral amenaza con acentuar la desinformación en los medios, las redes sociales e incluso temas de suplantación de identidad.
Esta situación ha comenzado a reflejarse en el país. En días anteriores se filtró una nota de audio de WhatsApp del actual jefe de gobierno de la Ciudad de México, Martí Batres en donde presuntamente habla sobre un plan para evitar que, en ese entonces, Omar Harfuch se convirtiera en el candidato para la CDMX. El funcionario ha negado que el audio sea real y en cambio ha sostenido que la voz de la nota de WhatsApp es producto de la IA.
El uso masificado de esta herramienta dentro de las sociedades abre mayores debates sobre la necesidad de regular esta tecnología, en especial en temas de protección de propiedad intelectual y de derechos humanos.
El pasado 2 de noviembre, 28 países llegaron a un acuerdo internacional que establece un entendimiento sobre las oportunidades y riesgos de la IA, y la necesidad de una colaboración internacional. Entre las naciones que signaron la alianza se encuentran Estados Unidos, Canadá, Chile, China, Francia, Alemania, India, Indonesia, Irlanda, Israel, Italia, así como la Unión Europea, entre otros.
México por su parte ha creado la Alianza Nacional de Inteligencia Artificial (ANIA) para comprender las implicaciones y alcances que tendrá la nueva tecnología en la sociedad y en la gobernanza, a través de debates con la industria, academia y sociedad.
“Los que formamos la ANIA al preguntarnos por dónde debe de ir la regulación de la IA es que los legisladores y gobiernos de todo el mundo aún no tenemos la respuesta y ahí es donde estamos parados en este momento en un maro muy general que se avoca por lo pronto en la ética”, reconoce Alejandra Lagunes.
Google, una de las empresas tecnológicas que ahora mismo desarrolla su propia Inteligencia Artificial, ha subrayado la necesidad de crear un marco regulatorio basado en la ética para evitar vulneraciones sociales. Y es que el uso masificado de la herramienta trae consigo retos sociales pero también para las democracias de todas las naciones, por ello ha asegurado que para las elecciones presidenciales en México como en Estados Unidos introducirá una función llamada news watch para revisar si una noticia o video es falso.
“Los seres humanos hemos dado a los sistemas de inteligencia artificial esta capacidad de oráculo porque prácticamente todo lo que venga de ahí se toma como verdad, sin revisar si es real o mentira y esto implica un gran riesgo”, refirió David Ruiz, líder de analítica de datos e inteligencia artificial de Google durante su participación en el foro de la Canieti 2023.
Los retos de la IA se acentúan en sociedades en donde se carece de habilidades y conocimientos tecnológicos, por ello los expertos han coincidido en la necesidad de acercar las nuevas tecnologías a las personas de todas edades.
“El desarrollo de habilidades tecnológicas hoy es necesaria en nuestro país para que todas las generaciones y el 50% de trabajos que ahora existen y que se prevé se vayan a transformar, no tengan problemas las personas para ocuparlos o que sean usados por las mismas tecnologías”, advierte la senadora.
