Un usuario, por ejemplo, subió un par de imágenes bastante realistas de Donald Trump disparando un par de revólveres o bien al expresidente de Estados Unidos, George W. Bush consumiendo droga en la oficina oval.
Este tipo de herramientas son preocupantes, especialmente para el país norteamericano, pues se encuentra en medio de un proceso de elecciones presidenciales, lo cual puede generar desinformación entre los usuarios o bien que algunos actores la utilicen para su ventaja en dicho proceso.
Otro de los elementos que ha provocado inquietud es el hecho de que la herramienta no incluye ningún tipo de notificación acerca de si la imagen fue generada por IA, ni tampoco se sabe si dicha información se encuentra en los metadatos del resultado.
Por otra parte, la empresa también señaló que esperan incluir las capacidades de estos nuevos modelos en otras herramientas, como la búsqueda mejorada, el análisis de publicaciones y las funciones de respuestas.
El potencial desinformativo de la IA
La evolución de la IA generativa también conlleva peligros reales y uno de los más palpables es la desinformación a través de deepfakes. De acuerdo con el Informe sobre Riesgos Globales 2024 del Foro Económico Mundial, la difusión de información errónea será una de las principales amenazas de los próximos años, especialmente en contexto electorales.
Y es que la difusión de este tipo de contenidos dificultará cada vez más a los votantes discernir la información factual de la falsa, algo que puede influir en su comportamiento y “socavar el proceso democrático, influenciado elecciones, erosionando la confianza pública en las instituciones, generando malestar social e incluso incentivando la violencia”.
También resalta que ciertos grupos demográficos, históricamente vulnerables, pueden ser objetivos de campañas de desinformación por medio de contenidos que perpetúen los estereotipos o formas violentas de marginalización para seguir provocando daños en la opinión pública.
