La empresa también dijo que durante el año electoral colaboraron con la Asociación Nacional de Secretarios de Estado, para dirigir a las personas a sitios oficiales sobre cómo y dónde votar, además de recibir información que incentivaba a los usuarios a consultar más fuentes de noticias de algunos de sus socios, como Associated Press o Reuters.
Sin embargo, este tipo de colaboraciones sólo existen en Estados Unidos, lo cual resulta preocupante, ya que ChatGPT se trata de una plataforma que opera a nivel mundial.
En México, por ejemplo, no tiene una colaboración directa con el Instituto Nacional Electoral o alguna otra entidad, por lo que la herramienta recurre al sitio web del INE, comunicados oficiales e información de medios de comunicación “de alta credibilidad” para que los usuarios puedan obtener datos precisos y actualizados. Pero sin ahondar en más detalles.
Un problema persistente
De acuerdo con datos de la empresa de aprendizaje automático, Clarity, la cantidad de deepfakes ha aumentado en un 900% año tras año y su objetivo era desestabilizar los procesos electorales de Estados Unidos.
Según un informe publicado en octubre por OpenAI, la empresa había desbaratado “más de 20 operaciones y redes engañosas en todo el mundo que intentaron utilizar nuestros modelos” para artículos generados por IA, hasta publicaciones en redes sociales de cuentas falsas.
Para los funcionarios de todo el mundo, la presencia de la IA generativa representa un potencial desinformativo preocupante, debido a que si bien han pasado por procesos de refinamiento, en muchas ocasiones los grandes modelos de lenguaje siguen mostrando información inexacta y poco fiable.
A pesar de no estar de acuerdo con regulaciones como la de California, OpenAI ha respaldado la Ley para proteger las elecciones de la IA, un proyecto bipartidista en EU, que prohibiría la distribución de audio, imágenes o videos engañosos generados por IA relacionados con candidatos federales en la propaganda política.
“No queremos que nuestra tecnología, ni ninguna tecnología de IA, se utilice para engañar a los votantes y creemos que esta legislación representa un paso importante para abordar este desafío en el contexto de la publicidad política”, afirma la empresa.
