Tecnología

Twitter anuncia nueva función para detectar imágenes creadas con IA

Este tipo de fotografías han sido un problema para la plataforma, pues se han utilizado para desinformar a la gente sobre varios sucesos.

mié 31 mayo 2023 10:00 AM

Estas imágenes no corresponden a las personas reales. Son falsas, llamadas deepfakes, generadas con Inteligencia Artificial. (Fotoarte: Paula Carrillo / iStock, Firstpost)

Expansión

@ExpansionMx

El uso masivo de aplicaciones de Inteligencia Artificial está preocupando en términos de moderación de contenido a las redes sociales y por ello Twitter anunció Community Notes, un nueva función para marcar contenido viral y falso generado a través de IA.

Desde hace unos meses, las imágenes con IA se viralizaron en la plataforma. Fotografías del Papa Francisco con un gran abrigo de Balenciaga o el arresto de Donald Trump se hicieron bastante populares dentro de la red social. Sin embargo, estas medidas llegaron luego de que una imagen del Pentágono se difundiera rápidamente.

La imagen mostraba una explosión en el Pentágono, sede del Departamento de Defensa de los Estados Unidos. La cuenta que la había publicado era Bloomberg Feed, la cual no tenía nada que ver con el medio de comunicación pero fue creíble debido a que había pagado por la palomita azul de verificación.

¿Cómo funcionará Community Notes para imágenes?

Con este recurso, los usuarios podrán añadir enlaces o contexto a un tuit que ellos consideren falso, engañoso o sesgado. Además, la plataforma tendrá mayores capacidades para verificar la veracidad de una fotografía o bien determinar si fue creada a partir de Inteligencia Artificial.

Un elemento relevante de esta herramienta es que la advertencia no sólo se mostrará en la imagen original, sino también en todos los tuits que la utilicen sin importar cuántas veces se le dé retuit o se republique desde una nueva cuenta.

Por el momento, la herramienta se encuentra en una fase de prueba a la que sólo pueden acceder colaboradores de Community Notes con un puntaje de impacto (el cual mide la utilidad de sus notas) de 10.

La red social dijo que está trabajando para ampliar la función a otros formatos, como videos o tuits que contengan archivos de múltiples medios, como imágenes y videos en una misma publicación.

Desinformación, un problema que se hizo a un lado en Twitter

Luego de la adquisición de Twitter por parte de Elon Musk, la red social hizo un cambio de enfoque respecto a la forma en que combatían la desinformación, pues muchos de los empleados enfocados en esta área fueron despedidos y se implementó Community Notes, una medida basada en contribuciones de la comunidad para informar acerca de contenidos falsos o engañosos.

Se lanzó a nivel mundial en todo el mundo, pero hasta inicios de este año comenzó a aceptar contribuciones de varios países y a lo largo del año ha agregado nuevas funciones, como permitir añadir contexto a un tuit.

No obstante, la medida no ha sido suficiente para apaciguar las preocupaciones de los reguladores. Hace unos días, Thierry Breton, comisario europeo de Mercado Interior y Servicios, denunció que Twitter abandonó el Código de Prácticas voluntario contra la desinformación de la Unión Europea.

Asimismo, resaltó que por lo menos en esa región, el combate a la desinformación no podrá abordarse a través de las contribuciones de su comunidad, sino que será obligación de la plataforma a partir del 25 de agosto, según la Ley de Servicios Digitales.