Tecnología

YouTube renueva sus sistemas para combatir las fake news

La empresa ha modificado sus sistemas para enfrentar los retos que supone el contenido erróneo, como la gran velocidad con la que se genera y se dispersa.

vie 18 febrero 2022 09:00 AM

YouTube — La plataforma anunció Creator Music, una herramienta para ayudar a artistas y youtubers a ganar más dinero. (5./15 WEST/Getty Images)

Expansión

@ExpansionMx

YouTube lo mismo puede ser una fuente de información fidedigna que un repositorio de noticias falsas. Por ello, la red social profundizó en la forma en que combaten la información errónea, la cual se basa en una combinación de machine learning y personas para detectar fuentes de contenido infractor y reducir su difusión.

De acuerdo con Nael Mohan, jefe de producto en YouTube, la rapidez con la que se genera contenido en la plataforma es uno de los principales retos que han enfrentado en torno a la desinformación y el alcance que podría tener.

La empresa detalla que ha emprendido una campaña en contra de este tipo de contenido desde hace cinco años a partir de un modelo que llaman las 4 R’s de la responsabilidad, el cual se basa en eliminar contenido que infrinja su política lo antes posible; destacar voces autorizadas cuando la gente busque información de última hora; recompensar a creadores confiables; y reducir la difusión de contenido que roza su política.

No obstante, en estos años han tenido que modificar su estrategia, pues con narrativas tan nuevas, les es complicado entrenar a sus sistemas de inteligencia artificial o contar con expertos que les ayuden a aminorar el problema de la desinformación inmediata.

Entre las acciones que han ejecutado al respecto se encuentra aprovechar una combinación más específica de clasificadores, palabras clave en decenas de idiomas e información de analistas regionales para detectar las narrativas que YouTube no capta por sí mismo.

“Cuanto más novedosa sea la desinformación, menos ejemplos tenemos para entrenar nuestros sistemas (...) Con el tiempo, esto nos permitirá identificar esos discursos virales de desinformación más rápido y con mayor precisión”, destaca Mohan.

En el caso de eventos noticiosos como desastres naturales, donde las fuentes verificadas pueden tardar en crear contenido, la empresa destaca que han desarrollado paneles de noticias para enviar a los espectadores a artículos en texto en donde puedan informarse.

Respecto a los temas de nicho alrededor de los cuales podría generarse desinformación, YouTube menciona que trabajan para verificar los hechos y agregan etiquetas con el propósito de que los espectadores identifiquen la falta de información de alta calidad sobre el tema.

El experto en la plataforma también resalta que el contexto es importante y si algún contenido informativo se encuentra insertado en otro como ejemplo de la desinformación, se intercalan mensajes para hacerle saber al usuario que ese video podría contener información errónea. Esta dinámica también se aplica a contenido que podría ser violento.

Cabe mencionar que otro reto al cual se ha enfrentado la plataforma es la difusión de contenido cuestionable que inició en YouTube, pero después llegó a otras plataformas. En esos casos, desde la red social apuntan que en primera instancia, los videos no se suelen recomendar y menos del 1% de sus visualizaciones procede de las recomendaciones.

Mohan también destaca que se han planteado la posibilidad de retirar el botón Compartir, pero tal opción se ha desestimado en estos momentos, debido a preocupaciones de restringir la libertad de expresión, además de que no han probado su efectividad.

Las declaraciones en torno a cómo YouTube está abordando el tema de la desinformación llegan después de que a mediados de enero, organizaciones de verificación de 40 países -entre ellos El Sabueso, de Animal Político - reclamaran a la plataforma más control en sus contenidos, pues dijeron que es “uno de los principales canales de desinformación e información falsa online” y “ha causado un daño real en la vida cotidiana”.