Publicidad
Revista Digital

Síguenos en nuestras redes sociales:

Publicidad

Facebook detecta cerca del 97% de los contenidos con discurso de odio con IA

En su último informe sobre cómo interactúan los usuarios en la red social se notó una disminución en los contenidos de desnudez y de violencia.
jue 20 mayo 2021 05:00 AM
Facebook elimina discursos de odio en su plataforma
23.6% del discruso de odio se encontró antes de que un usuario lo reportara.

La inteligencia artificial es una de las herramientas que más apoyo está brindando a las empresas de tecnología para lograr moderar el contenido que hay en sus plataformas, y en el caso de Facebook, la empresa ha logrado detectar de forma proactiva el 97% de los contenidos con discurso de odio que se han publicado en la plataforma, lo que ayuda a que sus equipos de moderadores puedan analizar las publicaciones de manera más precisa.

“Los avances en las tecnologías de IA nos han permitido eliminar a lo largo del tiempo más expresiones de odio de Facebook e identificar más de ellas antes de que los usuarios las reporten. Cuando empezamos a informar sobre nuestras métricas de discurso de odio en el cuarto trimestre de 2017, nuestra tasa de detección proactiva era de 23.6%. Esto significa que del discurso de odio que eliminamos, 23.6% se encontró antes de que un usuario lo reportara”, indicó la empresa en su reporte.

Es decir, la prevalencia del discurso de odio en Facebook continúa disminuyendo, pues de acuerdo a su data en el primer trimestre este tipo de contenidos representó entre 0.05-0.06% de las publicaciones, es decir, de 5 a 6 visualizaciones por cada 10,000 publicaciones.

Publicidad

“Evaluamos la efectividad de la aplicación de nuestras políticas tratando de mantener la prevalencia del discurso de odio en nuestra plataforma lo más baja posible, al tiempo que minimizamos los errores en el contenido que eliminamos. Esta mejora en la prevalencia en Facebook se debe a los cambios que hicimos para reducir el contenido problemático en la Sección de Noticias”, precisó la compañía.

Sin embargo, no es el único aspecto destacado en el reporte, pues otras de las métricas que se han reducido son la prevalencia de desnudez de adultos y de contenido violento o gráfico.

De acuerdo al informe, en el primer trimestre de 2021, la prevalencia de desnudez de adultos tanto en Facebook como en Instagram fue de 0.03-0.04% y la prevalencia de contenido violento y gráfico fue de 0.01-0.02% en Instagram. En Facebook, fue de 0.03-0.04%, por debajo del 0.05% del último trimestre.

Publicidad

Las métricas, además, fueron analizadas por la consultora EY, la cual se encargó de evaluar la prevalencia de este tipo de contenidos, además de analizar 8.8 millones de piezas de contenido de intimidación y acoso, así como 25.2 millones de contenidos con discurso de odio.

Sobre las publicaciones en torno a COVID-19, la plataforma indicó que está enfocando esfuerzos en ayudar a las personas a obtener información oficial, incluyendo datos sobre vacunación.

“Desde el inicio de la pandemia hasta abril de este año, eliminamos más de 18 millones de piezas de contenido de Facebook e Instagram a nivel mundial por violar nuestras políticas sobre información falsa y daños relacionados con el COVID-19. También, estamos trabajando para aumentar la aceptación de las vacunas y combatir la desinformación sobre la inmunización”, puntualizó la marca.

Publicidad
Publicidad
Publicidad