De acuerdo con la plataforma, este número ha sido posible gracias a los avances que la empresa ha tenido en la detección automatizada y la implementación del Lenguaje de Marcado Extensible (XLM), un metalenguaje que ayuda a identificar el lenguaje ofensivo, en distintos idiomas, además de herramientas que ayudan a descifrar grandes cantidades de publicaciones.
“Considerando que la incitación al odio depende del idioma y el contexto cultural, enviamos estas muestras representativas a revisores de contenido de diferentes regiones. Con base en esta metodología, estimamos que la prevalencia del discurso de odio desde julio de 2020 hasta septiembre de 2020 fue de 0,10% a 0,11%. En otras palabras, de cada 10,000 visualizaciones de contenido en Facebook, de 10 a 11 incluían discurso de odio”, precisó Kantor.
De acuerdo con la empresa, la definición de discurso de odio no es una labor simple, pues las opiniones tienen matices que dificultan la clasificación de la publicación, además de que se depende del contexto, el idioma, la religión y cambios culturales donde Facebook tiene presencia.
“Basándonos en las aportaciones de diversos expertos y líderes a nivel mundial, definimos el discurso de odio como todo lo que ataca directamente a las personas en función de características protegidas, como raza, etnia, nacionalidad de origen, afiliación religiosa, orientación sexual, sexo, género, identidad de género o discapacidad o enfermedad grave”, dijo Kantor.
Por ello, Facebook ha implementado un Optimizador de Integridad Reforzada (RIO) un marco de aprendizaje para que los involucrados en la moderación de contenido puedan optimizar su labor.
Si bien Facebook ha prohibido durante mucho tiempo el discurso de odio, las reglas de moderación de la compañía en ocasiones han dado lugar a algunos resultados no tan buenos. En 2017, ProPublica informó sobre cómo las reglas de Facebook ofrecían protección a los "hombres blancos" pero no a los "niños negros" debido a cómo la empresa interpretaba los subconjuntos de clases protegidas. Por ello la empresa ha buscado mejorar sus herramientas de moderación y detección.
