¿Quién regula los casos de discursos de odio en las redes sociales?
En el panel ¿Odio en las redes sociales? Aproximaciones al discurso de odio en las plataformas digitales, llevado a cabo por la Universidad Iberoamericana, el Dr. Calderón Gamboa, experto independiente del Programa de la ONU Harmony with Nature, indicó que las restricciones ante los discursos de odio en redes sociales digitales compete en primera instancia a las plataformas, pero si no toman acción, lo debe hacer la impartición de justicia.
Por su parte, la Mtra. Glenda Michel Gutiérrez, gerente de políticas públicas para Meta en México señaló que en Meta, la compañía a la que pertenecen Facebook, Instagram y WhatsApp, las y los usuarios producen millones de piezas de contenido por segundo, y que para regularlas se han diseñado una serie de políticas, donde participan varios grupos internos y externos, tanto en la implementación como en el monitoreo.
Estas políticas se basan en las llamadas características protegidas. Es decir, se eliminan de las plataformas los ataques directos a las personas con base en estas características, que son: raza y etnia, sexo, discapacidad, afiliación religiosa, identidad de género, enfermedad grave, origen nacional, orientación sexual y estatus migratorio. También señaló que, desde un principio, Meta usó inteligencia artificial (IA) para detectar este tipo de discursos, a través del Large Language Model (LLM).
Por su parte, la red social X, especialmente su CEO Elon Musk, se ha enfrentado a fuertes polémicas en cuanto a este tema. La primera, porque él mismo respaldó un mensaje antisemita en Twitter como 'la verdad real”, lo cual causó indignación y fue acusado por la ADL. Por otro lado, porque uno de sus primeros recortes fue hacia gran parte del equipo de la plataforma dedicado a luchr contra la desinformación en su plataforma.
La línea entre la libertad de expresión y los discursos de odio
Mucho se ha debatido sobre dónde está la línea entre la libertad de expresión y el discurso de odio.
En el mismo panel, el Dr. Jorge Calderón Gamboa, experto independiente del Programa de la ONU Harmony with Nature, explicó que la libertad de expresión tiene que ver con el derecho al libre desarrollo de la personalidad, pero cuando lesiona el respeto a la moral, la vida privada y los derechos de terceros, es un discurso de odio. De hecho, de acuerdo con la Mtra. Glenda Michel Gutiérrez, Gerente de Políticas Públicas para Meta en México, el discurso de odio no se puede considerar como una opinión que deba expresarse.
Por su parte, de acuerdo con el Tribunal Europeo de Derechos Humanos, un discurso de odio es cualquier forma de expresión que propague, incite, promueva o justifique el odio racial, la xenofobia, el antisemitismo o cualquier otro odio basado en la intolerancia, incluyendo la intolerancia expresada en nacionalismo agresivo o etnocentrismo, discriminación u hostilidad contra las minorías, los migrantes y personas de origen inmigrante.
Mientras que para YouTube, un discurso de odio es contenido que promueve la violencia o el odio contra personas o grupos de acuerdo con ciertos atributos, por ejemplo, origen racial o étnico, religión, discapacidad, sexo, edad, condición de excombatiente de guerra e identidad u orientación sexual.
Y para Meta, es el lenguaje que incita al odio en sus plataformas, ya que crea un entorno intimidatorio y excluyente que, en algunos casos, puede incitar a la violencia en la vida real.
