¿Qué problemas trae el costo por verificar tus redes sociales?
Algunos activistas digitales señalan que uno de los principales peligros de este tipo de tendencia es la posibilidad de invisibilizar a organizaciones o empresas, pues en muchos casos el hecho de buscar pagar este tipo de cuotas evita que las publicaciones de organizaciones sin fines de lucro no sean populares y por ende el algoritmo muestra a los usuarios lo que es popular en la red.
“No me gusta culpar a los y las usuarias por lo que ven, argumentando que es lo que piden, y este es un lugar común que tienen las grandes empresas de tecnología o televisoras, quienes dicen que lo popular es lo que pide la gente, sin embargo la responsabilidad sí está en las grandes tecnológicas porque se puede hacer un cambio en el algoritmo y en el cambio de narrativas”, precisó José Aguilar, director de Racismo MX.
Quien además pone como ejemplo un caso que relata Safiya Noble en su libro Algoritmos de opresión, pues antes en Francia cuando buscabas la palabra judío salían múltiples páginas de supremacía blanca, por lo que Google tuvo que corregir el algoritmo para que esas páginas no se mostrarán primero.
Otro de los problemas que ve Viridiana García, oficial Nacional de Comunicación e Información en UNESCO México, es el crecimiento del discurso de odio, pues los ejemplos que han tenido en el pasado plataformas como Twitter, evidencian las consecuencias de cómo la conversación en el mundo digital, se puede volver un problema en el mundo físico.
“Una de las principales preocupaciones que tenemos desde la UNESCO es cómo este tipo de discursos pueden devenir en la violación de los derechos humanos de las personas”, enfatiza García.
Con el fin de hablar más de este tipo de problemas, tanto RacismoMX como la Unesco presentaron con la agencia Bombay la campaña Revolución vs Algoritmo con la que buscan visibilizar cómo diferentes grupos, identidades, personas y cuerpos siguen siendo estigmatizados por la forma en que se representan en espacios y plataformas que se usan día a día, como los buscadores de internet, mientras otros grupos son totalmente invisibilizados, obstaculizando la erradicación de prejuicios y desigualdades.
La campaña se lanzó en un contexto en el que los más recientes avances sobre la inteligencia artificial (IA) de aprendizaje automático y de aprendizaje profundo han replanteado preocupaciones en el diálogo público, como el futuro de los empleos, de los derechos de autor, hasta su impacto en prácticas criminales. Como es el caso de ChatGPT.
