Las redes sociales han facilitado la diseminación de información falsa, tendenciosa y/o fraudulenta, un fenómeno que ha aumentado con el acceso global al internet, así como tecnologías de IA que ofrecen un falso sentido de confianza. Además de la facilidad con la que un usuario puede generar contenido, éste puede ser impulsado a través de campañas publicitarias a costos muy asequibles.
El fraude de inversión en Pemex ha sido identificado por autoridades federales desde octubre del año pasado, sin embargo, sigue circulando en distintas redes sociales como una “legítima oportunidad” de inversión a través de múltiples videos que se promocionan como publicidad. Y, aunque es posible denunciar dicha estafa dentro de las plataformas digitales en donde aparece, la campaña continúa. ¿Cómo es posible que publicidad como esta siga apareciendo en plataformas de compañías como Google, META o TikTok?
Anteriormente la moderación de contenido se realizaba principalmente a través de la intervención humana, pero con el tiempo y la cantidad de contenido generado por usuarios, la tarea ha sido mayormente delegada a sistemas de lA y algoritmos de aprendizaje diseñados para identificar automáticamente contenido inapropiado o violatorio de los términos y condiciones de la plataforma.
Esta tecnología ha sido instrumental en permitir que sitios como YouTube regulen su contenido ya que, en éste, por ejemplo, se suben aproximadamente 500 horas de video por minuto, constituyendo una tarea titánica que sería imposible de realizar manualmente. La publicidad pagada, sin embargo, recae en otra categoría y atraviesa filtros que deberían ser más eficientes en identificar y penalizar fraudes como el mencionado anteriormente.
Desde finales del 2022, compañías como Google, Meta, “X” (antes Twitter) y otras, redujeron significativamente su personal, parte del cual estaba dedicado a la ética digital y moderación de contenido. Aunque no existe mucha transparencia al respecto, dichas acciones sucedieron bajo un modelo de “hacer más con menos", un mantra cada vez más común en Silicon Valley y uno que está siendo cuestionado por dar prioridad a las ganancias por encima del servicio y la seguridad de los usuarios.
Son demasiados los casos que demuestran que la moderación automatizada, al igual que el mecanismo de denuncia, no está funcionando óptimamente. Las empresas tecnológicas deben de aceptar el enorme impacto que pueden tener en la sociedad, la economía y la política, y responsabilizarse al establecer mejores prácticas que realmente atiendan este problema y lo que viene.
