El algoritmo de Instagram promueve redes de pedófilos, informe

“Seguir sólo un puñado de estas recomendaciones fue suficiente para inundar una cuenta de prueba con contenido que sexualiza a los niños”, destaca el WSJ en su nota. Cabe mencionar que los investigadores también hallaron que este contenido se les recomendaba incluso si usaban emojis.

Instagram tiene más de 1,300 millones de usuarios a nivel mundial y debido a su gran alcance, las medidas de moderación de contenido deberían ser más duras.

Alex Stamos, jefe del Observatorio de Internet de Stanford y ex director de seguridad de Meta, dijo al WSJ que la compañía tienen los recursos para abordar este tipo de problemas además de que es su obligación no permitir que se divulgue este contenido en sus plataformas.

“Que un equipo de tres académicos con acceso limitado pudiera encontrar una red tan grande debería activar las alarmas en Meta. Espero que la empresa reinvierta en investigadores humanos”, señaló Stamos.

Este comentario lo hizo en referencia a si bien los investigadores hicieron reportes para eliminar el contenido, Instagram no validó los informes. Posteriormente, la empresa dio a conocer que solucionaron ese problema técnico.

La promoción de contenido sexual de menores viola las reglas establecidas por Meta, así como las leyes de Estados Unidos; sin embargo, las cuentas de este tipo fueron más comunes que en otras plataformas como Twitter, en la cual se hallaron 128 perfiles que ofrecen material de abuso sexual infantil, es decir, menos de un tercio de las halladas en Instagram.

Según el estudio, Twitter no recomendó este tipo de cuentas en la misma medida que Instagram y esta plataforma, además, las eliminó mucho más rápido.

"La plataforma más importante para estas redes de compradores y vendedores parece ser Instagram", escribieron los expertos en el informe que se publicó este miércoles.

Por otra parte, David Thiel, analista en jefe del Observatorio de Internet de Stanford, señaló que la red social no estaba equilibrada en términos de los sistemas de recomendación diseñados para alentar a los usuarios y conectarlos de forma segura respecto al contenido abusivo.

Meta reconoció los problemas dentro de sus operaciones de cumplimiento y dijo al WSJ que ha establecido un grupo de trabajo interno para abordar los problemas planteados.

"La explotación infantil es un crimen atroz", dijo la compañía a Expansión, y agregó que está "investigando continuamente formas de defenderse activamente contra este comportamiento".

También destacó que están trabajando dentro y fuera de la plataforma para apoyar a las autoridades en sus esfuerzos por arrestar y enjuiciar a los responsables de estas conductas aún cuando sus dinámicas evolucionen.

“Los agresores cambian constantemente sus tácticas para dañar a los menores y es por eso que tenemos políticas y tecnología estrictas para evitar que encuentren o interactúen con adolescentes en nuestras aplicaciones. También contratamos equipos de especialistas que se enfocan en comprender sus comportamientos y eliminar redes abusivas”, comentó un vocero de Meta.

Meta trabaja en la eliminación de contenido dañino

La empresa que tiene más de 3,000 millones de usuarios en sus plataformas de redes sociales (Instagram, Facebook y WhatsApp) también señaló que en los últimos dos años han eliminado 27 redes de pedófilos.

Asimismo, aseguró que han bloqueado miles de hashtags asociados a la sexualización de niños y ha restringido diversos términos en las búsquedas de usuarios. Incluso resaltó que tan sólo en enero eliminaron 490,000 cuentas que violaban sus políticas de seguridad infantil.

Cabe resaltar que esta no es la primera ocasión en que Meta se encuentra en una polémica relacionada a menores. En septiembre del 2021, la plataforma también fue blanco de críticas, al hacerse pública una investigación interna en la que se demostró que se trataba de una plataforma tóxica para muchas adolescentes .

(Con información de EFE)