OPINIÓN: Facebook y Google tienen que aceptar que promueven la desinformación

Jonathon Morgan escribe que desde hace años, los gobiernos hostiles, los grupos terroristas y los trolls de internet han manipulado el diálogo público en las redes sociales.
'Fake news'  Mientras EU se recuperaba del tiroteo más mortífero de la historia, Google y Facebook promovieron noticias falsas sobre los ataques.  (Foto: Shutterstock)
Jonathon Morgan

Nota del editor: Jonathon Morgan es director ejecutivo de New Knowledge, una empresa emergente de seguridad cognitiva, y fundador de Data for Democracy, un colectivo mundial de voluntarios expertos en tecnología. Fue asesor sobre combate a la propaganda terrorista en línea para la Casa Blanca y el Departamento de Estado de Estados Unidos durante la presidencia de Obama. Las opiniones expresadas en esta columna son exclusivas de su autor.

(CNN) — Todos los días descubrimos más sobre la magnitud y la efectividad de las operaciones de influencia de los rusos durante las elecciones de 2016 en Estados Unidos. Las implicaciones para nuestro proceso político son ominosas, pero el problema es mucho más profundo. Durante años, gobiernos hostiles, grupos terroristas y ejércitos de troles de internet han manipulado el diálogo público, tanto en Estados Unidos como en todo el mundo.

Tenemos que entender el ataque ruso de manipulación en las elecciones presidenciales del año pasado en un contexto más amplio: como una operación de propaganda relativamente tradicional que tuvo un alcance sin precedentes porque las empresas de redes sociales no pueden o no quieren defenderse.

Cada vez que nuestra sociedad es víctima de un ataque informático, culpamos al atacante, pero no a sus armas. Es difícil aceptar que las plataformas que usamos para platicar con nuestros amigos y para compartir fotos pueden tener un efecto tan grande para moldear la democracia. Plataformas como Google, Facebook y Twitter tienen defectos fundamentales que deben arreglarse si queremos protegernos de ahora en adelante.

En su apogeo, en 2013, ISIS movilizó decenas de miles de cuentas en redes sociales para difundir su mensaje y para radicalizar a los estadounidenses. Crearon contenidos horribles pero llamativos y usaron ejércitos de bots para que esos contenidos se hicieran populares a la fuerza. Manipularon la mecánica de las redes sociales y engañaron a plataformas como Twitter, Tumblr y YouTube para que su mensaje llegara al público más amplio posible. ISIS encendió la mecha con su mensaje de odio y de violencia, pero estas redes sociales aportaron el combustible para la explosión porque gracias a ellas fue sencillo compartir y difundir esta información casi instantáneamente. Años más tarde, las empresas de tecnología finalmente reconocieron la gravedad del problema y fundaron el Foro Mundial de Internet para Combatir el Terrorismo en junio de 2017.

Lee: El nuevo problema de credibilidad de Facebook

El que este grupo terrorista manipulara tan evidentemente nuestras plataformas sociales por tantos años fue una clara advertencia de que los actores hostiles podían usar nuestros sitios de reunión en línea para dar su mensaje a los estadounidenses. Ignoramos la advertencia y, en 2016, nos atacaron otra vez. En octubre de 2016, los funcionarios de inteligencia del gobierno de Obama acusaron formalmente a Rusia de interferir en las elecciones. Para marzo de 2017, New Knowledge, junto con investigadores independientes de Data for Democracy, nuestro colectivo de voluntarios, descubrió 30,000 cuentas, tan solo en la página de la campaña de Trump en Facebook, que mostraban una conducta parecida a la de un bot en sus publicaciones. Las cuentas falsas, manejadas a través de programas informáticos, están diseñadas para imitar a usuarios reales y para fabricar apoyo del público al publicar mensajes repetidamente en las redes sociales.

Pero es apenas ahora, a 11 meses de las elecciones de 2016, que empezamos a darnos cuenta del costo. Hace poco nos enteramos de que millones de estadounidenses recibían propaganda de un adversario extranjero, disfrazada de noticias y de comentarios persuasivos de vecinos falsos. Las empresas de tecnología que lo permitieron solo aceptan una responsabilidad limitada y afirman que el problema es una cuestión de libre expresión y no reconocen que engañaron y manipularon a sus usuarios.

Y sin embargo, mientras el país se recuperaba del tiroteo más mortífero de la historia, Google y Facebook promovieron noticias falsas sobre los ataques. 4chan, un foro anónimo famoso por su contenido racista y misógino, acusó falsamente a un hombre inocente de ser el perpetrador del tiroteo en Las Vegas.

Lee: Facebook es demandado por la 'selfie' de un refugiado sirio

A pesar de que 4chan tiene la fama de ser un semillero de memes insultantes y de teorías de conspiración descabelladas, Google promovió el contenido en los principales resultados de búsqueda y Facebook promovió los mensajes de 4chan en su página de respuesta a las crisis, que supuestamente es un recurso para que las familias revisen si sus seres queridos salieron heridos o murieron en el ataque. Ambas empresas publicaron comunicados en los que lamentaban estos errores y finalmente corrigieron el problema.

Estos ataques de información siguen ocurriendo porque manipular estas plataformas es barato y fácil. Las plataformas de medios como Google, Twitter y Facebook, dependen de la confianza. Si hay suficiente gente que confía en que cierta información es valiosa, la promueven entre más usuarios. No importa en dónde se haya publicado la información, quién es el autor o qué contiene.

Hubo una época en la que esta clase de difusión democrática de ideas era la gran promesa de internet, un sitio en el que la información fluía libremente, sin las restricciones tradicionales de los gobiernos o las empresas de medios. Sin embargo, internet no es una democracia. La información está bajo control de un grupo de empresas de medios que no quiere ayudar a que sus usuarios compartan información, sino que quieren lucrar con su atención. Google, Facebook y Twitter saben que sus empresas lucran al entender profundamente a sus usuarios y la clase de contenidos que llaman la atención de cada persona. Sus algoritmos aprenden qué información llama la atención y luego promueven esos contenidos justamente a los usuarios que probablemente la consumirán y la difundirán, lo que a su vez da más atención a esos contenidos y genera más ganancias. Como sociedad, nos comunicamos a través de productos que no están diseñados para ayudarnos a comunicarnos, sino para que sigamos atentos.

Los defectos de este sistema son parte del diseño. Estos defectos se han aprovechado una y otra vez y seguimos siendo vulnerables. Somos vulnerables a los contenidos que nos llaman la atención, sin importar su veracidad o su sustancia. Somos vulnerables a sistemas que entienden nuestras preferencias, nuestras creencias y nuestra filiación política y pueden mostrar contenidos llamativos e influyentes justo a las personas que seguramente se dejarán manipular por ellos. Además, somos vulnerables a la automatización: cuentas falsas que inventan, difunden y amplifican la información para engañar a los algoritmos de las tecnológicas para que crean que cierta información servirá para llamar la atención de sus usuarios.

Lee: ¿Por qué la gente difunde fotos falsas en desastres?

Para abordar estos problemas complejos se necesitarán inversiones considerables de las tecnológicas, que necesitan reevaluar la forma en la que se difunde y se promueve la información en sus plataformas. Necesitan modelos nuevos para promover contenidos que evalúen la calidad, no solo la cantidad de usuarios atraídos.

A corto plazo, tienen que cumplir su promesa de alertar cuando encuentren información falsa o engañosa y comprometerse a etiquetar las cuentas automatizadas para que los usuarios puedan distinguir lo que creen los humanos reales de lo que los bots quieren que creamos.

Lo más importante es que las tecnológicas tienen que aceptar que no operan en un vacío. Facebook y Google han revolucionado la forma en la que nos comunicamos como sociedad. Estas plataformas son el sitio en el que los estadounidenses entablan diálogos públicos y por lo tanto son fundamentales para la democracia moderna. Cada empleado y ejecutivo de las tecnológicas tiene la responsabilidad ética de proteger nuestros ideales democráticos.

También es hora de entablar un diálogo serio sobre la regulación gubernamental. Como sociedad, tenemos que decidir si hay que restringir a unas cuantas empresas gigantes de tecnología que recaban datos sobre cada aspecto de nuestra vida. Tenemos que decidir si les confiamos a estas empresas el control de la información que consumimos aunque eso les dé el control de moldear nuestras elecciones.

Inicia el día bien informado
Recibe todas las mañanas las noticias más importantes para empezar tu día.

El sector de la tecnología y el gobierno deben unirse para lidiar con los problemas estructurales de nuestras plataformas de redes sociales. De otra forma, no podemos esperar más que volver a ser víctimas.

Consulta más información sobre este y otros temas en el canal Opinión

Ahora ve
Doble atentado suicida en el centro de Bagdad deja más de 30 personas muertas
No te pierdas
×