Facebook, YouTube y Twitter hicieron un desastre en internet y lo deben arreglar

DAVID GOLDMAN

NUEVA YORK - Después de casi todos los tiroteos masivos, todos los delitos de odio de alto perfil en la última década, la historia se desarrolló de la misma manera: todas las señales de advertencia se mostraron claramente en las redes sociales.

Como si fuera en el momento justo, circularon reportes sobre el abuso en las redes sociales momentos después de que el mundo supiera los nombres del supuesto bombardero César Sayoc y el sospechoso de la sinagoga de Pittsburgh, Robert Bowers . Sayoc amenazó a los políticos demócratas en Twitter y publicó teorías de conspiración de derecha en Facebook. Bowers manifestó su antisemitismo en Gab, una red social más pequeña y mucho menos restringida que se ha convertido en una de las favoritas de los grupos de odio.

Las redes sociales han brindado a las personas una plataforma para difundir discursos de odio y creencias radicales a otras personas descontentas, amplificando lo que de otro modo son opiniones marginales. Unos pocos han convertido ese odio en violencia.

Silicon Valley ha construido las compañías más grandes y poderosas del mundo. Ahora los líderes tecnológicos tienen la responsabilidad de refrenar las creaciones que se han vuelto demasiado difíciles de manejar para ellos.

Estas son empresas, y sus líderes tendrán que descubrir cómo refrenarlas sin destruir sus empresas. Hasta ahora, ha sido difícil equilibrar las responsabilidades de Big Tech con la sociedad y sus obligaciones con los inversionistas.

Lee: La razón por las que Facebook elimina o mantiene a los grupos de odio

"Cada hora y cada dólar que se gasta en el monitoreo de contenido es un dólar y una hora que no se invierte en hacer crecer la empresa", dijo PW Singer, investigador principal del grupo de reflexión liberal New America y autor de LikeWar: the Weaponization of Social Media (LikeWar: La militarización de las Redes Sociales). "Pero esto se ha convertido en un fútbol político que ha dañado la imagen de las compañías de medios sociales y su reputación".

Un balance difícil

Facebook anunció en julio que invertiría miles de millones de dólares al año para mejorar la seguridad en la plataforma. La compañía dijo que el esfuerzo vendría a expensas del crecimiento de los usuarios y la rentabilidad . Las acciones de la compañía perdieron alrededor de un tercio de su valor porque los inversionistas estaban preocupados por el estancamiento del crecimiento de Facebook.

Twitter ha eliminado millones de cuentas falsas como parte de un esfuerzo de la compañía por mejorar la salud de la plataforma. El CEO Jack Dorsey dijo en julio que su plan era "lo correcto" para la empresa y "para la sociedad en general". Los inversionistas no están de acuerdo. Las acciones de Twitter han bajado un 25% en los últimos tres meses, y eso incluye un rebote del 13% en octubre.

"Las reglas de Twitter son un documento vivo y buscamos continuamente formas de mejorarlas", dijo un portavoz de Twitter. "El mes pasado, anunciamos esfuerzos renovados de políticas como parte de nuestra misión general de la compañía para mejorar la salud del discurso público en nuestro sitio".

Facebook no respondió a las solicitudes de comentarios.

Cada una de las compañías ha establecido reglas para sus plataformas y ha establecido protocolos para eliminar el discurso de odio y las amenazas de violencia. Han funcionado con diversos grados de éxito.

"Las plataformas simplemente no están listas para esto", dijo Jennifer Grygiel, profesora de la Newhouse School of Public Communications de la Universidad de Syracuse. "Su moderación de contenido es completamente ineficaz. Su inteligencia artificial y su aprendizaje automático no son lo suficientemente sofisticados".

Twitter ha eliminado en gran medida a los reclutadores de ISIS de la red social. Facebook y YouTube han etiquetado noticias falsas como tales. Sin embargo, el trabajo no está cerca de estar terminado. Google también ha realizado cambios significativos en las políticas publicitarias de YouTube luego de que anuncios de 300 compañías y organizaciones se publicaran en canales que promocionaban grupos de odio.

Lee: ¿El reinado de YouTube está en peligro?

Los críticos dicen que la moderación de Twitter no está funcionando. Las personas habitualmente publican capturas de pantalla de amenazas de muerte, discursos de odio u otros actos violentos, junto con la respuesta de Twitter a sus quejas: "Hemos revisado su informe cuidadosamente y descubrimos que no hubo violación de las reglas de Twitter".

"No miramos el contenido con respecto a la ideología política. Nos fijamos en el comportamiento", dijo el CEO de Twitter, Jack Dorsey, a CNN el mes pasado. "No he hecho lo suficiente para articular mis objetivos personales con esta empresa. Esa es mi responsabilidad".

Facebook es mejor para eliminar las amenazas, pero sigue teniendo problemas con los gobiernos que utilizan su plataforma para sembrar la disrupción en el extranjero, especialmente en Estados Unidos. WhatsApp de Facebook también tiene un problema importante en su mercado más grande, India, donde los rumores falsos sobre el servicio de mensajería móvil han sido culpados por más de una docena de linchamientos en el último año. Bajo la presión del gobierno indio, WhatsApp ha agregado varias características de seguridad nuevas, pero la compañía también ha rechazado algunas de las demandas del gobierno.

Los problemas de WhatsApp son globales. Por ejemplo, Brasil prohibió temporalmente WhatsApp en 2016 porque se había convertido en un refugio para los narcotraficantes para evitar la detección.

Google ha controlado sus problemas publicitarios, pero su plataforma aún está llena de videos inquietantes.

"YouTube tiene políticas estrictas que prohíben el contenido que incita a otros a la violencia o promueve el odio", dijo un portavoz de YouTube. "Eliminamos rápidamente los videos que violan nuestras políticas cuando son marcados por nuestros usuarios".

¿Se puede arreglar?

Un esfuerzo en toda regla para librar a las plataformas del discurso de odio y la violencia requeriría miles de millones más de dólares, obstaculizaría aún más el crecimiento y potencialmente enviaría aún más bajo el precio de sus acciones. No está claro si los CEO tienen el estómago para hacer lo que sea necesario para enderezar sus barcos.

"Las personas son una de las líneas de presupuesto más caras y están tratando de hacer esto lo más barato posible", dijo Grygiel. "No están sentados en la sala de juntas diciendo 'vamos a disminuir nuestros márgenes de ganancia al actuar hoy'".

A pesar de que las redes sociales han invertido en herramientas para combatir los discursos peligrosos, en gran medida continúan actuando como si fueran ayuntamientos en línea donde el libre flujo de ideas y expresiones fortalecerá a la sociedad (y generará grandes beneficios para los anunciantes e inversionistas). Pero si los gritos, el arrastre y la violencia continúan, la gente va a dejar esos pasillos por otros más tranquilos, argumenta Singer. Después de años de un enorme crecimiento en las personas que se unen a sus plataformas, Facebook y Twitter se están nivelando: Twitter perdió 9 millones de usuarios activos diarios el último trimestre. Facebook perdió 3 millones en Estados Unidos y Canadá.

La realidad es que nadie tiene derecho a una cuenta de Facebook o Twitter. YouTube no necesita permitir que todos publiquen sus videos. Investigar, examinar, limitar o poner de otra manera el equivalente digital de una cadena de terciopelo cambiaría las redes sociales, pero quizás para mejor.

Recomendamos: La marcha de las mujeres fue víctima de impostores en Facebook

Las apuestas eran mucho más pequeñas cuando Facebook era una colección de unas pocas docenas de universidades o incluso unos pocos millones de personas que publicaban sus días. Cuando Twitter estaba en su infancia, la gente no tenía idea de qué hacer con las publicaciones de 140 caracteres, por lo que lo llamaron "microblogging". YouTube comenzó como el lugar donde los gatos tocaban el piano y la gente enseñaba la historia de la danza.

El público se preocupó por sus conexiones con amigos y familiares. Los inversionistas se preocuparon por los ingresos por publicidad. Y a los CEO de las empresas les importaba un crecimiento masivo y sostenido.

Lo que parecía no cruzar la mente de nadie hace una década era la desventaja potencial de construir una plataforma con miles de millones de clientes. Tantos mensajes no pueden ser monitoreados en tiempo real. Las redes dieron a los escombros de la sociedad la capacidad de llegar a personas de ideas afines y envenenar las mentes de otros.

Sin esa visión, Silicon Valley permitió que sus creaciones se derrumbaran. No están más allá de la reparación, pero arreglarlos será costoso y difícil. Lo que determinará el destino de sus plataformas será si Big Tech está a la altura de la tarea.