Facebook: Nuestra IA falló en detectar el video del tiroteo en Nueva Zelanda
Londres (CNN)
Facebook reconoce que sus sistemas fallaron en detectar el video en vivo del ataque a la mezquita de Nueva Zelanda, arrojando luz sobre cómo supo la empresa del video.
Guy Rosen, vicepresidente de integridad de la empresa de redes sociales escribió, en el blog corporativo el miércoles por la noche, que el video del tiroteo no activó los sistemas de detección automática de Facebook ya que su inteligencia artificial no contaba con suficiente entrenamiento para detectar ese tipo de video.
El tirador transmitió en vivo 17 minutos del horrendo ataque, que tuvo como resultado 50 muertos, en Facebook.
Facebook dijo que menos de 200 personas vieron el video en vivo. El video fue reproducido 4,000 veces más antes de que Facebook lo tirara. La empresa no ha dicho exactamente cuándo eliminó el video del tirador.
Desde el ataque, el video ha sido descargado y subido millones de veces a varias plataformas.
Los líderes de Nueva Zelanda han criticado a Facebook por no tomar suficientes medidas para eliminar todas las versiones del video.
Te puede interesar: Lo que sabemos sobre el atentado en Nueva Zelanda que dejó 49 muertos
Los sistemas de inteligencia artificial dependen de “información de entrenamiento” según la cual Facebook y otras empresas proporcionan a sus sistemas ejemplos del contenido que tienen que eliminar. Facebook utiliza esos sistemas para ayudar a detectar y eliminar contenido como desnudos y terrorismo.
"Nos han cuestionado por qué nuestra tecnología de relación de imagen y video, que ha sido tan efectiva en la prevención de la difusión de propaganda de organizaciones terroristas no pudo detectar esas copias adicionales”, escribió Rosen. "Lo que obstaculizó a nuestro enfoque fue la proliferación de diferentes variaciones del video, motivados por las amplias y diversas maneras en que la gente lo compartió”.
Rosen también reveló que la manera en que los usuarios etiquetaron el video llevó a un retraso en la reacción de Facebook. La red social se ha enfocado en el pasado a reaccionar de inmediato a videos que muestran suicidios.
Los primeros reportes de usuarios del video del ataque en Nueva Zelanda, que llegaron después de que terminara la transmisión en vivo, lo etiquetaron como “distinto a suicidio” y como tal “fue tratado de acuerdo con los diferentes procedimientos”. Rosen dijo que Facebook está mejorando esa lógica para escalar otros tipos de contenido de manera más veloz.
Los usuarios de Facebook pueden etiquetar el contenido que consideran inapropiado que incluye desnudos, violencia, acoso, noticias falsas, spam, terrorismo, discurso de odio, contenido vulgar y suicidio o autolesiones.
Lee también: Facebook, YouTube y Twitter quieren detener video sobre Nueva Zelanda
Lo que complica aún más el problema para Facebook es la comunidad de “malos actores” que trabajaron en conjunto para subir continuamente las versiones editadas del video. Las versiones, que incluían videos grabados desde la televisión y monitores de computadora, funcionaron para engañar al sistema de inteligencia artificial y permitieron que esas copias se diseminaran, escribió Rosen.
Facebook ahora comenzará a usar una tecnología basada en audio para detectar videos que podrían haber sido editados para engañar al sistema de Inteligencia Artificial visual, escribió Rosen.
Algunos críticos han pedido a Facebook diferir las transmisiones en vivo, pero Rosen argumenta que ese retraso no solucionaría las dificultades que se presentaron con el video de Nueva Zelanda, y diferir la transmisión “sólo retrasaría aún más el reporte de los videos, su revisión y el alertar a la unidad de respuesta para ayudar en el sitio”.
