Las redes sociales funcionaron como el escaparate para que Brenton Tarrant mostrara la masacre que realizó en dos mezquitas en Christchurch, Nueva Zelanda, pues portaba una cámara en la cabeza con la que grabó y transmitió en vivo por Facebook Live durante 17 minutos.
El hecho que conmocionó al mundo pudo ser visto por unas 4.000 personas antes de que las herramientas de inteligencia artificial de Facebook detectaran la gravedad de las imágenes.
El video fue removido de la red social luego de que un usuario lo reportó media hora después, según informó la compañía este miércoles por la noche a través de un texto firmado por Guy Rosen, vicepresidente de gestión de productos.
Explicó que para sus sistemas de inteligencia artificial es más complicado detectar videos de tiroteos que de desnudos porque se basa en la cantidad de información que tienen registrada. «Ese video en particular no activó nuestros sistemas de detección automática».
«Para lograrlo, tendremos que proporcionar a nuestros sistemas grandes volúmenes de datos de este tipo específico de contenido, algo que es difícil, ya que estos eventos son afortunadamente raros. Otro desafío es discernir automáticamente este contenido de contenido visualmente similar e inocuo; por ejemplo, si nuestros sistemas marcan miles de videos de videojuegos transmitidos en vivo, nuestros revisores podrían perderse los videos importantes del mundo real».
Facebook adelantó que explorará si es posible utilizar inteligencia artificial en videos transmitidos en vivo. Pero reforzará su tecnología de detección de contenidos sensibles.
También avisaron que trabajarán en revisar más rápido los videos transmitidos en vivo, luego de varios reportes de gente que filma sus suicidios.
Aunque para algunos podría ser una solución agregar tiempo de retraso en los videos en vivo, Facebook dijo que no sería efectivo, pues además de no llegar a la raíz del problema, solo agregaría retraso en los reportes de usuarios sobre contenido peligroso, o en avisar a la policía sobre actividades criminales.
Brenton Tarrant, un australiano de 28 años, portaba una cámara en la cabeza con la que grabó y transmitió en vivo el asesinato.
El atacante ingresó a la mezquita Masjid Al Noor Mosque, en el centro de Christchurch, y empezó con un fusil semiautomático de alto calibre a disparar indiscriminadamente contra los feligreses.
Durante los 17 minutos que duró la transmisión del video, se paseó de un lado al otro de la mezquita. Luego, escapó en un auto, y en la huida atropelló a una persona. También publicó un manifiesto en las redes sociales con ideología extremista y proclamas contra los inmigrantes musulmanes.