Facebook ha desarrollado una nueva tecnología de detección automática para combatir tanto en Instagram como en la red social Facebook las imágenes íntimas compartidas sin consentimiento, también denominadas porno de venganza, así como un nuevo centro de recursos en línea para ayudar a las víctimas de estos abusos.
La compañía ha introducido en su plataforma una nueva herramienta de inteligencia artificial predictiva contra el porno de venganza, como ha explicado la responsable global de seguridad de Facebook, Antigone Davis, a través de un comunicado.
A través de este sistema, Facebook es capaz de “advertir imágenes de forma proactiva cercanas al desnudo o vídeos que se comparten sin permiso a través de Facebook o Instagram“, según Davis, algo que excede las herramientas que ya se utilizan para detectar imágenes normales de desnudos.
La inteligencia artificial de Facebook funciona de manera predictiva para evitar los casos en que las víctimas tienen miedo de denunciar una publicación y para prevenir también los casos en que no llegan a advertirlo.
Tras la detección por parte del sistema automático, Facebook los investiga a través de revisores especialmente formados para esta función. Si el contenido vulnera sus políticas, la compañía lo elimina y en la mayoría de los casos elimina la cuenta infractora, y también permite apelar en caso de posibles errores.
Asimismo, la compañía ha lanzado también un nuevo centro de soporte en línea para las víctimas de porno de venganza, denominado ‘Not Without My Consent’, es decir, ‘no sin mi consentimiento’ en inglés.
Esta herramienta en línea se añade al centro de seguridad general de Facebook, y permite a las víctimas acceder a recursos y organizaciones para obtener ayuda. También se explican los pasos a seguir para eliminar contenidos compartidos en sus plataformas.
Con el objetivo de hacer más sencillo que las víctimas denuncien imágenes de desnudos compartidas, Facebook ha anunciado también que desarrollará un kit de herramientas con información local y cultural relevante con la colaboración de asociaciones especializadas de Reino Unido, Estados Unidos, Pakistán, Brasil y Corea del Sur.