Facebook promete luchar contra el porno de venganza y lanza un nuevo sistema para detectarlo rápidamente

Tener pareja y enviarse material con desnudos es una práctica normal y perfectamente aceptable. Sin embargo, el problema de esto es cuando la relación no finaliza en buenos términos para ambas partes y ese material erótico termina difundido en internet. Esta práctica, llamada porno de venganza o ‘pornovenganza’, se ha hecho tan común que las redes sociales se han preocupado de que se utilicen sus plataformas para la difusión de este contenido. Por supuesto, entre ellas está Facebook.

La pornovenganza no es un concepto nuevo. Desde hace años se ha ido hablando del tema, y diversas redes sociales han reaccionado, así como las legislaciones de ciertos países. Si bien Facebook había prestado herramientas para denunciar publicaciones de este tipo, faltaba un sistema especializado que las detectara.

Por eso Facebook hizo un anuncio especial hoy a través de su blog. En él, la red social aclara su compromiso para proteger a las víctimas de prácticas de pornovenganza. Así, mencionó la implementación de un nuevo sistema que ayudará a detectar y eliminar rápidamente este tipo de contenido.  Además, funcionará de igual manera en Instagram.

Básicamente empleará inteligencia artificial y aprendizaje automático para mejorar la detección de publicaciones de contenido erótico no consensuado. Según el blog, esto irá más allá de simplemente detectar desnudos como se venía haciendo hasta ahora. A la IA se le estuvo entrenando con fotos que ya habían sido confirmadas como porno de venganza. No solo analizaría las características de la imagen, sino que también verificaría si hay mensajes ofensivos junto a ella.

Una vez el sistema señale una publicación como pornovenganza, esta sería remitida a un equipo especial de Facebook. Este personal humano estaría entrenado para trabajar con este tipo de material, por lo que actuarían rápidamente. Con esto, se buscaría remover material peligroso para la intimidad de cualquier persona incluso antes de que denuncie, pues muchas víctimas tienen miedo de hacerlo ante posibles represalias.

«No sin mi consentimiento»

El sistema se unió al trabajo del programa piloto de Facebook, «Not Without my Consent«. Con esta iniciativa, las víctimas de amenazas de pornovenganza pueden denunciar proactivamente antes de que se haga una publicación íntima suya.

El programa piloto actúa junto a organizaciones de derechos de los usuarios en linea. Este ayudará al usuario a ponerse en contacto con las organizaciones, quienes explicarán las políticas de Facebook en este caso, establecerán un acuerdo de confidencialidad y enviarán un formulario para solicitar datos de la víctima.

Posterior a eso, se enviará un correo para que la víctima comparta con Facebook el material que posiblemente puede ser difundido en la red. Esto será enviado de manera privada y será tratado por un equipo especial.

Finalmente el equipo pondrá una firma digital única a ese contenido. Esto imposibilitará a cualquiera de que lo publique, pues será borrado inmediatamente. Después, las imágenes se borrarán automáticamente del banco de datos de Facebook automáticamente en siete días.