Instagram está desarrollando con inteligencia artificial un algoritmo para proteger a usuarios de ‘nudes’ no solicitados

Instagram está trabajando en una forma de proteger a los usuarios de recibir fotos de desnudos no solicitados o ‘nudes’ en sus mensajes directos, a través de un algoritmo con inteligencia artificial.

La empresa matriz de la red social, Meta, confirmó a The Verge que la función está desarrollo, luego de que Alessandro Paluzzi, un investigador de aplicaciones, publicara una imagen inicial de la herramienta.

La compañía explicó que los controles de usuario opcionales, que aún se encuentran en las primeras etapas de desarrollo, ayudarán a las personas a protegerse de las fotos de desnudos y de otros mensajes no deseados.

Este es un mecanismo de privacidad parecido al de Palabras Ocultas, que permite filtrar automáticamente las solicitudes de mensajes directos que contienen contenido ofensivo.

Meta no verá los mensajes ni los compartirá

Según Liz Fernandez, vocera de Meta, el algoritmo no permitirá que la empresa vea los mensajes reales ni los comparta con terceros: “Estamos trabajando en estrecha colaboración con expertos para garantizar que estas nuevas funciones preserven la privacidad de las personas, al mismo tiempo que les brindan control sobre los mensajes que reciben”.

Meta asegura que compartirá más detalles sobre la nueva función en las próximas semanas a medida que se acerquen las pruebas.

Un informe publicado a principios de este año por el Center for Countering Digital Hate, una organización británica sin fines de lucro, encontró que las herramientas de Instagram no actuaron sobre el 90 por ciento de los mensajes directos abusivos basados en imágenes enviados a mujeres.

Muchas recibieron imágenes sexuales de hombres y ni siquiera la función de palabras ocultas pudo filtrar por completo malas palabras como “b*tch”.

Mientras tanto, el año pasado, The Pew Research Center publicó un informe que encontró que el 33 por ciento de las mujeres menores de 35 años habían sido acosadas sexualmente en línea. Por estos estudios y otras estadísticas, este nuevo algoritmo que protege a usuarios de ‘nudes’ no solicitados es una buena noticia.