Aplicaciones

Bumble lanza una inteligencia artificial que detecta nudes y contenidos inapropiados en los chats

Una solución para los que envían fotos no solicitadas.

Bumble
Bumble (Unsplash)

Algunos no conocen Bumble, pero digamos que es la competencia de Tinder. Es una aplicación de citas, preocupada por los desnudos no solicitados y contenidos inapropiados que puedan recibir sus usuarios, por lo que lanzó una interesante inteligencia artificial (IA).

PUBLICIDAD

Esta app de citas en línea funciona de forma muy parecida a la plataforma más popular de este segmento de la industira. Los perfiles de coincidencias potenciales se muestran a los usuarios, quienes pueden deslizar hacia la izquierda para rechazar a un candidato o deslizar hacia la derecha para indicar interés.

Si usas Bumble y te interesa alguien, quizás puedas conocer a tu media naranja, pero también se puede presentar el escenario de que alguien te llame la atención, pero intente “convencerte” con contenidos inapropiados, como nudes que nunca pediste.

Afortunadamente, pensando en el bienestar de sus usuarios, Bumble lanzó una herramienta llamada Private Detector. De acuerdo con el informe publicado en el sitio web de Infobae, funciona con una inteligencia artificial.

¿En qué consiste Private Detector?

Private Detector utiliza una IA que está entrenada para detectar imágenes de desnudos y otro tipo de contenido inapropiado que sean enviados dentro de los chats de la Bumblee.

Esta función está integrada en los perfiles dentro de la aplicación de citas y avisará a los usuarios en caso de que algún usuario envíe una foto inapropiada por mensaje directo a otra persona sin su consentimiento.

Bumblee
Bumblee

Los desarrolladores de Private Detector utilizaron el machine learning como una forma de permitir que la app entienda una fotografía y la detecte en caso de contener una imagen que pueda ser considerada como nociva para el usuario que la reciba.

PUBLICIDAD

Para lograr un nivel de precisión elevado, se expuso a la herramienta de inteligencia artificial a imágenes no sexuales etiquetadas como “contenido límite”, que se refiere a partes del cuerpo como brazos o piernas, con la finalidad de que estas sí puedan ser permitidas y no se califique a cualquier fotografía como contenido sensible o inapropiado.

Además, las imágenes que contienen armas también son etiquetadas como contenido sensible y pueden ser denunciadas en los medios que están integrados dentro de la aplicación.

PUBLICIDAD

Recomendados:

Tags


Lo Último