Telegram: Un bot falsificó imágenes de menores de edad para mostrarlas desnudas

Nueva alerta contra la pederastia: un bot de Telegram falsificó más de 100 mil imágenes de mujeres y niñas, mostrándolas desnudas, según un informe.

En total serían 10 mil las personas afectadas por este bot deepfake, que utiliza imágenes reales y, con Inteligencia Artificial, las muestra sin ropa.

Sensity fue la agencia que descubrió la situación, que es penada legalmente. La mayoría de las imágenes fueron tomadas de redes sociales. “Todas eran mujeres y algunas parecían visiblemente menores de edad”, apuntó la compañía.

Las imágenes fueron creadas por el bot entre julio de 2019 y 2020. Se eliminaron de Internet en menos de 24 horas, según explica la firma de investigación.

Telegram, apoyado en la libertad de expresión, permite el uso de este tipo de imágenes.

El mal uso de la Inteligencia Artificial

“La innovación aquí no es necesariamente la Inteligencia Artificial, es solo el hecho de que puede llegar a mucha gente y muy fácilmente”. Las palabras son de Giorgio Patrini, CEO de Sensity, alertando acerca de la situación.

Los deepfakes son bots que utilizan la Inteligencia Artificial para crear contenido multimedia manipulado. Se hace alimentando un ordenador con un algoritmo, imágenes y audios de la persona objetivo.

El programa aprende a imitar las expresiones faciales, voz e inflexiones de la persona. Luego las muestra de forma falsificada.

El riesgo no existe solo en Telegram, sino en cualquier red

De acuerdo con Patrini, estas falsificaciones con Inteligencia Artificial son relativamente nuevas y pone en riesgo a cualquier persona con redes sociales.

“Si compartes imágenes o videos de ti mismo y no eres consciente de la privacidad puedes ser atacado”, recalca Patrini. 

“Es devastador para las víctimas de porno falso”, apuntó Nina Shick, investigadora, en conversación con la BBC. “Puede afectar completamente su vida, porque se sienten violados y humillados”.

“Nosotros como sociedad no hemos decidido cómo regularlo”.