Internet

Expertos están preocupados por página que utiliza el deepfake para crear desnudos

“Un abismo sin ley”.

Cualquier foto, cualquier persona en el mundo está en riesgo de caer en manos del “abismo sin ley” llamado Internet, como lo definió Scarlett Johansson. Expertos mostraron preocupación por la aparición de una nueva página que usa el deepfake para crear desnudos.

Ya no solo está en la mira la gente famosa: ahora las víctimas se multiplican. Cualquiera puede serlo.

El enfoque de esta página web, DeepSukebe, es el uso de la Inteligencia Artificial para desnudar cualquier imagen. Toman el rostro y lo adaptan a cualquier cuerpo sin ropa: los mismos usuarios pueden subir imágenes.

Twitter suspendió su cuenta, así como Facebook. Su página se vio bajo ataque, pero volvió con otro proveedor de ISP. Y, de acuerdo con la BBC, tuvo más de 5 millones de visitas solo en junio, acumulando cerca de 40 millones en todo 2021.

Jesselyn Cook, reportera de tecnología del HuffPost, ahondó acerca del portal. “El mes pasado, Estados Unidos fue, con mucho, la principal fuente del tráfico del sitio, seguido de Tailandia, Taiwán, Alemania y China”, apuntó en su investigación.

IP Volume Inc. estuvo proporcionando el hospedaje al portal. “Es un ISP potencialmente de alto riesgo de fraude”, señaló Scamalytics, una compañía antifraude cibernético, citada por el Daily Mail. “Operan 14.643 direcciones IP, casi todas las cuales ejecutan servidores, anonimizan VPN y proxies públicos”.

De acuerdo con el criticado portal, utiliza un modelo de Inteligencia Artificial de vanguardia, “desarrollado con millones de puntos de datos y años de investigación, incluidos meses de entrenamiento de modelos de IA”.

¿De dónde surge la tecnología deepfake para crear desnudos?

El Daily Mail conversó con Roy Azoulay, fundador de Serelay, un verificador de videos y fotos. Explica que la tecnología de la página se encuentra a disposición en bibliotecas de código abierto.

“Hay muy poco que se pueda hacer en el camino de la protección, o mantener esta tecnología fuera de las manos de los usuarios maliciosos”, recalca. Para Azoulay, la única solución posible viene de los legisladores o de la moderación de plataformas como Google, Facebook, Twitter y Telegram.

En el Reino Unido se busca impulsar la prohibición de estas herramientas. La parlamentaria Maria Miller habló con la BBC al respecto.

“El Parlamento necesita tener la oportunidad de debatir si las imágenes desnudas y sexualmente explícitas generadas digitalmente sin consentimiento deben ser prohibidas”, señala. “Creo que si esto sucediera, la ley cambiaría”.

“Si los proveedores de software desarrollan esta tecnología, son cómplices de un delito muy grave y se les debe exigir que diseñen sus productos para evitar que esto suceda”.

Beneficios y uso negativo de la Inteligencia Artificial

Gracias a la tecnología de Inteligencia Artificial, es posible lograr el rejuvenecimiento de figuras, como ocurrió con Mark Hamill en The Mandalorian, adaptando su rostro de los años 70 a los nuevos tiempos. O, incluso, “resucitar” otras fallecidas, como el caso de la artista española Lola Flores en un comercial de televisión.

Pero el lado oscuro, el lado agrio de todo es cuando las personas son afectadas en su intimidad. Comentábamos la situación de Scarlett Johansson: la protagonista de Black Widow ha sido constantemente afectada con el deepfake de desnudos. Toman su rostro y lo adaptan a situaciones, incluso, pornográficas.

“Nada puede impedir que alguien corte y pegue mi imagen o la de cualquier otra persona en un cuerpo diferente y hacer que se vea tan inquietantemente realista como se desee”, decía Johansson en una entrevista de 2018 con The Washington Post, citada por el Daily Mail. “Básicamente no hay reglas en internet porque es un abismo que permanece prácticamente sin ley”.

Ahora esto se extiende a cualquier persona, de todo tipo. La gravedad aumenta mucho más, y parece difícil frenarla.

Tags

Lo Último


Te recomendamos