La Inteligencia Artificial ha llegado a un nuevo e inquietante grado de evolución que puede convertirse en un arma dañina, con la viralización de una nueva clase de fotografías y videos deepfake que muestran un grado de realismo bastante convincente, lo que representa un riesgo para cualquiera que haya subido una foto suya a cualquier tipo de red social, como Instagram o Facebook.
PUBLICIDAD
Ya que ahora han comenzado a surgir aplicaciones y sitios que utilizan esta tecnología para generar imágenes y videos deepfake de contenido explícito para adultos, que desnudan a personas a partir de una simple imagen casual.
El factor más delicado aquí es que dichas plataformas de Inteligencia Artificial no distinguen límites de edad, ni las nociones básicas del consentimiento, por lo que tanto en Europa como en América Latina han comenzado a registrarse casos de estudiantes y menores que han terminado siendo víctimas de estos montajes hiperrealistas.
Recomendados
Tres historias curiosas que demuestran que Tesla es una máquina de explotación laboral para sus empleados
Cuenta regresiva para el caos: El “apocalipsis digital” podría ocurrir en 2025
De vuelta a la oficina: ¿Por qué el CEO de OpenAI, Sam Altman, desaprueba el teletrabajo?
Es así como la web abre una nueva etapa, donde la IA puede ser utilizada para generar pornografía falsa que exponga a adolescentes, niñas y personas de cualquier edad, clase o situación.
Hace un año vimos cómo TikTok viralizaba el potencial alcance de este tipo de plataformas con una serie de imitadores de famosos. Desde aquel entonces ya se visualizaba el peligro latente. Pero ahora ya está aquí.
Fotos y videos deepfake creados por Inteligencia Artificial son la nueva fuente de imágenes de abusos sexuales a niñas, niños y adolescentes
Un artículo de la BBC publicado el 25 de septiembre de 2023 relata un lamentable suceso acontecido en la pequeña comunidad española de Almendralejo.
En donde más de 25 niñas y adolescentes fueron víctimas de una serie de fotografías y videos deepfake intervenidas mediante Inteligencia Artificial para generar material tan falso como explícito.
A la par que un extenso artículo del diario sudamericano de La Nación, también detalla los pormenores de otro caso similar, en donde Mario Leandro Pérez González, un argentino de 23 años de edad, terminó siendo acusado por sus compañeras de la Facultad de Arquitectura y Diseño Gráfico de la Universidad Nacional de San Juan por generar esa clase de material con ellas.
En el caso de Pérez se analiza un hueco jurídico que existe en las leyes actuales, donde este tipo de material falso no alcanza a ser tipificado como un delito aún. Más que nada porque las regulaciones y normas vigentes están genuinamente desactualizadas.
Al final el Centro de Abordaje Integral de Niños, Niñas y Adolescentes Víctimas (ANIVI) terminó procesando al estudiante que generó el material falso por tener almacenado también imágenes reales explícitas de menores de edad.
Pero el caso de España y Argentina marcan el potencial riesgo y lo delicado que se ha vuelto todo con la existencia de aplicaciones muy populares (cuyo nombre no señalaremos aquí) capaces de generar desnudos a partir de retratos inofensivos.