Estamos en una era digital en la que la inteligencia artificial está tomando cada vez más fuerza. Aquello lo podemos notar en mejoras en nuestras aplicaciones de siempre, como Youtube o Instagram, o también en los famosos chatbots de IA como ChatGPT de OpenAI, Copilot de Microsoft o Gemini de Google. También están los deepfakes, una tecnología emergente impulsada por IA y que llegó para revolucionar la manera en que se crean contenidos digitales. ¿La razón? Es que dichos videos destacan por su capacidad de hacer que parezca que una persona dijo o hizo algo, pero que en realidad nunca ocurrió.
En ese contexto, el Instituto Tecnológico de Massachusetts (MIT) dio a conocer que en China varias empresas que se dedican a la inteligencia artificial están introduciendo servicios que permiten a las personas “conversar” con seres queridos fallecidos, utilizando tecnología de ‘deepfake’ y clonación de voz.
IA china ‘revive’ a tus seres queridos
De acuerdo al informe publicado por el MIT, al menos seis empresas ya estarían comercializando este tipo de tecnología, lo que inmediatamente abrió un debate ético sobre el consentimiento y los efectos psicológicos de interactuar con réplicas digitales de los seres queridos fallecidos.
Por ejemplo está Silicon Intelligence, compañía pionera en este rubro, que se viralizó por proporcionarle a un usuario identificado como Sun Kai, un chatbot para hablar con su madre, quien falleció en 2019.
Así, mediante una foto y grabaciones de voz, crearon un avatar que le permite a Sun escuchar frases típicas de su mamá. “Mi mamá no parecía muy natural, pero aun así escuché las palabras que solía decir: ‘¿Ya comiste?’”, compartió Sun en el reporte del MIT.
Debate ético por los deepfake
En la práctica, la tecnología detrás de estos avatares implica el uso de ‘deepfake’ para replicar visualmente a las personas, incorporando detalles realistas y modelos de lenguaje que permiten comunicarse con estos. seres virtuales y que están basados en grabaciones de audio previas.
De esta manera, a medida que se proporcionan más datos de la persona fallecida o que se quiere replicar, como fotos, videos, audios y textos, los avatares se vuelven cada vez más visual y auditivamente más realistas.
Según Shen Yang, profesor de IA y medios en la Universidad Tsinghua de Beijing, que fue citado por el MIT, la industria de avatares de IA en China está progresado de manera vertiginosamente rápida, pasando de crear videos cortos a proporcionar avatares interactivos en tiempo real.
“Es un nuevo dominio que sólo surgió después de la popularización de la IA: los derechos a la eternidad digital. (...) La controversia radica en el hecho de que si replicamos a los miembros de nuestra familia porque los extrañamos, es posible que permanezcamos constantemente en estado de luto y no podamos salir de él para aceptar que realmente han fallecido”, explica el profesional.
Además, el costo de clonar a un ser querido ha disminuido significativamente, pasando de miles a solo unos cientos de dólares cada uno, lo que hace esta tecnología aún más accesible para quienes no tienen problemas con llevar adelante este tipo de contenidos.
Por ahora la falta de regulación legal plantea importantes preguntas sobre el consentimiento de los fallecidos y la ética de “revivir” a alguien digitalmente. Pero a medida que esta tecnología se vuelva cada vez más normal, es probable que se creen nuevas leyes para regular esta terrorífica industria.
