Es un hecho que la inteligencia artificial tiene un gran potencial para ser utilizada en diversos ámbitos, incluyendo la política. Si bien, su uso responsable puede traer beneficios como la mejora de la comunicación con los ciudadanos, la personalización de campañas y la optimización de recursos, también existen riesgos asociados a su aplicación en la propaganda política.
PUBLICIDAD
De hecho, OpenAI, la empresa creadora de ChatGPT, ha puesto al descubierto la utilización de su tecnología por parte de grupos de Rusia, Irán, China e Israel para la producción y difusión de propaganda maliciosa.
Operaciones de influencia encubiertas
A solo semanas de las elecciones europeas, las presidenciales en Estados Unidos y en medio de los conflictos en Oriente Medio y Ucrania, OpenAI ha detectado el uso de ChatGPT por parte de actores vinculados a conocidas operaciones de propaganda de estos países.
Estas cuentas, algunas ya bajo el radar de la comunidad internacional, se valieron de la herramienta durante años para generar contenido en diversos idiomas, traducirlo y crear software de publicación automática en redes sociales, amplificando así su alcance.
Algunos ejemplos concretos incluyen:
- Spamouflage (China): Investigó actividad en redes y redactó contenido en varios idiomas.
- Unión Internacional de Medios Virtuales (Irán): Creó artículos para su sitio web.
- Bad Grammar (Rusia): Desarrolló un programa de publicación automática en Telegram con comentarios y publicaciones en ruso e inglés en contra de la ayuda estadounidense a Ucrania.
- Stoic (Israel): Generó publicaciones a favor del país durante la guerra en Gaza, dirigidas a Canadá, Estados Unidos e Israel.
Meta también corrobora las prácticas
Meta, dueña de Facebook e Instagram, también ha identificado el uso similar de ChatGPT en sus plataformas, con 510 cuentas en Facebook y 32 en Instagram. Estas cuentas, algunas bajo nombres ficticios y otras pirateadas, creaban comentarios en páginas de figuras públicas y organizaciones bajo la apariencia de estudiantes o afroamericanos pro-Israelíes o pro-Fuerzas de Defensa de Israel, advirtiendo sobre las amenazas del “Islam radical”.
Si bien, estas cuentas fueron eliminadas y su alcance fue limitado, la situación expone los riesgos del uso malicioso de la IA y el potencial daño que puede causar en la sociedad. La posibilidad de que otros grupos estén utilizando las herramientas de OpenAI sin su conocimiento es un motivo de preocupación.
PUBLICIDAD
“Es una evolución, no una revolución. No hay tiempo para la complacencia”, afirma Ben Nimmo, líder del equipo de investigaciones de OpenAI. “La historia muestra que operaciones de influencia que antes no tenían éxito pueden explotar si no se les presta atención”.
Una carrera contra el tiempo
Gobiernos y activistas llevan años luchando contra el uso de las redes sociales para la influencia y manipulación política. Las plataformas han implementado medidas como la prohibición de esfuerzos encubiertos de influencia política y la exigencia de transparencia en la financiación de anuncios. Sin embargo, la rápida evolución de la tecnología y la capacidad de adaptación de estos grupos suponen un desafío constante para las empresas.
Un video falso del candidato presidencial de Taiwán, Terry Gou, respaldando a otro político, y una llamada falsa del presidente Biden a votantes en las primarias de New Hampshire son solo algunos ejemplos del uso malicioso de la IA para la desinformación.
OpenAI, Google y otras empresas están desarrollando software para identificar deepfakes, pero la tecnología aún no está madura y su efectividad genera dudas. La lucha contra el uso malicioso de la IA en la era digital sigue siendo un desafío complejo que requiere esfuerzos continuos y colaboración entre diversos actores.
