Los sistemas de Inteligencia Artificial generativa, como ChatGPT, DALL-E o Google Gemini representan serios riesgos, sobre todo cuando es utilizada por personas con intenciones no precisamente nobles o con una ética cuestionable. En Japón acaba de surgir un caso delicado que nos deja en claro eso, ya que al parecer un sujeto usó este tipo de sistemas para crear desde la nada un potente virus informático.
PUBLICIDAD
No hace mucho por ejemplo conocimos algunas filtraciones surgidas desde el interior de OpenAI, donde conocimos por fin un poco del contexto por el que Sam Altman habría sido despedido de la propia institución que fundó. Siendo uno de los motivos principales el hecho de que desarrolló ChatGPT prácticamente a escondidas de su junta directiva.
A eso habría que sumarle el reciente escándalo con Scarlett Johansson, quien rechazó la oferte de Altman para ser la voz de su IA, para acto seguido ser igual clonada en audio para sumarse al chatbot desarrollado por el sujeto. Es así como estamos ante este escenario crítico.
El propio hombre más referencial en el terreno de la Inteligencia Artificial tendría una ética cuestionable en su forma de conducirse, y ahora parece que otros a su modo comienzan a imitarlo.
Un hombre crea un virus usando Inteligencia Artificial y abre una nueva era de peligros
En un caso que podría sentar un precedente preocupante, un hombre de 25 años en Japón ha sido acusado de utilizar Inteligencia Artificial generativa (IA) para crear un virus informático. De acuerdo con un reporte de Asia News Network (vía Straits Times) Ryuki Hayashi, un residente desempleado de la ciudad de Kawasaki, fue arrestado bajo sospecha de crear un virus similar a una pieza de ransomware usando esta tecnología.
El ransomware es un tipo de malware que secuestra y encripta la información personal de cualquier víctima para luego exigir un pago a cambio de recuperar todo. Y según las investigaciones, Hayashi no tenía la más mínima experiencia previa en materia de informática, pero se interesó en la IA generativa a través de las noticias.
De modo que al parecer, utilizó estas plataformas al alcance de cualquiera para obtener información sobre cómo crear un ransomware, combinando datos de diseño proporcionados por diferentes modelos de Inteligencia Artificial, hasta crear un programa malicioso operativo.
PUBLICIDAD
Todo está bien, por ahora
Si bien el virus no llegó a causar ningún daño, este caso pone de relieve el potencial de la Inteligencia Artificial generativa como una herramienta que podría ser utilizada con fines maliciosos. Ya que estas plataformas son capaces de crear contenido de todo tipo, en donde la redacción de textos, la generación de imágenes o la creación de música ya suena como algo inofensivo.
En teoría las principales empresas de tecnología, como OpenAI han implementado medidas para evitar el uso indebido de la IA generativa. Donde muchas veces el chatbot se niega a responder preguntas sobre la creación de programas maliciosos y temas así de delicados.
Sin embargo, existen muchos modelos de IA disponibles en Internet, como WormGPT, que no cuentan con este tipo de protecciones o incluso si se hace el prompt de manera suficientemente específica es posible articular elementos por separado para ensamblar luego todo el material.
Así que el caso de Ryuki Hayashi solo deja en claro que estamos en una nueva era de peligros para la sociedad entera.
