Entretenimiento

Cibercriminales están usando a la inteligencia artificial para organizar sus ataques

¿La IA puede entrenarse para hackear?

Los grupos de ciberdelincuencia han comenzado a utilizar IA generativa para planificar y organizar ataques, incluido el uso del modelo de lenguaje grande Llama 2 de Meta, según el Informe anual sobre amenazas globales de la firma de ciberseguridad CrowdStrike, publicado el miércoles.

Según informa CrowdStrike, el grupo Scattered Spider empleó el modelo de lenguaje grande de Meta para generar scripts destinados al programa de automatización de tareas PowerShell de Microsoft. Estos scripts fueron utilizados para descargar las credenciales de inicio de sesión de los empleados de una víctima en el sector de servicios financieros en América del Norte.

Los investigadores de CrowdStrike identificaron el uso de Llama 2 al examinar el código en PowerShell. Según la firma, “el PowerShell utilizado para descargar los ID inmutables de los usuarios se parecía a los resultados del modelo de lenguaje grande (LLM) como los de ChatGPT”.

Además, observaron que el patrón de comentarios seguido de comandos coincidía con la salida del modelo Llama 2 70B. Por lo tanto, concluyeron que Scattered Spider probablemente dependió de un modelo de lenguaje grande para generar el script de PowerShell en esta actividad.

Sin embargo, CrowdStrike advierte que actualmente la capacidad de detectar ataques generados por IA o mejorados por IA generativa es limitada, debido a la dificultad de identificar rastros del uso de LLM. La firma sugiere que, hasta el momento, solo se han observado ocasionalmente signos concretos del uso de IA generativa por parte de los adversarios durante algunas fases operativas.

Tags

Lo Último


Te recomendamos