Los estados nacionales utilizan la IA como arma en ciberataques

Las amenazas persistentes avanzadas (APT) en China, Irán, Corea del Norte y Rusia utilizan modelos de lenguaje grande (LLM) para mejorar sus operaciones.

Nuevas publicaciones de blog de AbiertoAI Y microsoft revelan que cinco actores de amenazas importantes han utilizado el software OpenAI para investigación, fraude y otros fines maliciosos. Después de identificarlos, OpenAI cerró todas sus cuentas.

Aunque la perspectiva de operaciones cibernéticas en estados-nación impulsadas por IA puede parecer desalentadora al principio, hay buenas noticias: ninguno de estos abusos de LLM observados hasta la fecha ha sido particularmente devastador.

«El uso actual de la tecnología LLM por parte de los actores de amenazas ha demostrado comportamientos consistentes con los atacantes que utilizan la IA como otra herramienta de productividad», señaló Microsoft en su informe. «Microsoft y OpenAI aún no han observado ningún ataque o técnica de abuso impulsado por IA particularmente novedoso o único que resulte del uso de IA por parte de los actores de amenazas».

Las APT de los estados-nación utilizan OpenAI

Las APT de los estados-nación que utilizan OpenAI en la actualidad se encuentran entre las más notorias del mundo.

Consideremos el grupo que Microsoft llama Forest Blizzard, pero que mejor conocido como Fancy Bear. La unidad militar del Comité Nacional Demócrata adscrita a la Dirección Principal del Estado Mayor de las Fuerzas Armadas de la Federación Rusa (GRU), que lleva a cabo ataques terroristas y de piratería informática en Ucrania, utilizó LLM para tareas básicas de programación: manipulación de archivos, selección de datos. , multiprocesamiento, etc., etc., además de recopilar información, investigar protocolos de comunicaciones por satélite y tecnologías de imágenes de radar, probablemente en relación con la guerra en curso en Ucrania.

Dos actores estatales chinos han estado conversando recientemente en ChatGPT: Charcoal Typhoon (también conocido como Aquatic Panda, ControlX, RedHotel, BRONZE UNIVERSITY)y Salmon Typhoon (también conocido como APT4, Maverick Panda).

El primero utiliza IA tanto para comportamientos maliciosos previos al compromiso al recopilar información sobre tecnologías, plataformas y vulnerabilidades específicas, generando y refinando scripts y generando textos de ingeniería social en idiomas traducidos, como para acciones avanzadas posteriores al compromiso mediante la ejecución de comandos, logrando un acceso más profundo al sistema. y obtener control sobre los sistemas.

Salmon Typhoon se ha centrado principalmente en los LLM como herramienta de inteligencia, obteniendo información disponible públicamente sobre personas de alto perfil, agencias de inteligencia, política interna e internacional, y más. También ha intentado, en gran medida sin éxito, abusar de OpenAI para ayudar a desarrollar código malicioso e investigar tácticas sigilosas.

Irán Tormenta de arena carmesí (carey, gatito imperial, liderc amarillo) utiliza OpenAI para desarrollar materiales de phishing (correos electrónicos que dicen ser de una agencia de desarrollo internacional o un grupo feminista, por ejemplo), así como fragmentos de código que respaldan sus operaciones de ejecución de tareas y raspado web. Inicie sesión como usuario en una aplicación. Etcétera.

Finalmente están los Kim Jong-Un Lluvia esmeralda (Kimsuky, Velvet Chollima) que, al igual que las otras APT, recurre a OpenAI para tareas básicas de programación, generación de contenido de phishing e investigación de información sobre vulnerabilidades disponible públicamente, así como expertos, grupos de expertos y organizaciones gubernamentales centradas en cuestiones de defensa y su programa de armas nucleares.

La IA no es (todavía) innovadora

Si estos muchos usos maliciosos de la IA parecen útiles pero no geniales al nivel de ciencia ficción, hay una razón para ello.

«Los actores de amenazas lo suficientemente eficaces como para ser rastreados por Microsoft probablemente ya sean competentes en la escritura de software», explica Joseph Thacker, ingeniero senior de inteligencia artificial e investigador de seguridad en AppOmni. “La IA generativa es asombrosa, pero sobre todo ayuda a las personas a ser más eficientes en lugar de lograr avances. Creo que estos actores de amenazas están usando LLM para escribir código (como malware) más rápido, pero no tiene un impacto significativo porque ya tenían malware. Todavía lo tienen”. Malware. Es posible que puedan ser más eficientes, pero al final no están haciendo nada nuevo”.

Si bien tiene cuidado de no exagerar su impacto, Thacker advierte que la IA todavía ofrece ventajas a los atacantes. “Los malos actores probablemente podrán implementar malware a mayor escala o en sistemas que antes no los soportaban. Los LLM son bastante buenos para traducir código de un idioma o arquitectura a otro. “Así que me imagino que están convirtiendo su código malicioso a nuevos lenguajes que no conocían antes”, afirma.

Además, “si un actor de amenazas encuentra un caso de uso novedoso, estas empresas aún podrían ocultarlo y no detectarlo, por lo que no es imposible. He visto agentes de IA totalmente autónomos que pueden «hackear» y encontrar vulnerabilidades reales. «Si algún mal actor hubiera desarrollado algo similar, sería peligroso».

Por estos motivos, simplemente añade: “Las empresas pueden permanecer alerta. Siga haciendo bien lo básico”.