Los gusanos de IA adaptables y basados en agentes se perfilan como la próxima amenaza para las empresas
Se está buscando medidas de protección contra la próxima generación de gusanos maliciosos con IA adaptativa para evitar un incidente global de la magnitud de otros eventos de gusanos famosos, como por ejemplo: avert. No Petia, estuxnet, MSBlasto el SQL Slammer Gusano.
Los gusanos adaptativos de IA serán agentes autónomos que se autopropagarán rápidamente buscando errores de día cero, fallas de software conocidas pero sin parches y secretos expuestos, y podrán hacerlo en múltiples entornos, cambiando dinámicamente a medida que lo hagan.
Para adelantarse a esta evolución, investigadores de seguridad de IA/aprendizaje automático (ML) de la Universidad de Toronto, la incubadora canadiense de IA Vector Institute, la empresa de software empresarial ServiceNow y la Universidad de Cambridge han desarrollado un gusano de IA con agente de prueba de concepto (PoC) que se propaga adaptándose a cada nuevo entorno, buscando vulnerabilidades y creando programas para explotar los sistemas. Y en la empresa de ciberseguridad BeyondTrust, los investigadores también están desarrollando y probando las capacidades de un gusano de IA. El objetivo es similar a la investigación de «ganancia de función» de los virólogos, en la que se crean patógenos para estudiar cómo proteger al mundo de posibles pandemias.
Los gusanos de IA agentes y adaptativos aún no han aparecido en la naturaleza, pero Kinnaird McQuade, arquitecto jefe de seguridad de BeyondTrust, espera que tal evento ocurra entre seis meses y un año, dijo. dijo a los participantes en la conferencia fwd:cloudsec Norteamérica esta semana.
«Personalmente creo que un ataque de gusano impulsado por IA es inminente», dijo. «Creo que estará dirigido a desarrolladores e ingenieros… que tienen amplio acceso y se moverán a través de las nubes, y creo que muchas empresas no se recuperarán de eso».
Los atacantes ya han comenzado a combinar las capacidades de autopropagación que históricamente constituyeron un «gusano» con herramientas de inteligencia artificial maliciosas para atacar a los desarrolladores y las cadenas de suministro de software. Las empresas de ciberseguridad advirtieron sobre esto el pasado mes de septiembre Un gusano, Shai-hulud, comenzó a abrirse camino a través de los repositorios de Node Package Manager (npm)robando credenciales y secretos de desarrollador para infectar nuevos paquetes. El mes siguiente, los investigadores descubrieron el ataque GlassWorm que aprovecha las extensiones de VS Code Comprometer las máquinas de desarrollo.
Otros operadores de malware han comenzado a utilizarlo. Modelos de lenguaje grande (LLM) para mejorar la ofuscación durante la ejecución del ataqueaunque la mayoría de los atacantes utilizan LLM para codificar malware y no como una característica de tiempo de ejecución.
Una vieja ciberamenaza con un nuevo giro en IA
Los gusanos de IA son el siguiente paso y no necesariamente una idea nueva. Este tipo de programa digital impulsado por IA ha aparecido en la ficción: con Daniel Suárez demonio (2006) tenían una IA que se extendía a través de los sistemas, mientras que la IA de Daniel H. Wilson en Robopocalipsis (2011) escaparon de la contención digital y luego se extendieron a los dispositivos.
Los agentes de IA PoC del mundo real son más modestos: reemplazan «el código de explotación fijo con un razonamiento específico que se adapta en tiempo real a las vulnerabilidades de cada objetivo», según los investigadores de la Universidad de Toronto. indicado en su sitio web. Los agentes se propagan a través de una red saltando de un dispositivo a otro, adaptándose al entorno actual, robando secretos y encontrando vulnerabilidades utilizando los propios recursos del sistema contra ellos.
«Los gusanos tradicionales pueden detenerse parcheando la vulnerabilidad específica que explotan», escriben los investigadores. «Nuestro gusano adaptativo no se puede detener de esta manera: utiliza un bucle de razonamiento recursivo para detectar y explotar varias vulnerabilidades a medida que se propaga».
Fuente: “Los agentes de IA permiten gusanos informáticos adaptables”, Universidad de Toronto, et al.
El gusano sólo utiliza pequeños modelos de IA gratuitos para potenciar sus capacidades de razonamiento y toma de decisiones, explicaron los investigadores. El agente de IA identifica de forma independiente vulnerabilidades e información confidencial en cada máquina y luego utiliza estas vulnerabilidades para propagarse.
Éste es el proceso evolutivo en marcha, dice Gary McGraw, fundador del Instituto Berryville de Aprendizaje Automático (BIML). Mientras que los gusanos normales son “virus con alas”, los gusanos AI son “virus con alas y cerebro”, dice.
El problema es que a pesar de tres décadas de esfuerzos para abordar las vulnerabilidades del software, la mayoría de las organizaciones enfrentarán problemas insuperables de parcheo. Incluso con tecnologías de detección de vulnerabilidades y eso supuesto poder del mito de AnthropicSerá difícil reducir significativamente la superficie de ataque con todo el software disponible, afirma McGraw.
«La gestión de la vulnerabilidad tiene dos dimensiones», afirma. «Crearemos mejor software y reduciremos parte de nuestra deuda técnica, pero también crearemos más software que nunca».
Enfoque de los gusanos de IA: una fecha límite para una mayor seguridad
El trabajo de los investigadores sobre gusanos de IA adaptativa podría ser en sí mismo el catalizador de un desarrollo malicioso, o al menos un presagio. En agosto de 2002 apareció un artículo de un trío de investigadores, “Cómo utilizar Internet en tu tiempo libre” Se discutió el uso predeterminado de listas de servidores vulnerables para acelerar la propagación de un gusano, el llamado «gusano flash». Cinco meses después, apareció un gusano así. Gusano SQL Slammer se propaga a través de Internet e infecta al 90% de sus servidores en menos de 10 minutos.
Sin embargo, existen obstáculos técnicos para los posibles atacantes. Mientras Criptojacking muestra que los atacantes pueden secuestrar procesadores y memoria sin que la víctima necesariamente se dé cuenta, un gusano de IA sería un orden de magnitud más obvio, dice August Moore, ingeniero senior de seguridad e IA de 7AI, una empresa de ciberseguridad de IA.
«[I]»Es mucho más fácil permanecer oculto en sistemas donde nadie está mirando», afirma, mientras que un modelo que se ejecuta en un sistema típico es mucho más detectable: «Diez gigabytes en VRAM y un ML». [machine-learning] El tiempo de ejecución en un host que no tiene motivos para realizar inferencias no se desvanecerá fácilmente en el ruido de fondo”.
Detén a los gusanos antes de que comiencen.
Hacer que las redes empresariales sean resistentes a los gusanos de IA requiere seguridad y visibilidad, dice McQuade a Dark Reading. Mínimo privilegio es un enfoque crucial para resistir el ataque de un gusano de IA. Las organizaciones deberían buscar más datos de telemetría de endpoints y de la nube y comenzar a configurar acciones de remediación automatizadas.
“Se trata de detener [an attack] «Antes de su lanzamiento, tomar medidas inmediatas al notar estas señales y poder comprender el radio de explosión más amplio», dijo. «Al gusano le encantaba descubrir roles privilegiados, el acceso humano a los entornos de producción y la difusión de secretos». Tenemos que lidiar con esto a una escala que nunca antes habíamos visto, y la barrera para desarrollar gusanos impulsados por IA es baja”.
Los investigadores de la Universidad de Toronto también se centraron en la detección, la reducción de la superficie de ataque y la limitación de la propagación como mejores enfoques para los defensores. La buena noticia es que los conceptos básicos siguen siendo eficaces.
«Las arquitecturas de confianza cero limitan el movimiento lateral una vez que se afianzan al requerir una autenticación continua para cada solicitud de acceso», dijeron en una pregunta frecuente que acompañó su investigación. «La microsegmentación de la red limita el número de hosts accesibles desde cualquier computadora comprometida. Nuestro entorno de prueba representó, en el peor de los casos, una red plana; incluso una simple segmentación limitaría significativamente el alcance del gusano».
Nos llegó este contenido de ciberseguridad de: DarkReading
Puedes encontrar la noticia original en el enlace que sigue: https://www.darkreading.com/cyber-risk/adaptive-agentic-ai-worms-enterprise-cyber-threat
