Los LLM chinos amplían la brecha entre atacantes y defensores

Las empresas chinas lanzaron el mes pasado dos nuevos modelos de IA que ampliaron los límites de las capacidades de detección de vulnerabilidades del país y generaron preocupación entre algunos expertos en ciberseguridad.

El 13 de junio, la empresa china Zhipu AI lanzó un modelo abierto, GLM 5.2. examen posterior Found supera a Opus de Anthropic y GPT-5.5 de Open AI en algunos puntos de referencia de búsqueda de errores y cuesta sólo $0,17 por vulnerabilidad encontrada. Dos semanas después, otra empresa, 360 Security Technology, lanzó una herramienta de seguridad basada en modelos de frontera llamada Tulongfeng (también conocida como «Dragon Sabre»), que su fundador promocionó como la versión china de Mythos y afirmó que ya había encontrado más de 3.400 vulnerabilidades. según un informe de Reuters.

Si bien el software que respalda el proceso de detección de vulnerabilidades marca una diferencia fundamental, el hecho de que un modelo de peso abierto tenga un desempeño tan bueno en los puntos de referencia muestra que los defensores deben pagar su deuda de seguridad lo más rápido posible, dice Chris Inglis, ex director cibernético de EE. UU. y asesor estratégico de la firma de defensa contra ransomware Halcyon.

Relacionado:Cuando demasiados datos de seguridad se convirtieron en un riesgo

«Los modelos básicos ahora pueden eludir las defensas, por lo que las defensas deben tomarse en serio el conocimiento de su arquitectura, priorizar las vulnerabilidades dentro de esa arquitectura y parchar y reparar implacablemente sus configuraciones en rápido orden de prioridad», afirma. «Creo que eso es posible… No creo que estemos en el punto en el que realmente podamos salvarnos».

Los sistemas de inteligencia artificial están mejorando a la hora de encontrar vulnerabilidades y los atacantes utilizan cada vez más estas capacidades para mejorar sus ataques. En abril, la Cloud Security Alliance advirtió que la publicación de modelos de límites -especialmente Mythos- podría conducir a una «tormenta de vulnerabilidad de la IA». En mayo, Google anunció que lo había descubierto. El primer exploit creado por una IA es utilizado por un atacante. Algunos investigadores advertí que incluso los escasos detalles de los parches mensuales podrían conducir a la rápida explotación de vulnerabilidades que actualmente ocurre en promedio cada tres horas.

Los modelos chinos no sólo son potentes, sino que también ofrecen una buena relación calidad-precio, afirma Margaret Cunningham, vicepresidenta de seguridad y estrategia de IA en Darktrace, una plataforma de ciberseguridad de IA.

«Los mejores modelos tienden a ser más confiables, pero la confiabilidad debe equilibrarse con el costo, el acceso, la velocidad y la facilidad de implementación», afirma. «En la práctica, tanto los atacantes como los defensores toman decisiones económicas». Añade que un modelo sólo necesita ser lo suficientemente bueno como para justificar su uso.

China se ha puesto al día en aspectos importantes

Tanto para los defensores como para los atacantes, el hecho de que algunos modelos chinos, como cierto software, como GLM 5.2, tengan pesos abiertos (lo que significa que pueden instalarse en hardware local) es un argumento sólido para su adopción por parte de los defensores y permite a los atacantes experimentar escapando de cualquier alineación que impida el uso ofensivo. Además, para las empresas que necesitan mantener datos en su red, un modelo abierto de alto rendimiento es mejor que un modelo de frontera, afirma John Gallagher, vicepresidente de Viakoo, un proveedor automatizado de higiene cibernética para Internet de las cosas (IoT).

Relacionado:Un informe de error falso secuestra agentes de codificación de IA a gran escala

«Los modelos chinos están diseñados para poder descargarse y ejecutarse en hardware personal, optimizados para un bajo costo y personalizables», afirma. «En este momento, para OT y la infraestructura crítica, existen ventajas para los defensores del enfoque chino debido a la soberanía de los datos y los riesgos de fuga que surgen al exigir el uso de API en la nube para los principales modelos estadounidenses».

Pero en muchos sentidos, los grandes modelos de lenguaje (LLM) y otras arquitecturas de IA (como el enfoque de Mezcla de Expertos (MoE) utilizado por GLM 5.2) se han convertido en la parte más insignificante de la ecuación. Los sistemas modernos de IA ahora son lo suficientemente buenos, especialmente con los sistemas adecuados (o software de soporte) para encontrar vulnerabilidades en dos de las tres categorías de vulnerabilidades con las que luchan la mayoría de las organizaciones en sus entornos, dice Inglis, incluidas las vulnerabilidades conocidas pero sin parches y las vulnerabilidades desconocidas pero fácilmente detectables.

Relacionado:Los flujos de trabajo generados por IA son un desastre de seguridad silencioso

«En realidad, no importa si es un modelo Frontier o un modelo Trailing, ellos pueden llevarnos a la tintorería», dice. «Y es por eso que estoy más preocupado por el estado de la defensa que por el desempeño de la ofensiva, porque cualquiera de estos modelos puede sortear la mayoría de las defensas actuales».

Los modelos de inteligencia artificial de frontera sólo son necesarios para encontrar problemas en la tercera área: exploits de día cero que aprovechan vulnerabilidades complejas o cadenas de ataques complicadas, afirma.

Menos sobre el modelo, más sobre integración

En sus pruebas, la empresa de ciberseguridad Semgrep descubrió que GLM 5.2 obtuvo el mejor rendimiento de todos los modelos estándar. con una puntuación F1 del 39%un método común para medir los verdaderos positivos y verdaderos negativos para los LLM y otros sistemas de aprendizaje automático.

El hecho de que una empresa china haya desarrollado el modelo es menos importante que el hecho de que sea ampliamente utilizado, dice Cunningham de Darktrace.

“A menudo es menos importante que un modelo provenga de EE. UU., China o de otro lugar que si los equipos de seguridad pueden integrar de manera significativa la IA en sus operaciones”, afirma. «La mayoría de las organizaciones todavía tienen mucho trabajo por hacer en términos de transparencia, flujos de trabajo, gobernanza y toma de decisiones. Estos factores determinarán la eficacia de la defensa mucho antes de que surjan diferencias menores entre los modelos líderes».