Anthropic abre Mythos AI a ENISA de la UE

La Unión Europea está cerca de obtener acceso a Mythos, el modelo de inteligencia artificial pionero de Anthropic, después de semanas de presionar para su inclusión en el Proyecto Glasswing, una iniciativa estrictamente controlada que brinda a organizaciones selectas acceso al modelo para la investigación de ciberseguridad y detección de vulnerabilidades.

En comentarios a Dark Reading esta semana, el portavoz de Soberanía Tecnológica de la Comisión Europea, Thomas Regnier, confirmó los informes de los medios de que Anthropic había acordado dar a la agencia de ciberseguridad de la UE ENISA acceso a Mythos para la investigación de vulnerabilidades: «Puedo confirmar que la Comisión Europea ha tenido varias reuniones productivas con Anthropic. Damos la bienvenida a los últimos desarrollos sobre un posible acceso futuro».

Como fondo: Vista previa de Claude Mythos es un modelo de IA antrópico cuya capacidad no solo para detectar vulnerabilidades de software sino también para desarrollar de forma independiente cadenas de explotación para ellas ha generado importantes preocupaciones. velocidad y tamaño inigualables. Anthropic ha informado que el modelo ha descubierto miles de vulnerabilidades en software ampliamente utilizado, incluida una vulnerabilidad de 27 años en OpenBSD y una vulnerabilidad de 17 años en FreeBSD. Muchos investigadores Temen que una herramienta como Mythos pueda reducir significativamente la barrera para descubrir y explotar vulnerabilidades de software a escala, permitiendo a actores estatales y no estatales automatizar ciberataques complejos más rápido de lo que la mayoría de las organizaciones pueden parchar o responder.

Relacionado:Mientras las potencias mundiales exploran robots humanoides, se avecinan riesgos cibernéticos

El mito es una cuestión de “sumamente importante” para la UE

Regnier describió el resultado como «el resultado de la fuerte cooperación bilateral y el compromiso de la Comisión con Anthropic» y enfatizó que el acceso a Mythos es «primordial para obtener una imagen clara de los riesgos potenciales» asociados con el descubrimiento y la explotación de vulnerabilidades impulsados ​​por la IA.

Regnier destacó que la preocupación por la Personaje de doble uso El uso de herramientas de IA va mucho más allá de un modelo único. «Mythos no es un caso aislado: una nueva ola de modelos de alto rendimiento está llegando al mercado», afirmó. «Este es un desafío compartido y estamos intensificando nuestras discusiones con socios de ideas afines, incluido Estados Unidos».

En abril, Anthropic anunció que pondría las capacidades de Mythos a disposición de un grupo de empresas rigurosamente examinadas para que pudieran utilizar la tecnología para buscar y parchear vulnerabilidades en sus productos. antes de que los enemigos los encuentren. el llamado Proyecto Ala de Vidrio La iniciativa incluye actualmente a más de 40 organizaciones, incluidas Amazon, Apple, Microsoft, Google, Linux Foundation, JP Morgan Chase, NVIDA y varias otras. Estos incluyen organizaciones que construyen y mantienen infraestructura de software crítica, así como proveedores de software de código abierto. Anthropic ha anunciado que proporcionará a estas organizaciones un crédito de uso de 100 millones de dólares para utilizar Mythos.

Relacionado:El ataque holandés no puede contener al ejército ruso a prueba de balas

ENISA: el primer socio de la UE del Proyecto Glasswing

Si bien la decisión de Anthropic es una victoria para Bruselas (ENISA será la primera empresa de la UE en obtener acceso a Mythos), el acuerdo aún no se ha implementado plenamente. Anthropic y la Comisión Europea todavía están negociando los términos que regirán cómo ENISA interactuará con el modelo de una manera segura y mutuamente aceptable.

ENISA, que tiene una función muy similar a la Agencia de Infraestructura y Ciberseguridad de EE. UU. (CISA), pero tiene un papel menos operativo, será el primer organismo europeo en obtener acceso a Mythos. La Comisión Europea ha descrito esta visibilidad como esencial no sólo para la comprensión específica de Mythos, sino también para construir la capacidad institucional para evaluar la ola de modelos igualmente poderosos que probablemente le seguirán.

«Con el acceso de ENISA a Mythos, ENISA es un socio acreditado y creíble en el esfuerzo general de preparación para el día en que las organizaciones se enfrenten a un aumento masivo de vulnerabilidades que deban abordarse», afirma John Gallagher, vicepresidente de Viakoo. Mythos está o pronto estará en manos de ciberatacantes, por lo que la participación de ciberdefensores como ENISA es crucial, añade: “ENISA aporta a Glasswing su amplio enfoque en infraestructuras críticas y, lo más importante, aporta su trayectoria de coordinación activa de respuestas operativas a amenazas en toda Europa”.

Relacionado:Centrarse en el seguro cibernético: cómo la cuantificación del riesgo está transformando la seguridad

Pero ¿por qué se mantiene a CISA en la ignorancia?

CISA: ¿No hay acceso al mito antrópico?

Gene Moody, director de tecnología (CTO) de campo de Action1, dice que la aparente no participación de CISA en el Proyecto Glasswing, ya sea por elección propia o no, es preocupante.

«Si bien el acceso es intencionalmente limitado, la exclusión de la principal agencia civil de ciberseguridad de Estados Unidos sugiere una creciente divergencia en las prioridades estratégicas», explica. «Los reguladores europeos parecen estar centrados en fortalecer la postura de defensa mediante el uso controlado de la IA, mientras que las señales políticas de Estados Unidos están desdibujando cada vez más la línea entre la razón y la realidad cibernética ofensiva».

Además, advierte que las divergencias corren el riesgo de socavar el estatus de la inteligencia sobre amenazas cibernéticas de Estados Unidos como medida de calidad y confiabilidad: “El acceso reducido a herramientas de defensa de vanguardia, combinado con un cambio en el énfasis de las políticas, puede resultar en que los actores públicos y privados operen con una visibilidad significativamente reducida de las amenazas emergentes”.

Sin embargo, Anthropic no ha publicado la lista completa de organizaciones que forman parte del Proyecto Glasswing. Entonces es posible que CISA sea realmente un participante; Sin embargo, ni Anthropic ni CISA respondieron a una solicitud de aclaración de Dark Reading.