MITRE lanza iniciativa para compartir incidentes de IA

El Centro de Defensa Informada contra Amenazas de MITRE anunció esta semana el lanzamiento de la iniciativa AI Incident Sharing, una colaboración con más de 15 empresas para ampliar el conocimiento de la comunidad al respecto. Amenazas y defensas para sistemas impulsados ​​por IA.

La iniciativa para compartir incidentes cae dentro del ámbito del proyecto Secure AI del Centro y tiene como objetivo permitir una colaboración rápida y segura en amenazas, ataques y accidentes que involucren sistemas habilitados para AI. Amplía el alcance de la Base de conocimiento de la comunidad MITRE ATLASque lleva dos años recopilando y caracterizando datos sobre incidentes anonimizados. Como parte de esta iniciativa, una comunidad de empleados recibe datos protegidos y anónimos sobre incidentes de IA del mundo real.

Las incidencias se pueden enviar a través de Web (en https://ai-incidents.mitre.org/) de cualquiera. Las organizaciones solicitantes serán consideradas como miembros con el objetivo de permitir la inteligencia y el análisis de riesgos basados ​​en datos a escala.

Secure AI también amplió el marco de amenazas de ATLAS para incluir información sobre el panorama de amenazas de los sistemas impulsados ​​por IA generativa y agregó varios estudios de casos nuevos y técnicas de ataque centrados en la IA generativa, así como nuevos métodos para mitigar los ataques a estos sistemas. En noviembre de 2023, MITRE, en colaboración con Microsoft, lanzó actualizaciones de la base de conocimientos ATLAS centrándose en la IA generativa.

«El intercambio rápido y estandarizado de información sobre incidentes permitirá a toda la comunidad mejorar la defensa colectiva de dichos sistemas y mitigar el daño externo», dijo Douglas Robbins, vicepresidente de MITRE Labs, en un opinión.

MITRE opera una asociación público-privada similar para compartir información con la base de datos de Análisis e Intercambio de Información de Seguridad de la Aviación para compartir datos e información de seguridad para detectar y prevenir peligros de la aviación.

Los empleados de Secure AI abarcan todas las industrias, incluidos representantes de servicios financieros, tecnología y atención médica. La lista incluye AttackIQ, BlueRock, booz Allen Hamilton, CATO Networks, Citigroup, Cloud Security Alliance, CrowdStrike, FS-ISAC, Fujitsu, HCA Healthcare, HiddenLayer, Intel, JPMorgan Chase Bank, Microsoft, Standard Chartered y Verizon Business.