Google presenta Secure AI Framework para respaldar la seguridad de la tecnología de IA

Google ha anunciado el lanzamiento de Secure AI Framework (SAIF), un marco conceptual para proteger los sistemas de IA. Google, propietario del chatbot generativo de IA Bard y empresa matriz del laboratorio de investigación de IA DeepMind, dijo que un marco en los sectores público y privado es esencial para garantizar que los actores responsables protejan la tecnología que respalda los avances de IA para que al implementar modelos de IA sean seguros por defecto. . Su nuevo marco es un paso importante en esa dirección, afirmó el gigante tecnológico.

El SAIF tiene como objetivo ayudar a mitigar los riesgos específicos de los sistemas de IA, como el robo de modelos, el envenenamiento de los datos de entrenamiento, la entrada maliciosa a través de la inyección instantánea y la extracción de información confidencial en los datos de entrenamiento. “A medida que las capacidades de IA se integran cada vez más en los productos de todo el mundo, adherirse a un marco audaz y responsable se vuelve aún más importante”. Google escribió en un blog..

El lanzamiento llega en un momento en el que el avance de la IA generativa y su impacto en la ciberseguridad continúan acaparando los titulares y la atención de organizaciones y gobiernos. Las preocupaciones sobre los riesgos que estas nuevas tecnologías podrían plantear van desde los problemas potenciales de Divulgación de información comercial confidencial con algoritmos avanzados de autoaprendizaje para los actores maliciosos que los utilizan Aumenta significativamente los ataques.

El Open Worldwide Application Security Project (OWASP) publicó recientemente el Las 10 vulnerabilidades más críticas Esto se puede ver en las aplicaciones de modelo de lenguaje grande (LLM) en las que se basan muchas interfaces de chat de IA generativas e ilustra su impacto potencial, facilidad de explotación y proliferación. Los ejemplos de vulnerabilidades incluyen inyecciones instantáneas, fugas de datos, sandboxing deficiente y ejecución de código no autorizado.

El SAIF de Google se basa en seis principios de seguridad de IA

SAIF de Google se basa en su experiencia en el desarrollo de modelos de ciberseguridad, como el marco colaborativo de niveles de cadena de suministro para artefactos de software (SLSA) y BeyondCorp, su arquitectura Zero Trust utilizada por muchas organizaciones. Se basa en seis elementos básicos, dijo Google. Estos son:

• Enriquezca el ecosistema de IA con sólidas bases de seguridad, incluido el aprovechamiento de las protecciones de infraestructura segura de forma predeterminada.
• Amplíe la detección y la respuesta para integrar la IA en el universo de amenazas de una organización al monitorear las entradas y salidas de los sistemas de IA generativos para detectar anomalías y usar la inteligencia de amenazas para anticipar ataques.
• Automatice las contramedidas para seguir el ritmo de las amenazas existentes y emergentes y mejore el alcance y la velocidad de los esfuerzos de respuesta a incidentes de seguridad.
• Armonice los controles a nivel de plataforma para garantizar una seguridad constante, incluida la extensión de protecciones seguras listas para usar a plataformas de IA como Vertex AI y Security AI Workbench, y la integración de controles y protecciones en el ciclo de vida de desarrollo de software.
• Ajuste los controles para personalizar las acciones de remediación y cree bucles de retroalimentación más rápidos para las implementaciones de IA utilizando técnicas como el aprendizaje de refuerzo basado en incidentes y comentarios de los usuarios.
• Contextualice los riesgos del sistema de IA en los procesos comerciales circundantes, incluidas las evaluaciones de riesgos comerciales de extremo a extremo, como el linaje de datos, la validación y el monitoreo del comportamiento operativo para tipos específicos de aplicaciones.

Google ampliará los programas de recompensas por errores e incentivará la investigación sobre la seguridad de la IA

Google ha esbozado los pasos que tomará y tomará para desarrollar aún más el marco. Esto incluye impulsar el apoyo de la industria para SAIF mediante el anuncio de socios y contribuyentes clave en los próximos meses, así como el compromiso continuo de la industria para ayudar con el desarrollo. Marco de gestión de riesgos de IA del NIST Y Norma del sistema de gestión de IA ISO/IEC 42001 (el primer estándar de certificación de IA de la industria). También trabajará directamente con organizaciones, incluidos clientes y gobiernos, para ayudarlos a comprender cómo evaluar y mitigar los riesgos de seguridad de la IA. «Esto incluye realizar talleres con profesionales y continuar publicando las mejores prácticas para el uso seguro de los sistemas de IA», dijo Google.