Nuevos desafíos de IA pondrán a prueba a los CISO y sus equipos en 2025

COMENTARIO

Los equipos de seguridad siempre han tenido que adaptarse al cambio, pero los nuevos desarrollos que tendrán impacto durante el próximo año podrían hacer que 2025 sea particularmente desafiante. El ritmo cada vez más acelerado de la innovación en IA, las amenazas cibernéticas cada vez más sofisticadas y los nuevos mandatos regulatorios requieren que los directores de seguridad de la información (CISO) naveguen en un panorama más complejo.

Los proveedores están agregando rápidamente funciones habilitadas para IA a los productos existentes, y los modelos de lenguaje grande (LLM) fundamentales que utilizan representan una nueva superficie de ataque que los actores maliciosos están tratando de explotar. Los CISO deben comprender su exposición a estas amenazas como mitigarlos.

Al mismo tiempo es panorama regulatorio dinámico de ciberseguridadespecialmente en regiones como la unión Europea Y Californiaexige una mayor colaboración entre los equipos legales y de seguridad para garantizar el cumplimiento y mitigar el riesgo. Esta convergencia de nuevas tecnologías y leyes significa que los CISO deben lograr un equilibrio Requisitos de cumplimiento a nivel de junta con nuevos desafíos de seguridad para proteger sus organizaciones.

A pesar de los posibles desafíos de seguridad que plantea la IA generativa (GenAI), también ofrece oportunidades para mejorar la seguridad de los procesos de desarrollo de software. Al identificar vulnerabilidades de forma proactiva y permitir una mayor automatización, la IA ayudará a cerrar la brecha entre los desarrolladores y los equipos de seguridad.

A continuación se presentan tres tendencias que dominarán el panorama de la seguridad empresarial en 2025.

Tendencias a tener en cuenta en 2025

1. Las vulnerabilidades en los LLM propietarios abren la posibilidad de incidentes de seguridad generalizados

Los proveedores de software se apresuran a agregar funciones habilitadas para IA a sus productos, a menudo utilizando LLM fundamentales patentados. A medida que los atacantes comienzan a encontrar vulnerabilidades en estos modelos, abren un nuevo vector de ataque con consecuencias potencialmente de gran alcance. La consolidación de la industria aumenta el riesgo.

Los modelos propietarios revelan poca información sobre sus orígenes o barreras de seguridad internas, lo que los hace mucho más difíciles de entender y gestionar para los profesionales de la seguridad. Esto permite a los atacantes incorporar malware o explotar superficies de ataque menos conocidas en el área funcional de un modelo.

Debido a que la industria depende en gran medida de algunos LLM propietarios, estos ataques podrían tener un impacto en cascada en todo el ecosistema de software, lo que podría provocar interrupciones o impactos generalizados.

2. La IA y las cargas de trabajo nativas de la nube aumentarán la demanda de una gestión de identidades altamente adaptable

El crecimiento de las aplicaciones de inteligencia artificial y nativas de la nube plantea nuevos desafíos para los sistemas de gestión de identidades. Este año, el control de acceso debe volverse más adaptable para adaptarse al aumento de identidades basadas en servicios no humanos.

Los sistemas de gestión de identidades y permisos ya han evolucionado desde su estado tradicional y estático a un marco más efímero y adaptable, lo que refleja la agilidad necesaria para las interacciones digitales modernas. Esta necesidad será aún mayor el próximo año.

Las aplicaciones impulsadas por IA en particular requieren una comprensión sólida de las identidades transitivas. Estas aplicaciones requieren sistemas que permitan un acceso seguro y eficiente, incluso cuando las funciones y los requisitos continúan evolucionando.

3. La IA ayudará a escalar la seguridad dentro de DevOps

En una encuesta recienteEl 58% de los desarrolladores dijeron que sienten algún nivel de responsabilidad por la seguridad de las aplicaciones. Sin embargo, la demanda de profesionales de DevOps calificados en seguridad aún supera la oferta.

La IA democratizará aún más la experiencia en seguridad dentro de los equipos de DevOps al automatizar tareas rutinarias, brindar recomendaciones de codificación inteligentes y cerrar aún más la brecha de habilidades. La seguridad está integrada en todo el proceso de construcción, lo que permite identificar vulnerabilidades potenciales temprano en la fase de diseño mediante el uso de plantillas de seguridad reutilizables que se pueden integrar en los flujos de trabajo de los desarrolladores.

La autenticación y la autorización también se mejoran con la IA que asigna automáticamente roles y permisos cuando los servicios se implementan en entornos de nube.

El resultado final serán mejores resultados de seguridad, menores riesgos y una mejor colaboración entre los desarrolladores y sus colegas de seguridad.

Uso de soluciones respaldadas por IA para proteger el panorama de amenazas

A medida que el panorama tecnológico evoluciona y las amenazas cibernéticas se vuelven más sofisticadas, los CISO deben reconocer las nuevas amenazas que la IA puede plantear y al mismo tiempo aprovechar las soluciones impulsadas por la IA para mantenerse a la vanguardia.

Al utilizar la IA para automatizar tareas de seguridad, identificar vulnerabilidades y responder a amenazas en tiempo real, las organizaciones pueden fortalecer su postura de seguridad y mantenerse a la vanguardia del panorama de amenazas en rápida evolución.