El entusiasmo por la IA está impulsando la demanda de habilidades de ML SecOps

En una señal de la creciente importancia de evaluar los riesgos del lenguaje artificial para los activos de la empresa, las empresas buscan cada vez más candidatos con habilidades en aprendizaje automático y grandes modelos de lenguaje para ocupar puestos de ciberseguridad. En ISACA Informe sobre el estado de la ciberseguridad 2024Casi una cuarta parte de los encuestados (24%) citó LLM SecOps y ML SecOps como las mayores brechas de habilidades que ven en ciberseguridad. Según el 51% de los encuestados, las habilidades sociales (comunicación, flexibilidad y liderazgo) siguen siendo la categoría más grande de habilidades de las que carecen los profesionales de la ciberseguridad.

Fuente: Estado de la Ciberseguridad 2024, ISACA

Se busca: conocimientos de LLM y ML

Tanto LLM SecOps como ML SecOps son capacidades relativamente nuevas, pero al igual que las tecnologías que protegen, ahora parecen estar en todas partes.

MLSecOps es la disciplina que integra la seguridad en el desarrollo y la implementación de sistemas de aprendizaje automático. Incluye procesos específicos de ML, como proteger los datos utilizados para entrenar un modelo y prevenir sesgos a través de la transparencia, así como la aplicación de tareas de operaciones de seguridad estándar, como codificación segura, modelado de amenazas, auditorías de seguridad y respuesta a incidentes a los sistemas de ML.

LLM SecOps se refiere a Asegurar todo el ciclo de vida de los LLMdesde la preparación de datos hasta la respuesta a incidentes. LLM SecOps cubre preocupaciones tan diversas como controles éticos en la fase de diseño, limpieza de datos de entrenamiento, análisis de por qué el sistema tomó las decisiones que tomó durante el entrenamiento, bloqueo de la generación de contenido malicioso y monitoreo del modelo después de la implementación.

Existe una lista cada vez mayor de recursos para que los profesionales de la seguridad desarrollen sus habilidades. Para ML SecOps, Benjamin Kereopa-Yorke, especialista senior en seguridad de la información e investigador de seguridad de IA en el proveedor de telecomunicaciones Telstra, mantiene un Repositorio de GitHub con recursos y formacióncon cursos categorizados según el conocimiento previo de ML requerido y clasificados como independientes del proveedor o centrados en el proveedor. El Proyecto Abierto Mundial de Seguridad de Aplicaciones (OWASP) tiene un borrador Las diez principales seguridades en aprendizaje automático Lista que describe cómo funcionan los ataques de ML, como el envenenamiento de datos o la inferencia de miembros, y cómo contrarrestarlos. OWASP también mantiene el OWASP Top Ten para LLM, que cubre temas relevantes para LLM SecOps, tales como: inyección inmediata, Divulgación de información sensibleY robo de modelos.

Las empresas buscan habilidades específicas para cubrir puestos vacantes en ciberseguridad. Después de las habilidades sociales, la computación en la nube fue la segunda brecha de habilidades más grande (42%), seguida de la implementación de controles de seguridad (35%) y el desarrollo de software (28%).

Dado que gran parte de la carga de trabajo de la empresa reside ahora en la nube, tiene sentido que las empresas necesiten expertos en ciberseguridad con habilidades de computación en la nube. Proteger los recursos de la nube requiere una mentalidad y habilidades técnicas diferentes a las de las redes tradicionales, y los proveedores de la nube manejan ciertas tareas de manera diferente y requieren conocimientos especializados.

La implementación de controles de seguridad se refiere a proteger puntos finales, redes y aplicaciones. La brecha de habilidades en el desarrollo de software no se refería a la codificación, sino a cosas como las pruebas y la implementación. Esto pone de relieve aún más los desafíos que enfrentan las empresas para asegurar sus procesos e integraciones de desarrollo de software.