Haga las preguntas de seguridad adecuadas
Los desafíos de seguridad de los agentes surgen de la mentalidad, no de la tecnología. Por lo tanto, resolverlos requiere un cambio fundamental en la forma en que las empresas piensan sobre el control.
Si bien los sistemas de agentes pueden ahorrar tiempo a las empresas en múltiples operaciones, desde ciberseguridad y desarrollo de software hasta atención al cliente, Los agentes también conllevan riesgos importantes. a la organización. Estos sistemas requieren niveles alarmantemente altos de acceso a información confidencial, así como el uso de herramientas externas para completar tareas con poca o ninguna supervisión humana. Representan otra superficie de ataque para los actores de amenazas.
Las empresas pueden utilizar el acceso y otros controles técnicos para monitorear el comportamiento de los agentes, pero la seguridad general de los agentes sigue siendo sensible. «La seguridad de los agentes no es difícil porque sea nueva; es difícil porque viola los supuestos sobre los cuales se construyeron los modelos de seguridad hace 40 años, cuando surgió la industria», dice Ben Hanson, CTO de campo global y director de ingeniería de campo de Zenity. La seguridad depende de la previsibilidad para detectar amenazas y determinar cómo responder en función de la inteligencia de amenazas previa. Y los agentes son impredecibles debido a su capacidad para adaptarse a la situación y tomar decisiones sobre la marcha.
Para superar el desafío, hay que reconocer que la solución es una combinación de tecnología, procesos y personas. La ciberseguridad nunca ha consistido en centrarse únicamente en la tecnología, y el mismo principio se aplica a los sistemas de agentes, afirma Hanson. Los factores humanos que dan forma al entorno tecnológico también son importantes.
«Ella [customers] «Eso me confundió porque en Internet se supone que si tienes los widgets adecuados puedes ser eficaz, y eso simplemente no es cierto», le dice Hanson a Dark Reading.
No se puede predecir lo que es impredecible.
Las empresas suelen pensar que si abordan el problema en partes técnicas, pueden resolverlo de principio a fin. eso simplemente no es ciertoadvierte. Esta es una lucha común que ha visto entre los clientes de Zenity. es la base de su presentación Black Hat USA el próximo mes en Las Vegas.
La industria depende de la previsibilidad para mitigar las amenazas. La inteligencia de amenazas rastrea y documenta tácticas, técnicas y procedimientos. Los investigadores destacan indicadores de ataque que indican que los radares de las organizaciones se han visto comprometidos. Los equipos de seguridad se basan en los comportamientos esperados y las bases del sistema para detectar actividades sospechosas y generar alertas. La inteligencia artificial (IA) está cambiando esto y las conversaciones sobre la seguridad de los agentes deben reflejar este cambio.
«¿Qué sucede cuando no puedes predecir hacia dónde quieres apuntar un control?» pregunta Hanson. «¿Qué sucede si configura el modo de falla correctamente, pero el agente se adapta y ahora se desempeña fuera de sus expectativas?»
Es importante centrarse en la idea de agencia porque, en términos generales, los agentes y la IA funcionan de tal manera que los usuarios no siempre pueden predecir cómo se comportarán, señala. Y el enfoque miope de la industria de la seguridad hacia la agencia es «peligroso» porque las suposiciones subyacentes son erróneas y podrían conducir a resultados inesperados, dice Hanson.
En cambio, los profesionales de la seguridad deberían centrarse en ocho conceptos más amplios: confianza, contexto, intención, comportamiento, autoridad, control, límites y riesgo. Éstas son formas más realistas de abordar la imprevisibilidad. Si los equipos de seguridad no consideran todos estos factores en su planificación, los agentes pueden volverse desleales.
Mantenga las preguntas fluyendo
El incidente de PocketOS donde un Agente de codificación del cursor eliminado Un buen ejemplo es toda la base de datos de producción de la empresa, incluidas las codiciadas copias de seguridad. El error ilustró la diferencia entre puede contra deberíaLo que las empresas deberían considerar cuando se trata de cómo trabajan los agentes.
Hanson atribuye el incidente al hecho de que el control depende de la autoridad.
«Debido a que el control dependía de la autoridad, si el agente encontraba algo, en este caso un token, podía realizar un borrado de la base de datos; no había otros controles que se interpusieran en el camino», explica. «Estas son dimensiones de elección separadas y deben gestionarse por separado».
Las empresas no pueden simplemente pasar sus tarjetas de crédito para resolver la seguridad de los agentes. En lugar de ello, Hanson los insta a construir sistemas que sean estructuralmente capaces de gestionar la agencia, y no simplemente tratar de ajustarse a malos comportamientos conocidos, ya que esta lista se vuelve cada vez más impredecible. Las organizaciones también intentan aplicar el principio de mínima discreción sin definir qué es necesario para regirlo.
Iniciar más conversaciones, debates e incluso discusiones sobre la seguridad de los agentes es en realidad un buen punto de partida. Las empresas pueden crear programas de agentes en torno a widgets, pero esto debe ir acompañado de preguntas para abordar la falta de pensamiento sistémico en la industria en general, insta Hanson.
Las preguntas a considerar incluyen: ¿Cómo piensan las organizaciones acerca de hacer cumplir consistentemente la confianza como una característica del sistema? ¿Qué opina de los mecanismos de control consistentes? Preguntas como estas son importantes porque las organizaciones a menudo hacen preguntas equivocadas.
En lugar de preguntar qué control falló, recomienda preguntar qué estructura de ese sistema permitió que ocurriera el comportamiento y luego arreglarlo. Las condiciones estructurales son la causa; Los fallos de control tienen consecuencias, añade.
Los equipos de herramientas trabajan de forma aislada y abordan el problema de diferentes maneras, lo que significa que las conversaciones son aún más importantes.
«Hay muchos controles técnicos, pero ¿cómo nos aseguramos de que el agente persiga los objetivos correctos?» pregunta Hanson. «Aplicarlo en toda la arquitectura, no sólo en un momento determinado. Incluso dar un paso atrás y hacer esa pregunta es algo que la gente no hace».
Este contenido de ciberseguridad nos ha llegado de: DarkReading
Puedes encontrar la noticia original en el enlace que se encuentra a continuación: https://www.darkreading.com/cybersecurity-operations/agentic-ai-untamable-ask-the-right-security-questions
