Preste atención a cómo la IA utiliza sus datos

Las empresas utilizan cada vez más la IA generativa para automatizar los procesos de TI, detectar amenazas a la seguridad y proporcionar funciones de atención al cliente de primera línea. A Encuesta de IBM en 2023 descubrió que el 42% de las grandes empresas utilizan activamente la IA y otro 40% está investigando o experimentando con la IA.

En la inevitable intersección entre la IA y la nube, las empresas deben pensar en cómo proteger las herramientas de IA en la nube. Una persona que ha pensado mucho en esto es Chris Betz, quien se convirtió en CISO de Amazon Web Services en agosto pasado.

Antes de AWS, Betz fue vicepresidente ejecutivo y CISO de Capital One. Betz también trabajó como vicepresidente senior y director de seguridad en Lumen Technologies y en funciones de seguridad en Apple, Microsoft y CBS.

Dark Reading habló recientemente con Betz sobre esto Seguridad de las cargas de trabajo de IA en la nube. A continuación se muestra una versión editada de esta conversación.

Lectura oscura: ¿Cuáles son algunos de los principales desafíos para proteger las cargas de trabajo de IA en la nube?

Chris Betz: Cuando hablo con muchos de nuestros clientes sobre la IA generativa, esas conversaciones a menudo comienzan con: “Tengo datos realmente confidenciales y quiero brindarles una oportunidad a mis clientes. ¿Cómo hago esto de manera segura?” Realmente valoro esta conversación porque es muy importante que nuestros clientes se mantengan enfocados en el resultado que desean lograr.

Lectura oscura: ¿Qué es lo que más preocupa a los clientes?

Betz: La conversación debe comenzar con el concepto de que «tus datos son tus datos». Tenemos la gran ventaja de que puedo aprovechar una infraestructura de TI que hace un trabajo realmente bueno y mantiene los datos donde están. Entonces, mi primer consejo es: comprenda dónde se encuentran sus datos. ¿Cómo se protege? ¿Cómo se utiliza en el modelo de IA generativa?

Lo segundo de lo que hablamos es que las interacciones con un modelo de IA generativa a menudo implican el uso de algunos de los datos más confidenciales de sus clientes. Cuando consulta un modelo de IA generativa sobre una transacción específica, utiliza información sobre las personas involucradas en esa transacción.

Lectura oscura: ¿Están preocupadas las empresas por lo que la IA está haciendo con los datos internos de la empresa y los datos de los clientes?

Betz: La mayoría de los clientes quieren utilizar la IA generativa en sus interacciones con sus clientes y para evaluar y aprovechar las grandes cantidades de datos que tienen internamente y utilizarlos ya sea para los empleados internos o para sus clientes. Es muy importante que las empresas gestionen de forma segura estos datos increíblemente confidenciales porque son el alma de su negocio.

Las empresas deben pensar dónde están sus datos y cómo se protegen cuando dan indicaciones a la IA y cuando reciben respuestas.

Lectura oscura: ¿Están relacionadas la calidad de las respuestas y la seguridad de los datos?

Betz: Los usuarios de IA siempre deben pensar si obtienen respuestas de calidad. La razón de la seguridad es que la gente confía en sus sistemas informáticos. Cuando se crea este complejo sistema que utiliza un modelo de IA generativa para entregar algo al cliente, el cliente debe confiar en que la IA le brinda la información correcta para actuar y que está protegiendo su información.

Lectura oscura: ¿Existen formas específicas en que AWS pueda informarnos sobre cómo protege contra ataques a la IA en la nube? Estoy pensando en inyecciones instantáneas, ataques con veneno, ataques enemigos, ese tipo de cosas.

Betz: Dado que llevamos años trabajando con IA, AWS estaba bien preparado para el desafío, ya que ya teníamos una base sólida. Contamos con una gran cantidad de soluciones internas de IA y una gama de servicios que ofrecemos directamente a nuestros clientes, y la seguridad ha sido una consideración importante en el desarrollo de estas soluciones. Es lo que nuestros clientes piden y esperan.

Como uno de los proveedores de nube más grandes, tenemos una visión integral de las necesidades de seguridad en evolución en todo el mundo. La inteligencia sobre amenazas que recopilamos se agrega y se utiliza para desarrollar conocimientos prácticos que se utilizan en herramientas y servicios para los clientes, como por ejemplo: guardia. Además, nuestra inteligencia sobre amenazas se utiliza para generar medidas de seguridad automatizadas en nombre de los clientes para proteger sus datos.

Lectura oscura: hemos escuchado mucho sobre los proveedores de ciberseguridad que utilizan inteligencia artificial y aprendizaje automático para detectar amenazas buscando comportamientos inusuales en sus sistemas. ¿De qué otras maneras las empresas utilizan la IA para protegerse?

Betz: He visto a clientes hacer cosas asombrosas con la IA generativa. Hemos visto cómo usan CodeWhisperer. [AWS’ AI-powered code generator] para crear rápidamente prototipos y desarrollar tecnologías. He visto equipos usar CodeWhisperer para ayudarlos. Crear código seguro y asegurarnos de cerrar los huecos en el código.

También hemos desarrollado soluciones de IA generativa que interactúan con algunos de nuestros sistemas de seguridad internos. Como puedes imaginar, muchos equipos de seguridad trabajan con cantidades masivas de información. La IA generativa permite la síntesis de estos datos para que tanto los desarrolladores como los equipos de seguridad puedan utilizarlos muy bien para comprender lo que sucede en los sistemas, hacer mejores preguntas y reunir estos datos.

Cuando comencé a pensar en ello Escasez de habilidades en ciberseguridadHoy en día, la IA generativa no sólo ayuda a aumentar la velocidad del desarrollo de software y mejorar la codificación segura, sino que también ayuda a agregar datos. Seguirá ayudándonos porque fortalece nuestras capacidades humanas. La IA nos ayuda a reunir información para resolver problemas complejos y ayuda a que los datos estén disponibles para los ingenieros y analistas de seguridad para que puedan hacer mejores preguntas.

Lectura oscura: ¿Ves alguna amenaza de seguridad específica de la IA y la nube?

Betz: He pasado mucho tiempo con investigadores de seguridad analizando los ataques de IA generativos de vanguardia y la perspectiva del atacante. Hay dos clases de cosas en las que pienso en esta área. La primera clase es que los actores maliciosos comienzan a utilizar la IA generativa para ser más rápidos y mejores en lo que ya hacen. Un ejemplo de esto es el contenido de ingeniería social.

Los atacantes también utilizan tecnología de inteligencia artificial para escribir código más rápido. Esto es muy similar a la situación de la defensa. Parte del poder de esta tecnología es que facilita una serie de actividades, y eso se aplica tanto a los atacantes como a los defensores.

La otra área que creo que los investigadores están analizando más es el hecho de que estos modelos generativos de IA son código. Al igual que otros códigos, son susceptibles a vulnerabilidades. Es importante que comprendamos cómo protegerlos y asegurarnos de que existan en un entorno con mecanismos de defensa.