Cómo los CISO pueden liderar el impulso responsable de la IA

COMENTARIO

Nadie quiere perderse la ola de la inteligencia artificial (IA), pero el “miedo a perderse algo” está haciendo que los ejecutivos se suban a un tren que ya avanza rápidamente y en el que los riesgos pueden superar los beneficios. Una encuesta de PwC ha puesto de relieve una cruda realidad: el 40% de los ejecutivos globales no comprenden los riesgos cibernéticos de la IA generativa (GenAI), a pesar de su entusiasmo por la nueva tecnología. Esta es una señal de alerta que podría exponer a las empresas a riesgos de seguridad debido a una adopción negligente de la IA. Esta es precisamente la razón por la que un Director de Seguridad de la Información (CISO) debería liderar la evaluación, implementación y gobernanza de la tecnología de IA. Los CISO comprenden los escenarios de riesgo que pueden ayudar a crear salvaguardas para que todos puedan utilizar la tecnología de forma segura y centrarse más en las promesas y oportunidades de la IA.

El viaje de la IA comienza con un CISO

Iniciar el viaje de la IA puede resultar desalentador sin directrices claras, y muchas empresas no están seguras de qué ejecutivo de nivel C debería liderar la estrategia de IA. Aunque establecer un director de IA (CAIO) dedicado es un enfoque, el problema fundamental sigue siendo que la integración de nuevas tecnologías está fundamentalmente vinculada a aspectos de seguridad.

El auge de la IA está poniendo la experiencia en seguridad a la vanguardia para la seguridad y el cumplimiento en toda la empresa. Los CISO son fundamentales para navegar en el complejo panorama de la IA entre nuevas regulaciones y mandatos para garantizar la privacidad, la seguridad y la gestión de riesgos. Como primer paso en el camino hacia la IA de una organización, los CISO son responsables de implementar un enfoque de IA centrado en la seguridad y establecer una estrategia de gestión de riesgos adecuada utilizando políticas y herramientas. Esta estrategia debe incluir:

Relacionado:Confidencial de lectura oscura: arrestos por prueba de penetración, 5 años después

Determinar el riesgo aceptable

Aunque la IA es prometedora para las empresas, la implementación rápida y sin restricciones de GenAI puede generar problemas como la proliferación de productos y la mala gestión de datos. Para evitar el riesgo asociado con estos problemas, los esfuerzos de adopción de IA de la empresa deben estar alineados.

En última instancia, los CISO, junto con otros líderes, como los directores de tecnología, establecen la agenda de seguridad para cerrar las brechas de conocimiento y garantizar que toda la organización esté alineada con la estrategia para gestionar la gobernanza, el riesgo y el cumplimiento. Los CISO son responsables de todo el espectro de la adopción de la IA, desde asegurar el uso de la IA (es decir, que los empleados utilicen ChatGPT) hasta el desarrollo de soluciones de IA. Para ayudar a determinar los riesgos aceptables para su organización, los CISO pueden crear un consorcio de IA con partes interesadas clave que trabaje de manera interdisciplinaria para descubrir riesgos asociados con el desarrollo o uso de funciones GenAI, establecer tolerancias de riesgo aceptables y actuar como un brazo de cumplimiento común para mantener controles adecuados sobre la difusión del uso de la IA.

Relacionado:El poder de la billetera: cómo garantizar la seguridad a través del diseño

Supongamos que la organización se centra en asegurar el consumo de IA. En este caso, el CISO debe determinar cómo los empleados pueden y no pueden utilizar la tecnología. Esto se puede incluir en la lista blanca, en la lista negra o administrar con más detalle con productos como Harmonic Security, que permiten la adopción con gestión de riesgos de la tecnología GenAI entregada por SaaS. Por otro lado, si la empresa está desarrollando soluciones de inteligencia artificial, los CISO deben desarrollar un marco sobre cómo funciona la tecnología. En cualquier caso, los CISO deben estar al tanto de los desarrollos de la IA para identificar los riesgos potenciales y equipar los proyectos con los recursos y expertos adecuados para una adopción responsable.

Relacionado:Los incidentes de seguridad de código abierto no van a desaparecer

Asegure su base de seguridad

Debido a que los CISO tienen experiencia en seguridad, pueden implementar una base de seguridad sólida para la adopción de la IA que gestione proactivamente el riesgo y establezca las barreras adecuadas para prevenir fallas causadas por amenazas cibernéticas. Los CISO unen la colaboración de los equipos de información y ciberseguridad con las unidades de negocio para mantenerse al tanto de las amenazas, los estándares de la industria y las regulaciones como Ley de IA de la UE.

En otras palabras, los CISO y sus equipos de seguridad establecen barreras de seguridad integrales, desde la gestión de activos hasta soluciones sólidas. Técnicas de cifradoser la columna vertebral de una integración segura de la IA. Protegen la propiedad intelectual, los datos internos y de los clientes y otros activos importantes. Además, garantiza una amplia gama de monitoreo de seguridad, desde estrictos controles de seguridad del personal hasta capacitación continua y sólidas técnicas de cifrado, para responder de manera rápida y efectiva a posibles incidentes de seguridad.

A medida que la IA se generaliza, es importante permanecer atentos a la evolución del panorama de seguridad. Al integrar perfectamente la seguridad en cada paso del ciclo de vida de la IA, las empresas pueden abordar de forma proactiva el uso cada vez mayor de GenAI Ingeniería social Ataques que dificultan la distinción entre contenido genuino y malicioso. Además, los actores maliciosos utilizan GenAI para crear vulnerabilidades y acelerar el descubrimiento de vulnerabilidades de defensa. Para abordar estos desafíos, los CISO deben proceder con diligencia, continuar invirtiendo en controles preventivos e investigativos y considerar nuevas formas de aumentar la conciencia de la fuerza laboral.

Pensamientos finales

La IA afectará a todas las funciones empresariales, incluso de maneras que aún son imprevisibles. Como puente entre los esfuerzos de seguridad y los objetivos comerciales, los CISO actúan como guardianes del control de calidad y el uso responsable de la IA en toda la organización. Pueden formular las bases necesarias para integraciones de seguridad que eviten errores en la adopción de la IA y permitan a las empresas aprovechar todo el potencial de la IA para lograr resultados comerciales mejores y más informados.