Apunta a la IA de la sombra

Los equipos de seguridad se enfrentan a una nueva pesadilla esta temporada de Halloween: el auge de la inteligencia artificial generativa (IA). Las herramientas de IA generativa han marcado el comienzo de una nueva era de terror para los directores de seguridad de la información (CISO), desde la creación de deepfakes que son casi indistinguibles de la realidad hasta la elaboración de sofisticados correos electrónicos de phishing que parecen sorprendentemente auténticos para acceder a credenciales y robar identidades. El espectáculo de terror generativo de IA va más allá de la gestión de identidades y accesos y ofrece vectores de ataque que van desde métodos más inteligentes para infiltrarse en el código hasta exponer datos confidenciales de propiedad privada.

Según una encuesta de The Conference Board, esto es el 56% de los empleados. Usando IA generativa en el trabajo, pero solo el 26% dice que su organización tiene una política de IA generativa. Si bien muchas empresas están intentando imponer restricciones al uso de la IA generativa en el lugar de trabajo, la antigua búsqueda de productividad da como resultado que un porcentaje alarmante de empleados utilice la IA sin la bendición de TI ni sin pensar en el impacto potencial. Por ejemplo, después de que algunos empleados ingresaron información confidencial de la empresa en ChatGPT, Samsung prohibió el uso de ChatGPT, así como el uso de herramientas de inteligencia artificial similares.

La TI en la sombra, donde los empleados utilizan herramientas de TI no autorizadas, ha prevalecido en el lugar de trabajo durante décadas. Ahora que la IA generativa está evolucionando tan rápidamente que los CISO no pueden entender completamente contra qué están luchando, está surgiendo un nuevo fenómeno aterrador: la IA en la sombra.

De la TI en la sombra a la IA en la sombra

Existe una tensión fundamental entre los equipos de TI que quieren controlar las aplicaciones y acceder a datos confidenciales para proteger el negocio, y los empleados que siempre buscan herramientas que les ayuden a realizar más trabajo y más rápido. Aunque innumerables soluciones en el mercado apuntan a la TI en la sombra al dificultar que los trabajadores accedan a herramientas y plataformas no autorizadas, más de tres de cada 10 empleados informaron esto. Usar herramientas de comunicación y colaboración no autorizadas. el año pasado.

Si bien las intenciones de la mayoría de los empleados son correctas (hacer más cosas), los costos pueden ser sorprendentemente altos. Se estima que un tercio lo consigue Los ciberataques provienen de la TI en la sombra y puede costar millones. Además, el 91% de los profesionales de TI están de acuerdo Presión para comprometer la seguridad para acelerar las operaciones comerciales, y al 83% de los equipos de TI les resulta imposible hacer cumplir las políticas de ciberseguridad.

La IA generativa puede añadir otra dimensión aterradora a este dilema cuando las herramientas recopilan datos corporativos confidenciales, cuya divulgación podría dañar la reputación de la empresa.

Además de Samsung, muchos empresarios también son conscientes de estas amenazas Restringir el acceso a una potente IA generativa Herramientas. Al mismo tiempo, los empleados escuchan repetidamente que sin el uso de IA se quedarán atrás. Sin soluciones que les ayuden a mantenerse a la vanguardia, los empleados hacen lo que siempre harán: tomar el asunto en sus propias manos y utilizar las soluciones que tienen para ofrecer, con o sin permiso de TI. Por lo tanto, no sorprende que el Conference Board haya descubierto que más de la mitad de los empleados ya están utilizando IA generativa en el lugar de trabajo, esté permitida o no.

Realizando un exorcismo de IA en la sombra

Para las organizaciones que se enfrentan a una IA en la sombra generalizada, lidiar con este interminable desfile de amenazas podría ser como intentar sobrevivir a un episodio de The Walking Dead. Y con la llegada constante al mercado de nuevas plataformas de IA, puede resultar difícil para los departamentos de TI saber por dónde empezar.

Afortunadamente, existen estrategias comprobadas que los líderes de TI y los CISO pueden implementar para erradicar las herramientas de IA generativa no autorizadas y disuadirlas antes de que comiencen a hacerse cargo de sus empresas.

• Permitid que los espíritus amistosos. Las empresas pueden beneficiarse proporcionando de forma proactiva a sus empleados herramientas útiles de IA que les ayuden a ser más productivos, pero que también pueden auditarse, implementarse y gestionarse como parte del gobierno de TI. Al proporcionar herramientas seguras de IA generativa y establecer pautas para el tipo de datos cargados, las empresas muestran a los empleados que la empresa está comprometida con su éxito. Esto crea una cultura de apoyo y transparencia que puede conducir a una mayor seguridad a largo plazo y una mayor productividad.
• Pon el foco en los demonios. Muchos empleados simplemente no comprenden que el uso de la IA generativa puede exponer a su empresa a un enorme riesgo financiero. Es posible que algunos no comprendan claramente las consecuencias de no seguir las reglas o que no se sientan responsables de seguirlas. alarmante, Expertos en seguridad son más propensos que otros trabajadores (37 % frente a 25 %) a decir que siguen las políticas de su empresa a la hora de resolver sus problemas de TI. Es importante involucrar a toda la fuerza laboral, desde el director ejecutivo hasta los trabajadores de primera línea, en capacitación periódica sobre los riesgos asociados y su propio papel en la prevención, al mismo tiempo que se hacen cumplir las violaciones con criterio.
• Reagrupa a tus cazadores de fantasmas. Los CISO harían bien en reevaluar las capacidades existentes de gestión de identidades y accesos para garantizar que puedan monitorear soluciones de inteligencia artificial no autorizadas y desplegar rápidamente sus mejores equipos cuando sea necesario.

La IA en la sombra está acechando a las empresas y es importante defenderlas. La planificación inteligente, la supervisión cuidadosa, la comunicación proactiva y las herramientas de seguridad actualizadas pueden ayudar a las empresas a estar un paso por delante de las posibles amenazas. Esto les ayudará a darse cuenta del valor empresarial transformador de la IA generativa sin ser víctimas de las vulnerabilidades de seguridad que seguirá generando.