Por qué ChatGPT no es una sentencia de muerte para los ciberdefensores

ChatGPT ha conquistado el mundo desde finales de noviembre, plantear preocupaciones legítimas sobre su potencial para amplificar la gravedad y la complejidad del panorama de amenazas cibernéticas. El ascenso meteórico de la herramienta de IA generativa marca el último desarrollo en una carrera armamentista de ciberseguridad en curso entre el bien y el mal, con atacantes y defensores por igual en constante búsqueda de las próximas tecnologías disruptivas de IA/ML para darles una ventaja competitiva.

Esta vez, sin embargo, las apuestas subieron. Como resultado ChatGPTLa ingeniería social ahora está oficialmente democratizada, ampliando la disponibilidad de una herramienta maliciosa que mejora la capacidad de un actor de amenazas para eludir medidas de detección rigurosas y lanzar redes más amplias a través de la superficie de ataque híbrida.

Lanzar amplias redes de ataque

He aquí por qué: La mayoría Campañas de ingeniería social confíe en plantillas generalizadas que contienen palabras clave comunes y cadenas de texto que las soluciones de seguridad programan para identificarlas y luego bloquearlas. Estas campañas, ya sea que se realicen a través de correo electrónico o a través de canales de colaboración como Slack y Microsoft Teams, a menudo adoptan un enfoque de rociar y rezar, lo que resulta en una baja tasa de éxito.

Pero con IA generativas como ChatGPT, los actores de amenazas teóricamente podrían beneficiarse de ello. el modelo de lenguaje grande (LLM) del sistema Aléjese de los formatos universales y, en su lugar, automatice la creación de correos electrónicos de suplantación de identidad o suplantación de identidad completamente únicos con una gramática perfecta y patrones de lenguaje natural, adaptados al objetivo individual. Este mayor nivel de sofisticación hace que el ataque de correo electrónico promedio parezca mucho más creíble, lo que a su vez hace que sea mucho más difícil identificar a los destinatarios y evitar que los destinatarios hagan clic en un enlace de malware oculto.

Sin embargo, aclaremos que ChatGPT no significar la sentencia de muerte para los ciberdefensores que algunos han hecho. Más bien, es el último desarrollo en un ciclo continuo de tácticas, técnicas y procedimientos (TTP) en evolución por parte de los actores de amenazas que se pueden analizar, abordar y mitigar. Después de todo, esta no es la primera vez que las IA generativas se explotan con fines maliciosos; lo que separa ChatGPT de las tecnologías que le precedieron es su facilidad de uso y libre acceso. Con OpenAI probable cambio a modelos basados ​​en suscripción Al requerir la autenticación del usuario junto con la protección avanzada, la mitigación de los ataques de ChatGPT se reducirá en última instancia a una variable clave: combatir el fuego con fuego.

Vence a ChatGPT en su propio juego

Los equipos de operaciones de seguridad necesitan aprovechar su propia solución impulsada por IA Modelos de lenguaje grande (LLM) para combatir la ingeniería social de ChatGPT. míralo primero Y última línea de defensa que permite a los analistas humanos mejorar la eficiencia de detección, optimizar los flujos de trabajo y automatizar las acciones de respuesta. Por ejemplo, un LLM integrado con la solución de seguridad empresarial adecuada se puede programar para reconocer plantillas sofisticadas de ingeniería social generadas por ChatGPT. A los pocos segundos de que el LLM identifique y categorice un patrón sospechoso, la solución lo marca como una anomalía, notifica a un analista humano con la acción correctiva prescrita y luego comparte esta inteligencia de amenazas con todo el ecosistema de seguridad empresarial en tiempo real.

Los beneficios son la razón por la cual la tasa de adopción de AI/ML en ciberseguridad se ha acelerado en los últimos años. El informe Costo de una filtración de datos de IBM para 2022 enumera las empresas que han implementado una solución de seguridad impulsada por IA alivia los ataques 28 días más rápido, en promedio, y redujo el daño financiero en más de $3 millones. Ahora el 92% de los encuestados han respondido en Mimecast Informe sobre el estado de la seguridad del correo electrónico de 2022 indicó que ya usan IA en sus arquitecturas de seguridad o planean hacerlo en un futuro cercano. Aprovechar estos avances con un mayor compromiso para aprovechar los LLM impulsados ​​por IA debería ser un enfoque inmediato en el futuro, ya que es la única forma de mantenerse al día con la velocidad de los ataques de ChatGPT.

El hierro afila el hierro

El uso aplicado de LLM impulsados ​​por IA como ChatGPT también puede mejorar la eficiencia de las pruebas de penetración de caja negra, caja gris y caja blanca, todas las cuales requieren una inversión significativa de tiempo y tiempo. Mano de obra, faltan los equipos de TI sobrecargados en medio de una escasez generalizada de mano de obra. Al reconocer que el tiempo es esencial, los LLM brindan una forma efectiva de optimizar los procesos de prueba de penetración: automatizan la identificación de vectores de ataque óptimos y brechas en la red sin depender de modelos de explotación anteriores que evolucionaron con el desarrollo del panorama de amenazas que a menudo están desactualizados.

Por ejemplo, un LLM «malo» puede generar un cuerpo de correo electrónico personalizado en un entorno simulado para probar las defensas de ingeniería social de la organización. Si ese texto pasa por alto la detección y logra su objetivo previsto, los datos se pueden reutilizar para entrenar otro LLM «bueno» en él. cómo reconocer patrones similares en entornos reales. Esto ayuda a educar a los equipos rojo y azul de manera efectiva sobre las complejidades de contrarrestar ChatGPT con IA generativa, al tiempo que proporciona una evaluación precisa de la postura de seguridad de la empresa que permite a los analistas cerrar las brechas de vulnerabilidad antes de que los adversarios las aprovechen.

El efecto del error humano

Es importante recordar que invertir en las mejores soluciones no es una panacea para proteger a las organizaciones de sofisticados ataques de ingeniería social. En medio de la aceptación social de las estructuras de trabajo híbridas basadas en la nube, El riesgo humano se ha convertido en una vulnerabilidad crítica de la empresa moderna. Más del 95% de las brechas de seguridad hoy en día, la mayoría de los cuales son el resultado de ataques de ingeniería social, implican cierto nivel de error humano. Y con Se espera que ChatGPT aumente el volumen y la velocidad de tales ataquesgarantizar que los empleados híbridos sigan prácticas seguras, independientemente de dónde trabajen, no debe considerarse negociable.

Esta realidad subraya la importancia de implementar módulos de capacitación para la concientización del usuario como un componente central de su marco de seguridad: los empleados que reciben capacitación constante para la concientización del usuario son cinco veces más probable identificar y evitar enlaces maliciosos. Sin embargo, según un informe de Forrester de 2022, “Soluciones de capacitación y concientización sobre seguridad,“Muchos líderes de seguridad carecen de una comprensión completa de cómo crear una cultura de conciencia de seguridad y volver a la capacitación constante y estática de los empleados para medir el compromiso e influir en el comportamiento. Este enfoque es en gran medida ineficaz y debe ser escalable y personalizado. contenido divertido y cuestionarios adaptados a las áreas de interés y estilos de aprendizaje de los empleados.

La combinación de IA generativa con una capacitación de concientización del usuario bien realizada crea una sólida alianza de seguridad que puede permitir que las organizaciones operen protegidas de ChatGPT. No se preocupen ciberdefensores, el cielo no se está cayendo. La esperanza permanece en el horizonte.