3 formas en que ChatGPT Infosec cambiará en 2023

ChatGPT cautivó al mundo después de que OpenAI lo abriera para pruebas el 30 de noviembre de 2022. Para una industria endurecida por años de «innovaciones» de inteligencia artificial y aprendizaje automático en gran parte insatisfactorias, las reacciones han sido bastante reveladoras. Al igual que muchos entusiasmados por su potencial, creo que este es finalmente el momento de claridad sobre cuán verdaderamente revolucionaria puede ser la IA para la seguridad de la información.

También es bastante aleccionador, ya que hay innumerables ejemplos de cómo cambia el juego para los sombreros negros de todas las franjas. en uno de los primero Pruebas de concepto, profesor de NYU Brendan Dolan Gavitt usó ChatGPT para explotar una vulnerabilidad de desbordamiento de búfer. Otros ejemplos incluyen escribir malware a la velocidad del rayo y artesanía convincente, gramaticalmente correcto Correos electrónicos de phishing.

la Armamento de la IA dentro de la ciberseguridad no es nuevo, pero lo que más me emociona de ChatGPT es su potencial para llenar el mayor vacío de la seguridad de la información: la falta de talento suficiente, tanto en amplitud como en profundidad de las habilidades de ciberseguridad (es decir, especializaciones). Para ilustrar mejor esto, aquí hay tres formas en que ChatGPT Infosec cambiará en 2023.

Avance de la inteligencia de amenazas colaborativa

El crowdsourcing exitoso ha sido uno de los santos griales de la industria durante algún tiempo. Inteligencia de amenazas. La promesa proviene de la capacidad de ver lo que sucede en una variedad de empresas dentro de una sola industria vertical. Desafortunadamente, el mayor obstáculo fue la falta de confianza entre las organizaciones para compartir la información.

Este es el problema que varios ISAC de todas las industrias han tratado de resolver, con resultados mixtos. En el futuro, un Centro de Análisis e Intercambio de Información (ISAC) podría iterar el modelo ChatGPT con su interfaz de lenguaje natural y alimentarlo con los datos de registro enviados por las partes interesadas de ISAC en función de la confianza implícita dentro del grupo. El ISAC podría entonces usar ChatGPT para correlacionar conexiones de red, categorías de direcciones IP y dominios maliciosos y comportamientos similares. Los hallazgos podrían producir un conjunto de reglas de IDS para que los miembros de ISAC las implementen para protegerse contra las amenazas. El ISAC también obtendría información sobre la exposición general al riesgo de la industria que representa.

Haga más con los recursos existentes

La economía incierta está presionando a las organizaciones de seguridad para que implementen congelaciones de contratación para obtener una mayor productividad de los recursos existentes. ChatGPT puede ser extremadamente útil aquí como un multiplicador de poder, permitiendo que un analista haga el trabajo de varias personas.

Los generalistas y los novatos pueden describir lo que ven en las alertas y detecciones, y luego pedirle a ChatGPT que decodifique sus observaciones para iniciar el proceso de clasificación. Un ejemplo específico es ayudar a los profesionales a eliminar la ofuscación del código malicioso sospechoso a diario, lo que suele llevar una hora o más. ahora puede ser hecho en segundos.

ChatGPT también tiene el potencial de cambiar Respuesta a Incidentes. Un equipo puede usar el modelo existente y el procesamiento del lenguaje natural para ingresar todos los datos disponibles sobre un incidente y describir las razones de una posible respuesta. ChatGPT podría entonces probar o refutar inmediatamente una teoría sobre un compromiso. Hoy en día, se requieren varios días de trabajo para que un administrador de respuesta a incidentes, un ingeniero y varios analistas resuelvan completamente un incidente. Puedo imaginar un futuro en el que el proceso no necesite ningún analista.

Llevando el juego del gato y el ratón del malware al siguiente nivel

Hoy en día, los atacantes generan 100 millones de nuevas muestras de malware cada año. Dado que todos requieren codificación manual, esta sigue siendo una cantidad limitada y manejable para la detección de firmas. Sin embargo, con ChatGPT, un pirata informático puede decir: «Esto es lo que estoy tratando de hacer y este es el sistema operativo en el que estoy tratando de hacerlo», y puede generar cientos de miles de iteraciones de una pieza de malware.

Esto significa que los modelos ML de los motores de detección deben recalcularse más rápidamente. Es mucho más complicado porque están trabajando con un conjunto de datos mucho más grande. Afortunadamente, ChatGPT acelerará el proceso de ingeniería inversa y dará una oportunidad a los esfuerzos antimalware.

Por ejemplo, un desafío importante en la ingeniería inversa es trabajar con un nombre de archivo genérico que no brinda el contexto necesario sobre dónde se encontró. Esto requiere mucho más trabajo manual para identificar el sistema para el que fue creado. Hay cambios menores en el ensamblado binario que resultan en cambios significativos en el resultado final, por ejemplo, ¿fue escrito para una arquitectura de 32 bits o de 64 bits? ¿El sistema usa little endian o big endian? Las respuestas determinan la dirección de lectura del lenguaje máquina (hacia adelante o hacia atrás).

Todo este esfuerzo requiere prueba y error si no tienes contexto. ChatGPT puede pasar por estas iteraciones a una velocidad vertiginosa, proporcionando a los ingenieros inversos el lenguaje ensamblador final y el procesamiento a partir de ahí. Puede ir más allá y dejar que ChatGPT le diga lo que cree que está haciendo la aplicación, en lenguaje natural. Más importante aún, ChatGPT podría hacer todo esto a escala, analizando cientos de miles de muestras binarias y brindando información a un analista.

También puede ayudar a defenderse de las técnicas comunes del gato y el ratón. Por ejemplo, el malware a menudo incorpora técnicas anti-ingeniería inversa, como bucles anidados, para dificultar mucho más que los ingenieros inversos realicen un seguimiento de lo que sucede y el estado final. ChatGPT puede resolver esto mucho más rápido que los humanos. También puede analizar el código genético del malware e identificar dónde se puede reutilizar el código para identificar más rápidamente la huella dactilar del autor.

Efectos a largo plazo

Cada vez que surgen nuevos avances en IA, surge la inevitable preocupación de si reemplazará a los humanos y sus trabajos. No creo que ChatGPT haga eso, pero nos convertirá en consumidores de información más poderosos. El efecto multiplicador de poder será profundo en todos los niveles. Veo a los CISO brindándole una variedad de información a través de su registro de riesgos para devolver políticas y procedimientos, planes de respuesta a incidentes y más, todo adaptado a su entorno.

Si bien ChatGPT es solo una vista previa de la investigación, comparto el entusiasmo de mis colegas de la industria por su promesa de revolucionar la forma en que trabajan los profesionales de la seguridad.