Comprender la IA y su papel en la ciberseguridad

Seguridad digital

El nuevo libro blanco de ESET revela los riesgos y oportunidades de la inteligencia artificial para los ciberdefensores

28 de abril de 2024
•
,
5 min de tiempo de lectura

La inteligencia artificial (IA) es el tema del día, y las últimas y mejores tecnologías de IA están apareciendo en titulares asombrosos. Y probablemente pocas industrias se beneficiarán tanto o se verán tan afectadas como la ciberseguridad. Contrariamente a la creencia popular, algunas industrias han estado utilizando esta tecnología de alguna forma durante más de dos décadas. Pero el poder de la computación en la nube y los algoritmos avanzados mejorarán aún más las defensas digitales o ayudarán a crear una nueva generación de aplicaciones basadas en IA que podrían transformar la forma en que las organizaciones protegen, detectan y responden a los ataques.

Sin embargo, a medida que estas capacidades se vuelvan más baratas y accesibles, los actores de amenazas también utilizarán la tecnología para ingeniería social, desinformación, fraude y más. un nuevo Libro blanco de ESET tiene como objetivo descubrir los riesgos y oportunidades para los ciberdefensores.

Una breve historia de la IA en la ciberseguridad

Los modelos de lenguaje grande (LLM, por sus siglas en inglés) pueden ser la razón por la que se habla de IA en las salas de juntas de todo el mundo, pero la tecnología se ha utilizado de otras maneras durante años. ESET, por ejemplo, utilizó por primera vez la IA a través de redes neuronales hace más de un cuarto de siglo para mejorar la detección de macrovirus. Desde entonces, la empresa ha utilizado la IA de diversas formas para:

• Distinguir entre ejemplos de código limpio y malicioso
• Clasifique, clasifique y marque rápidamente muestras de malware En moderación
• Un sistema de reputación en la nube que aprovecha un modelo de aprendizaje continuo a través de datos de capacitación
• Protección de endpoints con altas tasas de detección y bajas tasas de falsos positivos gracias a una combinación de redes neuronales, árboles de decisión y otros algoritmos.
• Una poderosa herramienta de espacio aislado en la nube con detección, descompresión y escaneo de aprendizaje automático de múltiples capas, detección experimental y análisis de comportamiento profundo
• Nueva protección en la nube y endpoints basada en modelos transformadores de IA
• XDR ayuda a priorizar las amenazas correlacionando, clasificando y agrupando grandes volúmenes de eventos

¿Por qué los equipos de seguridad utilizan la IA?

Hoy en día, los equipos de seguridad necesitan más que nunca herramientas eficaces basadas en IA. Esto se debe a tres razones principales:

1. La escasez de mano de obra calificada sigue siendo un problema grave

En el último conteo, Había una escasez mundial de alrededor de cuatro millones de profesionales de la ciberseguridad, incluidos 348.000 en Europa y 522.000 en América del Norte. Las organizaciones necesitan herramientas para aumentar la productividad de los empleados y proporcionar análisis de amenazas y orientación sobre remediación cuando los colegas de alto nivel están ausentes. A diferencia de los equipos humanos, la IA puede funcionar las 24 horas del día, los 365 días del año y detectar patrones que los expertos en seguridad pueden pasar por alto.

2. Los actores de amenazas son flexibles, decididos y están bien equipados

Mientras los equipos de ciberseguridad luchan por reclutar, sus adversarios continúan haciéndose más fuertes. Según una estimación, la economía del cibercrimen podría costarle al mundo hasta 10,5 billones de dólares anuales para 2025. Los aspirantes a actores de amenazas pueden encontrar todo lo que necesitan para lanzar ataques agrupados en ofertas y kits de herramientas listos para usar «como servicio». Los corredores de terceros brindan acceso a organizaciones que ya han sido pirateadas. E incluso actores estatales están involucrados en ataques por motivos financieros, especialmente Corea del Norte, pero también Porcelana y otras naciones. En países como Rusia, el gobierno Sospecha de apoyo activo. Hacktivismo antioccidental.

3. Lo que está en juego nunca ha sido tan grande

A medida que las inversiones digitales han aumentado a lo largo de los años, también ha aumentado la dependencia de los sistemas de TI para lograr un crecimiento sostenible y una ventaja competitiva. Los defensores de la red saben que si no previenen, detectan y contienen rápidamente las amenazas cibernéticas, su organización puede sufrir importantes daños financieros y de reputación. Una violación de datos Costo en promedio Hoy son 4,45 millones de dólares. Pero un gran ataque de ransomware con interrupción del servicio y robo de datos podría costar mucho más. Una estimación afirma Solo las instituciones financieras han perdido 32 mil millones de dólares desde 2018 debido al tiempo de inactividad debido a las interrupciones del servicio.

¿Cómo utilizan la IA los equipos de seguridad?

No sorprende que las empresas busquen aprovechar el poder de la IA para prevenir, detectar y responder a las amenazas cibernéticas de manera más efectiva. ¿Pero cómo hacen esto exactamente? Correlacionando indicadores en grandes conjuntos de datos para identificar ataques. Identificando códigos maliciosos basados ​​en actividades sospechosas que se desvían de la norma. Y apoyando a los analistas de amenazas interpretando información compleja y priorizando alertas.

A continuación se muestran algunos ejemplos de usos actuales y futuros de la IA para siempre:

• Información de amenazas: Los asistentes GenAI impulsados ​​por LLM pueden simplificar lo complejo analizando grandes informes técnicos y destilando puntos clave e información útil para los analistas en un lenguaje sencillo.
• Asistentes de IA: Incorporar “copilotos” de IA en los sistemas de TI puede ayudar a evitar configuraciones erróneas peligrosas que, de otro modo, expondrían a las organizaciones a ataques. Esto podría funcionar tanto para sistemas de TI generales, como plataformas en la nube, como para herramientas de seguridad como firewalls, donde es posible que sea necesario actualizar configuraciones complejas.
• Aumento de la productividad del SOC: Los analistas de los centros de operaciones de seguridad (SOC) actuales están bajo una enorme presión para detectar, responder y contener rápidamente las amenazas entrantes. Pero el tamaño de la superficie de ataque y la cantidad de herramientas que generan alertas a menudo pueden resultar abrumadores. Esto significa que las amenazas legítimas permanecen fuera del radar mientras los analistas pierden el tiempo con falsos positivos. La IA puede reducir la carga al contextualizar y priorizar dichas alertas, y tal vez incluso remediar alertas más pequeñas.
• Nuevos descubrimientos: Los actores de amenazas están evolucionando constantemente sus tácticas, técnicas y procedimientos (TTP). Sin embargo, al combinar indicadores de compromiso (IoC) con información disponible públicamente y fuentes de amenazas, las herramientas de inteligencia artificial podrían buscar las amenazas más recientes.

¿Cómo se utiliza la IA en los ciberataques?

Desafortunadamente, los malos también tienen como objetivo a la IA. Según los británicos Centro Nacional de Ciberseguridad (NCSC), La tecnología «intensificará la amenaza global del ransomware» y «casi con certeza aumentará el volumen y el impacto de los ciberataques en los próximos dos años». ¿Cómo utilizan actualmente los actores de amenazas la IA? Considera lo siguiente:

• Desarrollo Social: Uno de los usos más obvios de GenAI es ayudar a los actores de amenazas a desarrollar campañas de phishing a escala altamente convincentes y gramaticalmente casi perfectas.
• BEC y otras estafas: Una vez más, la tecnología GenAI se puede utilizar para imitar el estilo de escritura de un individuo o empresa específica, engañando así a la víctima para que transfiera dinero o revele datos/credenciales confidenciales. Los archivos de audio y vídeo deepfake también podrían utilizarse para el mismo propósito. El FBI ha emitido varias advertencias. sobre eso en el pasado.
• Desinformación: GenAI también puede hacer el trabajo pesado de la creación de contenido para operaciones de influencia. informe actual Advirtió que Rusia ya está utilizando este tipo de tácticas, que, si resultan exitosas, podrían ser ampliamente imitadas.

Los límites de la IA

Ya sea buena o mala, la IA tiene actualmente sus limitaciones. Puede producir una gran cantidad de falsos positivos y sin conjuntos de capacitación de alta calidad su impacto será limitado. A menudo también se requiere supervisión humana para verificar que los resultados sean correctos y entrenar los propios modelos. Todo esto sugiere que la IA no es una panacea ni para los atacantes ni para los defensores.

Con el tiempo, sus herramientas podrían competir entre sí: algunas intentan encontrar vulnerabilidades en las defensas y engañan a los empleados, mientras que otras buscan signos de actividad maliciosa de IA. Bienvenidos al comienzo de una nueva carrera armamentista en ciberseguridad.

Para obtener más información sobre el uso de la IA en ciberseguridad, consulte El nuevo informe de ESET