Cómo la IA está dando forma al futuro del ciberdelito

COMENTARIO

Como expertos en ciberseguridad predicho hace un añoLa inteligencia artificial (IA) será un actor clave en el panorama de la ciberdelincuencia en 2023, ya que impulsará un aumento de los ataques y contribuirá a mejorar la mitigación de ataques futuros. Ahora, en 2024, los expertos de toda la industria esperan que la IA tenga un impacto aún mayor en la ciberseguridad.

El Pronóstico de ciberseguridad de Google Cloud para 2024 Considera que la IA generativa y los grandes modelos de lenguaje contribuyen a un aumento de diversas formas de ciberataques. Más del 90% de los directores ejecutivos canadienses en una encuesta de KPMG Creemos que la IA generativa los hará más vulnerables a las violaciones de seguridad. Y un informe del gobierno del Reino Unido dice que la IA es un problema Amenaza para las próximas elecciones del país.

Si bien las amenazas relacionadas con la IA aún se encuentran en sus primeras etapas, el alcance y la complejidad de los ataques impulsados ​​por la IA aumentan diariamente. Las empresas deben prepararse para el futuro.

Cuatro formas en que los ciberdelincuentes utilizan la IA

Los atacantes utilizan herramientas de inteligencia artificial comúnmente disponibles, como ChatGPT, Dall-E y Midjourney, de cuatro formas principales: ataques de phishing automatizados, ataques de robo de identidad, ataques de ingeniería social y chatbots de atención al cliente falsos.

Los ataques de phishing están recibiendo un gran impulso de la IA. En el pasado, era más fácil detectar intentos de phishing simplemente porque muchos de ellos estaban plagados de errores gramaticales y ortográficos. Los lectores más exigentes podrían reconocer una comunicación tan extraña y no deseada asumiendo que probablemente proviene de un país donde el inglés no es el idioma principal.

ChatGPT prácticamente ha eliminado la pista. Con la ayuda de ChatGPT, un ciberdelincuente puede redactar un correo electrónico con perfecta gramática y uso del inglés, escrito en el idioma de una fuente legítima. Los ciberdelincuentes pueden enviar mensajes automatizados que, por ejemplo, se hacen pasar por una autoridad bancaria y piden a los usuarios que inicien sesión y proporcionen información sobre sus cuentas 401(k). Cuando un usuario hace clic en un enlace para comenzar a proporcionar información, el pirata informático toma el control de la cuenta.

¿Qué tan popular es este truco? La barra diagonalSiguiente Informe sobre el estado del phishing 2023 atribuyó un aumento del 1265% en los correos electrónicos de phishing maliciosos desde el cuarto trimestre de 2022 principalmente a ataques dirigidos Compensaciones en el correo electrónico empresarial con herramientas de IA.

Ataques de robo de identidad también están en aumento. Al utilizar ChatGPT y otras herramientas, los estafadores se hacen pasar por personas y organizaciones reales y cometen robo de identidad y fraude. Al igual que los ataques de phishing, utilizan chatbots para enviar mensajes de voz y hacerse pasar por amigos, colegas o familiares de confianza para obtener información o acceder a una cuenta.

Un ejemplo tuvo lugar en Saskatchewan, Canadá, a principios de 2023. Una pareja de ancianos recibió una llamada de alguien que decía ser su nieto, afirmando que había tenido un accidente automovilístico y estaba en la cárcel. La persona que llamó dijo que había resultado herido, perdió su billetera y necesitaba $9,400 en efectivo para pagar con el dueño del otro automóvil y evitar cargos. Los abuelos fueron a su banco a retirar el dinero, pero escaparon de la estafa cuando un funcionario del banco los convenció de que la solicitud no era legítima.

Si bien los expertos de la industria creían que este uso sofisticado de la tecnología de clonación de voz mediante IA se desarrollaría en unos pocos años, pocos esperaban que se volviera tan eficaz y tan rápido.

Los ciberdelincuentes utilizan ChatGPT y otros chatbots de IA para llevar a cabo ataques de ingeniería social que causan estragos. Utilizan una combinación de clonación de voz y tecnología deepfake para que parezca que alguien está diciendo algo incendiario.

Esto sucedió la noche anterior a las elecciones a la alcaldía de Chicago en febrero. un hacker creó un video deepfake y lo publicó en X, anteriormente conocido como Twitter, mostrando al candidato Paul Vallas supuestamente haciendo comentarios falsos e incendiarios y adoptando posturas políticas controvertidas. El vídeo generó miles de visitas antes de ser eliminado de la plataforma.

La última táctica, los chatbots de servicio al cliente falsos, existe, pero probablemente les llevará uno o dos años más ganar popularidad generalizada. Se podría crear un sitio bancario fraudulento utilizando un chatbot de servicio al cliente que parece humano. El chatbot se puede utilizar para manipular a víctimas desprevenidas para que revelen información personal y de cuenta confidencial.

Cómo contraataca la ciberseguridad

La buena noticia es que la IA también se está utilizando como herramienta de seguridad para combatir el fraude impulsado por la IA. Aquí hay tres formas en que la industria de la ciberseguridad está contraatacando.

Desarrolla tu propia IA enemiga

Básicamente, esto implica crear una “IA buena” y entrenarla para combatir la “IA mala”. Al desarrollar sus propias redes generativas adversarias (GAN), las empresas cibernéticas pueden aprender qué esperar en caso de un ataque. Las GAN constan de dos redes neuronales: un generador que crea nuevas muestras de datos y un discriminador que distingue las muestras generadas de las originales.

Al utilizar estas tecnologías, las GAN pueden generar nuevos patrones de ataque que son similares a los patrones de ataque vistos anteriormente. Al entrenar un modelo con estos patrones, los sistemas pueden hacer predicciones sobre qué tipos de ataques esperar y cómo los ciberdelincuentes explotarán estas amenazas.

Detección de anomalías

Esto implica comprender la base de lo que es el comportamiento normal y luego reconocer cuando alguien se desvía de ese comportamiento. Si alguien inicia sesión en una cuenta desde una ubicación diferente a la habitual, o si el departamento de contabilidad utiliza misteriosamente un sistema PowerShell que suelen utilizar los desarrolladores de software, eso podría ser un indicio de un ataque. Si bien los sistemas de ciberseguridad han utilizado este modelo durante mucho tiempo, los modelos de inteligencia artificial, con su poder tecnológico adicional, pueden detectar mensajes potencialmente sospechosos de manera más efectiva.

Respuesta de detección

El uso de sistemas de inteligencia artificial, herramientas y servicios de ciberseguridad, como la detección y respuesta administradas (MDR), puede detectar mejor las amenazas y comunicar información sobre ellas a los equipos de seguridad. La IA ayuda a los equipos de seguridad a identificar y combatir amenazas legítimas más rápidamente al proporcionar información concisa y relevante. Dedicar menos tiempo a buscar falsas alarmas y tratar de descifrar los protocolos de seguridad ayuda a los equipos a iniciar respuestas más efectivas.

Diploma

Las herramientas de IA abren los ojos de la sociedad a nuevas posibilidades en casi todos los ámbitos laborales. A medida que los piratas informáticos explotan cada vez más las tecnologías de grandes modelos de lenguaje, la industria debe seguir el ritmo para mantener bajo control la amenaza de la IA.