¿Qué nos depara el 2025?

Seguridad digital

En manos de actores maliciosos, las herramientas de inteligencia artificial pueden aumentar la escala y la gravedad de todo tipo de estafas, campañas de desinformación y otras amenazas.

15 de enero de 2025
•
,
Leer durante 5 minutos

La IA ha acelerado la carrera armamentista en materia de ciberseguridad durante el año pasado. Y los próximos 12 meses no ofrecerán un respiro. Esto tiene implicaciones importantes para los equipos de ciberseguridad corporativa y sus empleadores, así como para los usuarios cotidianos de la web. Mientras que la tecnología de IA Ayuda a los defensores a mejorar la seguridadLos actores malintencionados no pierden tiempo en acceder a herramientas impulsadas por IA, por lo que podemos esperar un aumento de estafas, ingeniería social, fraude de cuentas, desinformación y otras amenazas.

Esto es lo que se puede esperar a partir de 2025.

A qué debes prestar atención

A principios de 2024, el Centro Nacional de Seguridad Cibernética (NCSC) del Reino Unido prevenido que la IA ya está siendo utilizada por todo tipo de actores de amenazas y «es casi seguro que aumentará el volumen y el impacto de los ciberataques en los próximos dos años». La amenaza es más grave en el contexto de la ingeniería social, donde la IA generativa (GenAI) puede ayudar a actores malintencionados a crear campañas muy convincentes en idiomas locales sin errores. En reconocimiento, donde la IA puede automatizar la identificación a gran escala de activos en riesgo.

Si bien estas tendencias ciertamente continuarán hasta 2025, la IA también podrá usarse para los siguientes propósitos:

• Omisión de autenticación: La tecnología Deepfake ayuda a los estafadores a hacerse pasar por clientes en controles basados ​​en selfies y videos para la creación de nuevas cuentas y el acceso a ellas.
• Compromiso de correo electrónico empresarial (BEC): Una vez más se utilizó la IA para ingeniería social, pero esta vez para engañar a un destinatario corporativo para que transfiriera fondos a una cuenta bajo el control del estafador. Audio falso y el vídeo también se puede utilizar hacerse pasar por directores ejecutivos y otros ejecutivos de alto nivel en llamadas telefónicas y reuniones virtuales.
• Estafas de robo de identidad: Los LLM (modelos de lenguajes grandes) de código abierto ofrecen nuevas oportunidades para los estafadores. Los estafadores podrían hacer esto entrenándolos con datos de cuentas de redes sociales pirateadas y/o disponibles públicamente. pretender ser una víctima En secuestro virtual y otras estafas diseñadas para engañar a amigos y familiares.
• Estafa de influencers: De manera similar, en 2025, se espera que los estafadores utilicen GenAI para crear cuentas de redes sociales falsas o duplicadas que se hagan pasar por celebridades, personas influyentes y otras personalidades conocidas. Los vídeos deepfake se publican para engañar a los seguidores para que revelen información personal y dinero, por ejemplo para inversiones y Estafas criptográficasincluyendo los tipos de trucos resaltados en El último informe de amenazas de ESET. Esto ejerce más presión sobre las plataformas de redes sociales para que ofrezcan insignias y herramientas efectivas de verificación de cuentas, y es necesario mantenerse alerta.
• Desinformación: Los estados enemigos y otros grupos utilizarán fácilmente GenAI Generar contenido falsopara engañar a los usuarios crédulos de las redes sociales para que sigan cuentas falsas. Estos usuarios podrían luego convertirse en amplificadores de influencia en línea de manera más efectiva y más difícil de detectar que las granjas de contenido/trolls.
• Descifrar contraseña: Las herramientas impulsadas por IA son capaces de exponer las credenciales de los usuarios en masa en segundos, permitiendo el acceso a redes y datos corporativos, así como a cuentas de clientes.

Preocupaciones por la privacidad de la IA para 2025

La IA no será sólo una herramienta para los actores de amenazas el próximo año. También podría conllevar un mayor riesgo de fuga de datos. Los LLM requieren grandes cantidades de texto, imágenes y vídeos para formarse. A menudo, algunos de estos datos son accidentalmente sensibles: información mental, biométrica, de salud o financiera. En algunos casos, las redes sociales y otras empresas. puede cambiar los términos y condiciones Utilice datos de clientes para entrenar modelos.

Una vez que esta información es absorbida por el modelo de IA, representa un riesgo para el individuo si el propio sistema de IA es pirateado. O cuando la información se comparte con otros a través de aplicaciones GenAI que se ejecutan en el LLM. También existe preocupación entre los usuarios empresariales de que, sin darse cuenta, puedan compartir información confidencial relacionada con el trabajo a través de indicaciones de GenAI. Según una encuesta, este es el caso de una quinta parte de las empresas británicas expuesto accidentalmente datos de la empresa potencialmente confidenciales sobre el uso de GenAI por parte de los empleados.

IA para defensores en 2025

La buena noticia es que la IA desempeñará un papel cada vez más importante en el trabajo de los equipos de ciberseguridad durante el próximo año a medida que se integre en nuevos productos y servicios. Basándose en una larga historia de seguridad basada en IA, estas nuevas ofertas ayudarán a:

• Genere datos sintéticos para capacitar a usuarios, equipos de seguridad e incluso herramientas de seguridad de IA.
• Consolide informes de inteligencia sobre amenazas largos y complejos para analistas permitir una toma de decisiones más rápida para incidentes
• Aumente la productividad de SecOps contextualizando y priorizando alertas para equipos con exceso de trabajo y automatizando los flujos de trabajo de investigación y remediación.
• Escanee grandes cantidades de datos en busca de signos de comportamiento sospechoso
• Capacite a los equipos de TI con la funcionalidad «Copilot» integrada en varios productos para reducir la probabilidad de configuraciones erróneas.

Sin embargo, los líderes de TI y seguridad también deben comprender las limitaciones de la IA y la importancia de la experiencia humana en el proceso de toma de decisiones. En 2025, será necesario lograr un equilibrio entre humanos y máquinas para mitigar el riesgo de alucinaciones, deterioro de los modelos y otras consecuencias potencialmente negativas. La IA no es una panacea. Para obtener resultados óptimos, debe combinarse con otras herramientas y técnicas.

Desafíos de la IA en materia de cumplimiento y aplicación de la ley

El panorama de amenazas y la evolución de la seguridad de la IA no ocurren en el vacío. Los cambios geopolíticos en 2025, particularmente en Estados Unidos, podrían incluso conducir a la desregulación de la tecnología y las redes sociales. Esto, a su vez, podría brindar a los estafadores y otros actores maliciosos la oportunidad de inundar las plataformas en línea con amenazas generadas por IA.

Mientras tanto, todavía hay cierta incertidumbre en la UE sobre la regulación de la IA, lo que podría hacer la vida más difícil. Equipos de cumplimiento. Como han señalado los expertos jurídicos anotadoAún es necesario desarrollar códigos de conducta y directrices y calcular la responsabilidad por fallas de los sistemas de IA. El lobby del sector tecnológico aún podría cambiar la implementación de la ley de IA de la UE en la práctica.

Lo que está claro, sin embargo, es que en 2025 la IA cambiará radicalmente la forma en que interactuamos con la tecnología, para bien o para mal. Ofrece enormes beneficios potenciales para empresas y particulares, pero también nuevos riesgos que es necesario gestionar. A todos nos interesa trabajar más estrechamente durante el próximo año para garantizar que esto suceda. Los gobiernos, las empresas del sector privado y los usuarios finales deben desempeñar su papel y trabajar juntos para aprovechar el potencial de la IA y al mismo tiempo mitigar sus riesgos.