5 maneras en que los actores de amenazas pueden usar ChatGPT para mejorar los ataques
Cloud Security Alliance (CSA) ha descrito cinco formas en que los actores maliciosos pueden usar ChatGPT para mejorar su conjunto de herramientas de ataque en un nuevo informe que examina el impacto de ciberseguridad de los modelos de lenguaje extenso (LLM). El Impacto en la seguridad de ChatGPT El documento describe cómo los actores de amenazas pueden explotar los sistemas impulsados por IA en varios aspectos de los ataques cibernéticos, incluida la enumeración, la asistencia de soporte, el reconocimiento, el phishing y la generación de código polimórfico. Al examinar estos problemas, la CSA tiene como objetivo crear conciencia sobre las amenazas potenciales y enfatizar la necesidad de medidas de seguridad sólidas y un desarrollo de IA responsable.
Algunas secciones del documento brindan revisiones breves de riesgos o evaluaciones de efectividad de contramedidas para visualizar los niveles de riesgo actuales asociados con áreas específicas y su impacto comercial potencial.
Entre otras cosas, se mencionaron los ataques de IA opuestos y la ingeniería social compatible con ChatGPT. Las cinco nuevas técnicas de ataque más peligrosas será utilizado por expertos cibernéticos del Instituto SANS en la Conferencia de Actores de Amenazas RSA de esta semana.
Enumeración mejorada para encontrar puntos de ataque
La enumeración extendida de ChatGPT para encontrar vulnerabilidades es la primera amenaza de ataque cubierta por el informe, calificada como de riesgo medio, bajo impacto y alta probabilidad. «Un simple escaneo de Nmap identificó el puerto 8500 como abierto y reveló JRun como el servidor web activo. Esta información se puede utilizar para obtener más información sobre la postura de seguridad de la red y las posibles vulnerabilidades”, dice el informe.
ChatGPT se puede usar de manera efectiva para identificar rápidamente las aplicaciones más frecuentes relacionadas con tecnologías o plataformas específicas. «Esta información puede ayudar a comprender los posibles vectores de ataque y las vulnerabilidades en un entorno de red determinado».
Kick asistencia para obtener acceso no autorizado
El soporte básico se refiere al proceso de ayudar a los actores de amenazas a establecer una presencia o base inicial en un sistema o red de destino, con el soporte básico mejorado de ChatGPT calificado como de riesgo medio, impacto medio y probabilidad media. «Esto generalmente implica explotar vulnerabilidades o vulnerabilidades para obtener acceso no autorizado».
En el contexto del uso de herramientas de IA, las huellas de apoyo pueden consistir en automatizar la detección de vulnerabilidades o simplificar el proceso de su explotación, facilitando que los atacantes obtengan acceso inicial a sus objetivos. «Cuando se le pidió a ChatGPT que investigara las vulnerabilidades en una muestra de código de más de 100 líneas, se identificó una vulnerabilidad de envoltura de archivos», se lee en el informe. La investigación adicional arrojó resultados similares, con la IA detectando con éxito problemas como validación de entrada insuficiente, credenciales codificadas y hash de contraseña débil. Esto subraya el potencial de ChatGPT para identificar de manera efectiva las vulnerabilidades en las bases de código”.
Reconocimiento para evaluar objetivos de ataque.
El reconocimiento, en relación con los actores malintencionados de amenazas a la ciberseguridad, se refiere a la fase inicial de recopilación de información sobre un sistema, red u organización de destino antes de lanzar un ataque. Esta fase les ayuda a identificar posibles vulnerabilidades, vulnerabilidades y puntos de entrada que pueden explotar para obtener acceso no autorizado a sistemas o datos. El reconocimiento generalmente se lleva a cabo de tres maneras: ingeniería pasiva, activa y social, según el informe.
«La recopilación de datos a gran escala, como directorios de directores de empresas, puede ser un proceso desalentador y lento». Sin embargo, al aprovechar ChatGPT, los usuarios pueden hacer preguntas específicas y agilizar y mejorar los procesos de recopilación de datos para varios propósitos. El reconocimiento mejorado por ChatGPT se calificó como de bajo riesgo, impacto medio y baja probabilidad en el informe.
Señuelos de phishing más efectivos
Con las herramientas impulsadas por IA, los actores ahora pueden crear sin esfuerzo correos electrónicos de aspecto legítimo para varios propósitos, dice el informe. Cuestiones como las faltas de ortografía y la mala gramática ya no son un impedimento, por lo que cada vez es más difícil distinguir entre la correspondencia genuina y la maliciosa. Suplantación de identidad potenciada por ChatGPT fue clasificado en el informe como riesgo medio, impacto bajo y muy probable.
“Los rápidos avances en la tecnología de IA han aumentado considerablemente la capacidad de los actores de amenazas para crear correos electrónicos engañosos que se parecen mucho a la correspondencia real. El lenguaje impecable, la relevancia contextual y los detalles personalizados en estos correos electrónicos hacen que sea cada vez más difícil para los destinatarios identificarlos como intentos de phishing”.
Desarrolle código polimórfico malicioso más fácilmente
El código polimórfico se refiere a un tipo de código que puede cambiarse a sí mismo usando un motor polimórfico mientras conserva la funcionalidad de su algoritmo original. Esto permite que el malware polimórfico cambie su «apariencia» (contenido y firma) para evadir la detección mientras sigue llevando a cabo su intención maliciosa, afirma el informe.
ChatGPT se puede usar para generar shellcode polimórfico, y las mismas técnicas que benefician a los programadores legítimos también pueden ser explotadas por malware. «Al combinar diferentes técnicas, como dos métodos para adjuntar a un proceso, dos enfoques para inyectar código y dos formas de crear nuevos hilos, es posible crear ocho cadenas diferentes para lograr el mismo objetivo. Esto permite que se generen numerosas variaciones de malware de manera rápida y eficiente, lo que dificulta los esfuerzos de detección y mitigación para los profesionales de la ciberseguridad”. La creación del código polimórfico mejorado con ChatGPT se calificó como de alto riesgo, alto impacto y probabilidad media.
La adopción de la IA en el mercado «será paralela a las tendencias de adopción de la nube».
Es difícil exagerar el impacto de la adopción viral actual de la IA y sus implicaciones a largo plazo, comentó Jim Reavis, director ejecutivo y cofundador de CSA. «Las características esenciales de GPT, LLM y aprendizaje automático, combinadas con una infraestructura omnipresente para brindar estas funciones como servicio, seguramente generarán grandes cambios en el futuro cercano».
CSA espera que la adopción de la IA en el mercado sea paralela a las tendencias de adopción de la nube y aproveche principalmente el modelo de implementación de la nube, agregó Reavis. “Desde la perspectiva de una empresa típica actual, tienen que brindar seguridad para un puñado de proveedores de infraestructura en la nube y miles de proveedores de SaaS, siendo este último el punto más problemático. Es nuestra responsabilidad desarrollar e implementar una hoja de ruta para expandir y/o crear nuevos marcos de control, capacidades de certificación y artefactos de investigación para facilitar la transición a la IA habilitada para la nube”.
Derechos de autor © 2023 IDG Communications, Inc.
Este contenido de ciberseguridad nos ha llegado de: CSO Online
Puedes encontrar la noticia original en el siguiente enlace: https://www.csoonline.com/article/3694931/5-ways-threat-actors-can-use-chatgpt-to-enhance-attacks.html#tk.rss_news
