¿ChatGPT comenzará a escribir malware asesino?

ChatGPT no escribió este artículo, lo escribí yo. Tampoco le pedí que respondiera la pregunta del título, lo haré. Pero creo que eso es exactamente lo que podría decir ChatGPT. Afortunadamente, todavía hay algunos errores gramaticales que prueban que no soy un robot. Pero eso es exactamente lo que ChatGPT podría hacer para parecer legítimo.

Esta tecnología robótica hipster actual es una elegante respuesta automática lo suficientemente buena para crear respuestas de tareas, trabajos de investigación, respuestas legales, diagnósticos médicos y muchas otras cosas que pasan la «prueba del olfato» cuando se tratan como si fueran el trabajo de actores humanos. Pero, ¿agregará valor a los cientos de miles de muestras de malware que vemos y procesamos todos los días, o será una falsificación fácil de detectar?

En un duelo de máquina contra máquina que los technorati han deseado durante años, ChatGPT parece un poco «demasiado bueno» para no ser considerado un contendiente serio para bloquear la máquina opuesta. Dado que tanto el atacante como el defensor utilizan los últimos modelos de aprendizaje automático (ML), esto tenía que suceder.

Excepto por la construcción de buenas máquinas antimalware, no se trata solo de robot sobre robot. Siempre se ha requerido alguna intervención humana: descubrimos esto hace muchos años, para gran disgusto de los proveedores de ML de juego puro que se lanzaron a la batalla de marketing, insistiendo en enturbiar las aguas. Refiriéndose a sus productos ML puros como usando «IA».

Si bien los modelos de ML se han utilizado para front-ends de triaje grueso para análisis más complejos, no son un gran botón rojo de «matar malware». El malware no es tan simple.

Pero para estar seguro, contacté a algunos de los gurús de ML de ESET y les pregunté:

P. ¿Qué tan bueno será el malware generado por ChatGPT, o incluso es posible?

R. Realmente no estamos cerca de un «malware completo generado por IA», aunque ChatGPT es bastante bueno para proporcionar sugerencias de código, generar ejemplos y fragmentos de código, depurar y optimizar código e incluso automatizar documentación.

P. ¿Qué sucede con las funciones avanzadas?

R. No sabemos qué tan bueno es ofuscar. Algunos de los ejemplos acerca de a lenguajes de scripting como Python. Pero hemos visto que ChatGPT «invierte» el significado del código desensamblado. conectado a IDA Pro, que es interesante. En general, es probablemente una herramienta útil para ayudar a un programador, y tal vez ese sea un primer paso hacia el desarrollo de malware con todas las funciones, pero aún no.

P. ¿Qué tan bueno es en este momento?

R. ChatGPT es muy impresionante teniendo en cuenta que es un modelo de lenguaje grande y sus capacidades son sorprendentes. incluso los creadores tales modelos. Actualmente, sin embargo, es muy superficial, comete errores, produce respuestas más cercanas a las alucinaciones (es decir, respuestas fabricadas) y no es realmente confiable para nada serio. Pero parece estar ganando terreno rápidamente a juzgar por el grupo de técnicos que tienen los dedos de los pies en el agua.

P. ¿Qué puede hacer ahora? ¿Cuál es la «fruta madura» para la plataforma?

R. En este momento, vemos tres áreas probables de adopción y explotación maliciosas:

• Superando a los phishers

Si cree que el phishing parecía convincente en el pasado, espere. Desde examinar más fuentes de datos y unirlas sin problemas, hasta enviar correos electrónicos especialmente diseñados que serán muy difíciles de detectar debido a su contenido, y las tasas de éxito prometen mejores clics. Y no puede clasificarlos apresuradamente en función de errores de habla descuidados; su conocimiento de su lengua materna es probablemente mejor que el suyo. Debido a que la mayoría de los peores ataques comienzan cuando alguien hace clic en un enlace, debe esperar que el impacto asociado sea enorme.

• Automatización de negociaciones de rescate

Los operadores de ransomware que hablan sin problemas son probablemente raros, pero agregar un poco de ChatGPT a la comunicación podría aligerar la carga de trabajo de los atacantes que parecen legítimos durante las negociaciones. También significa menos errores que podrían permitir a los defensores descubrir las verdaderas identidades y ubicaciones de los operadores.

A medida que la generación de lenguaje natural continúa proliferando, los estafadores malvados naturales parecerán ser locales y tener sus mejores intereses en mente. Este es uno de los primeros pasos de incorporación en una estafa de confianza: suene más seguro al sonar como si fuera uno de los suyos.

Si todo esto suena como que podría ser en el futuro, no apueste por ello. No sucederá todo a la vez, pero los delincuentes están a punto de mejorar mucho. Veremos si la defensa está a la altura.