Los estados extranjeros ya están usando ChatGPT maliciosamente, los ejecutivos de TI del Reino Unido creen

La mayoría de los ejecutivos de TI del Reino Unido creen que los estados extranjeros ya están utilizando el chatbot ChatGPT con fines maliciosos contra otras naciones. Eso es según un nuevo estudio realizado por BlackBerry que encuestó a 500 tomadores de decisiones de TI del Reino Unido y descubrió que, si bien el 60 % de los encuestados considera que ChatGPT se usa comúnmente para «buenos» propósitos, el 72 % está preocupado de que se pueda usar con fines maliciosos por cuestiones de seguridad cibernética. . De hecho, casi la mitad (48 %) predice que un ciberataque exitoso se atribuirá a la tecnología en los próximos 12 meses. Los hallazgos siguen una investigación reciente que muestra cómo los atacantes pueden usar ChatGPT para mejorar significativamente las estafas de phishing y BEC (Business Email Compromise).

Los ejecutivos de TI del Reino Unido temen la explotación maliciosa de las capacidades de ChatGPT

ChatGPT, el chatbot gratuito de OpenAI, basado en GPT-3.5, se publicó el 30 de noviembre de 2022 y ha alcanzado el millón de usuarios en cinco días. Es capaz de escribir correos electrónicos, ensayos, códigos y correos electrónicos de phishing si el usuario sabe cómo preguntar. El estudio de Blackberry encontró que la capacidad de los atacantes para usar estas habilidades para crear correos electrónicos de phishing más creíbles y legítimos es una de las principales preocupaciones para el 57% de los ejecutivos de TI del Reino Unido encuestados. A esto le siguió la creciente sofisticación de los ataques de amenazas (51 %) y la capacidad de acelerar nuevos ataques de ingeniería social (49 %).

Casi la mitad de los líderes de TI del Reino Unido están preocupados por el potencial de ChatGPT para difundir información errónea (49 %), así como por su capacidad para permitir que los piratas informáticos menos experimentados mejoren sus conocimientos técnicos (47 %). Además, el 88 % de los encuestados dijo que los gobiernos tienen la responsabilidad de regular las tecnologías avanzadas como ChatGPT.

«Es probable que ChatGPT aumente su influencia en la industria cibernética con el tiempo», comentó Shishir Singh, CTO Cybersecurity de BlackBerry. «Todos hemos visto mucha exageración y alarmismo, pero el pulso de la industria sigue siendo bastante pragmático, y por una buena razón. Este tipo de tecnología avanzada ofrece muchos beneficios y solo estamos rascando la superficie, pero tampoco podemos ignorar las implicaciones».

ChatGPT puede mejorar significativamente el phishing y las estafas BEC

En Enero, Investigadores de la empresa de seguridad WithSecure demostraron Cómo se puede usar el modelo de generación de lenguaje natural GPT-3 para hacer que los ataques de ingeniería social como el phishing o las estafas BEC (Business Email Compromise) sean más difíciles de detectar y más fáciles de llevar a cabo. El estudio encontró que los atacantes no solo pueden generar variaciones únicas del mismo señuelo de phishing con una ortografía gramaticalmente correcta y similar a la humana, sino que también crean cadenas de correo electrónico completas para hacer que sus correos electrónicos sean más convincentes, e incluso mensajes con el estilo de escritura que la gente real puede generar en base a en ejemplos proporcionados de su comunicación.

«Generar texto rico en lenguaje natural a partir de una pequeña cantidad de entrada inevitablemente interesará a los delincuentes, especialmente a los ciberdelincuentes, si es que aún no lo han hecho». dijeron los investigadores en su trabajo. «Del mismo modo, cualquier persona que use Internet para difundir estafas, noticias falsas o información errónea en general podría estar interesada en una herramienta que produce texto creíble, posiblemente incluso persuasivo, a velocidades sobrehumanas».