¿Se puede usar ChatGPT para ataques cibernéticos?

Jonathan Jackson, Director de Ingeniería de Ventas APJ en BlackBerry Cybersecurity, escribe sobre por qué los ciberataques relacionados con la inteligencia artificial son inevitables.

ChatGPT tiene respuestas para casi todo, pero hay una respuesta que quizás no sepamos por un tiempo: ¿Sus consecuencias de seguridad cibernética no deseadas convertirán esta herramienta en un genio del que sus creadores se arrepientan de haberlo sacado de la botella?

Mora encuestó a 1,500 tomadores de decisiones de TI en América del Norte, Reino Unido y Australia y la mitad (51 por ciento) predijo que estaremos a menos de un año de un ataque cibernético atribuido a ChatGPT. Tres cuartas partes de los encuestados creen que los países extranjeros ya están Uso de ChatGPT con fines maliciosos contra otras naciones.

La encuesta también reveló la percepción de que, si bien los encuestados consideran que ChatGPT se usa con «buenos» propósitos, el 73 % reconoce su potencial amenaza para la seguridad cibernética y está «muy» o «bastante» preocupado, lo que demuestra Inteligencia Artificial (IA) es una espada de doble filo.

El surgimiento de chatbots y las herramientas impulsadas por IA plantean nuevos desafíos de ciberseguridad, especialmente cuando tales herramientas caen en las manos equivocadas. El uso de este tipo de tecnología avanzada ofrece muchos beneficios y, aunque solo estamos rascando la superficie de su potencial, tampoco podemos ignorar las implicaciones. A medida que la plataforma madura y los piratas informáticos se vuelven más sofisticados, se vuelve más difícil de defender sin usar también la IA para nivelar el campo de juego.

Ciberataques armados con IA

No sorprende que las personas con intenciones maliciosas estén probando las aguas, pero espero que más adelante este año veamos cómo los piratas informáticos obtienen un mejor control sobre cómo pueden usar ChatGPT con éxito para fines nefastos.

La IA es una extracción de conocimiento rápida y práctica, pero también lo son los programadores de malware, ya que la industria de la ciberseguridad en constante evolución a menudo se compara con un juego interminable de topo, donde los malos emergen tan rápido como se han templado. Históricamente, estos atacantes se han basado en su propia experiencia, foros y publicaciones de blogs de investigadores de seguridad para comprender varias técnicas maliciosas y luego convertirlas en código. Sin embargo, programas como ChatGPT les han dado otra flecha en el carcaj para probar su efectividad para causar estragos digitales.

La IA se puede utilizar de varias maneras para realizar ataques cibernéticos, como el escaneo automático de vulnerabilidades y probar nuevas técnicas de ataque. a través de IA, Amenazas persistentes avanzadas (APT) puede realizar ataques altamente dirigidos para robar datos confidenciales o interrumpir las operaciones. Las APT generalmente implican un ataque sostenido a una sola organización y, a menudo, las lanzan estados-nación o actores de amenazas sofisticados.

La IA también se puede utilizar para persuadir suplantación de identidad Correos electrónicos, mensajes de texto y publicaciones en redes sociales para engañar a las personas para que revelen información confidencial o instalen malware. Los videos falsos profundos generados por IA se pueden usar para hacerse pasar por funcionarios u organizaciones ataques de phishing. Se puede usar para empezar Ataques distribuidos de denegación de servicio (DDoS)donde los sistemas de una organización están sobrecargados con tráfico para interrumpir las operaciones o para obtener el control de la infraestructura crítica y causar daños reales.

IA para una IA

El uso cada vez mayor de la IA en el desarrollo de amenazas hace que sea aún más importante mantenerse a la vanguardia al usar también la IA para combatir las amenazas de manera proactiva.

Las organizaciones deben continuar enfocándose en mejorar la prevención y detección, y esta es una buena oportunidad para explorar cómo se puede incorporar más IA en varios procesos de clasificación de amenazas y estrategias de ciberseguridad.
Una de las principales ventajas de usar IA en ciberseguridad es la capacidad de analizar grandes cantidades de datos en tiempo real. El gran volumen de datos que generan las redes modernas hace que sea imposible para los humanos mantenerse al día. AI puede procesar datos mucho más rápido, haciéndolo más eficiente en la identificación de amenazas.

A medida que los ataques cibernéticos se vuelven más severos y sofisticados, y los actores de amenazas evolucionan sus tácticas, técnicas y procedimientos (TTP), las medidas de seguridad tradicionales se vuelven obsoletas. La IA puede aprender de ataques pasados ​​y ajustar sus defensas, haciéndola más resistente a futuras amenazas.

La IA también se puede utilizar para mitigar las APT, que son muy específicas y, a menudo, difíciles de detectar, lo que permite a las organizaciones detectar amenazas antes de que causen un daño significativo. El uso de IA para automatizar tareas repetitivas de gestión de la seguridad también permite a los profesionales de la ciberseguridad centrarse más en tareas estratégicas, como: caza de amenazas Y Respuesta a Incidentes.

El futuro de la ciberseguridad

Cuando se trata de seguridad, la IA es más importante que nunca, ya que los ciberdelincuentes la utilizan para mejorar su juego. La investigación de Blackberry muestra que la mayoría (82 por ciento) de los tomadores de decisiones de TI planean hacerlo invertir en ciberseguridad impulsada por IA durante los próximos dos años y casi la mitad (48 por ciento) planea hacerlo invertir antes de finales de 2023. Esto refleja una preocupación creciente de que las soluciones de protección basadas en firmas ya no son efectivas para brindar protección cibernética contra una amenaza cada vez más sofisticada.

Los tomadores de decisiones de TI confían en que ChatGPT mejorará la ciberseguridad para las empresas, pero nuestra encuesta también muestra que el 85 por ciento de los encuestados cree que los gobiernos tienen una responsabilidad media o alta en la regulación de tecnologías avanzadas.

Tanto los ciberprofesionales como hacker continuará explorando la mejor manera de utilizar esta tecnología y solo el tiempo dirá cuál es más eficaz. Mientras tanto, para aquellos que quieren salir adelante antes de que sea demasiado tarde, es hora de poner la IA en la parte superior de su lista de deseos de herramientas de tecnología cibernética y aprender a combatir el fuego con fuego.

Obtenga más información de Jonathan Jackson sobre la creciente amenaza ChatGPT y por qué la IA es fundamental para prevenirla registrándose en el seminario web de BlackBerry Security. Cómo usar IA para prevenir un ataque de ChatGPT.