¿Amenazas de ciberseguridad exageradas o no?

La capacidad vertiginosa de OpenAI para absorber cantidades masivas de datos y escupir contenido personalizado ha llevado a todo tipo de predicciones preocupantes sobre la capacidad de la tecnología para abrumar todo, incluidas las defensas de seguridad cibernética.

De hecho, la última versión de ChatGPT, GPT-4, es lo suficientemente inteligente como para pasar el examen de la barra, generar miles de palabras de texto y escribir código malicioso. Y gracias a su interfaz de usuario simplificada que cualquiera puede usar, las preocupaciones de que las herramientas de OpenAI podrían convertir a cualquier posible ladrón en un programador malicioso experto en tecnología estaban y están bien fundadas. ChatGPT habilitó ataques cibernéticos surgió poco después de estrenar su interfaz fácil de usar en noviembre de 2022.

co-fundador de OpenAI Greg Brockman le dijo a una multitud reunida en SXSW este mes que le preocupa el potencial de la tecnología para hacer dos cosas específicas realmente bien: difundir desinformación y lanzar ataques cibernéticos.

«Ahora que están mejorando en la escritura de códigos informáticos, [OpenAI] podría usarse para ataques cibernéticos ofensivos», dijo Brockman.

No se sabe qué pretende hacer OpenAI para mitigar la amenaza de ciberseguridad del chatbot. Por ahora, parece que depende de la comunidad de ciberseguridad construir una defensa.

Actualmente existen medidas de seguridad para evitar que los usuarios usen ChatGPT para fines no deseados o para contenido considerado demasiado violento o ilegal, pero los usuarios se están dando cuenta rápidamente. Soluciones alternativas al Jailbreak para estas restricciones de contenido.

Estas amenazas son motivo de preocupación, pero un coro cada vez mayor de expertos, incluido un artículo reciente del Centro Nacional de Seguridad Cibernética del Reino Unido, está disipando las preocupaciones sobre los peligros reales para las empresas debido al auge de ChatGPT y los modelos de lenguaje grande (LLM). .

La última ciberamenaza de ChatGPT

Los entregables de Chatbot pueden ahorrar tiempo al encargarse de tareas menos complejas, pero cuando se trata de hacer un trabajo experto como escribir código malicioso, la capacidad de OpenAI para hacerlo desde cero no es lo suficientemente madura como para el horario de máxima audiencia, explicó la publicación del blog del NCSC.

«Para tareas más complejas, actualmente es más fácil para un experto crear el malware desde cero en lugar de dedicar tiempo a arreglar lo que produjo el LLM». Ciberamenaza ChatGPT dijo la publicación. «Sin embargo, un experto capaz de crear malware de alto rendimiento probablemente pueda persuadir a un LLM para que escriba malware capaz”.

el problema con ChatGPT como herramienta de ciberataque simplemente por no poder probar si el código que crea realmente funciona o no, dice Nathan Hamiel, director senior de investigación de Kudelski Security.

«Estoy de acuerdo con la evaluación del NCSC», dice Hamiel. «ChatGPT responde a cualquier solicitud con un alto nivel de confianza, ya sea correcta o incorrecta, ya sea que emita código funcional o no funcional».

más a la derechaSiendo realistas, dice, los atacantes cibernéticos podrían usar ChatGPT como ellos. hacer otras herramientas como pruebas de pluma.

Amenaza ChatGPT «masivamente sobrevalorada»

El daño a los equipos de TI proviene de atribuir en exceso los riesgos de ciberseguridad ChatGPT y OpenAI están absorbiendo recursos ya escasos de amenazas más inmediatas, como señala Jeffrey Wells, socio de Sigma7.

«Las amenazas de ChatGPT están enormemente sobrevaloradas”, dice Wells. “La tecnología aún está en pañales y hay pocas o ninguna razón por la que un atacante quiera usar ChatGPT para crear un código malicioso cuando existe una gran cantidad de malware o crimen como servicio (CaaS), que puede ser utilizado para explotar la lista de vulnerabilidades conocidas y crecientes».

En lugar de preocuparse por ChatGPT, los equipos de TI de la empresa deben centrar su atención en los fundamentos de la ciberseguridad, la gestión de riesgos y las estrategias de asignación de recursos, agrega Wells.

El valor de ChatGPT, así como de otras herramientas disponibles para los actores de amenazas, depende de su capacidad para aprovechar los errores humanos, dice Casey Ellis, Fundador y CTO de Bugcrowd. La cura es la resolución de problemas humanos, señala.

«La única razón por la que nuestra industria existe es por la creatividad humana, el error humano y la necesidad humana», dice Ellis. «Cada vez que la automatización ‘resuelve’ parte del problema de la defensa cibernética, los atacantes simplemente innovan esas defensas con técnicas más nuevas para cumplir sus objetivos».

Pero Patrick Harr, director ejecutivo de SlashNext, advierte a las empresas que no subestimen la amenaza a largo plazo que podría representar ChatGPT. Mientras tanto, los equipos de seguridad deberían intentar usar LLM similares para defenderse, dice.

«Afirmar que ChatGPT es de bajo riesgo es como enterrar la cabeza en la arena y seguir adelante como si no existiera», dice Harr. «ChatGTP es solo el comienzo de la revolución de la IA generativa y la industria debe tomarlo en serio y centrarse en desarrollar tecnología de IA para combatir las amenazas de la IA».