¿Cuáles son las verdaderas repercusiones potenciales de la inteligencia artificial en la ciberseguridad?
¿Llegará la inteligencia artificial a ser lo suficientemente inteligente como para revolucionar la seguridad informática? La IA ya está sorprendiendo al mundo del arte al producir, a petición, obras maestras de cualquier estilo. Es capaz de escribir poemas mientras desentierra datos secretos en un enorme archivo. Si las IA pueden actuar como un bardo al tiempo que ofrecen el rendimiento exhaustivo de los mejores motores de búsqueda, ¿por qué no podrían también acabar con los protocolos de seguridad?
Las respuestas son complejas, evolucionan rápidamente y aún no están claras. La IA facilita algunas partes de la defensa de los ordenadores frente a los ataques. Otras partes son más exigentes y es posible que nunca cedan ante ninguna forma de inteligencia, ya sea humana o artificial. Sin embargo, resulta difícil saber qué es qué. El rápido desarrollo de los nuevos modelos hace que sea complicado determinar con certeza en qué ámbitos la IA será de ayuda y en cuáles no. Quizá la afirmación más peligrosa sea: «Las IA nunca harán eso».
Definición de inteligencia artificial y aprendizaje automático
Los términos «inteligencia artificial» y «aprendizaje automático» se utilizan a menudo como sinónimos, pero no son lo mismo. La IA se refiere a tecnologías que pueden imitar el comportamiento humano o ir más allá. El aprendizaje automático es un subconjunto de la IA que utiliza algoritmos para identificar patrones en los datos con el fin de obtener información sin intervención humana. El objetivo del aprendizaje automático es ayudar a las personas o a los ordenadores a tomar mejores decisiones. Gran parte de lo que hoy en día se denomina IA en los productos comerciales es, en realidad, aprendizaje automático.
La IA tiene puntos fuertes que pueden resultar de utilidad inmediata para las personas que defienden los sistemas y a las personas. Robo. Son capaces de buscar patrones en enormes cantidades de datos y, a menudo, encuentran formas de correlacionar acontecimientos nuevos con otros antiguos.
Muchas técnicas de aprendizaje automático tienen un marcado carácter estadístico, al igual que muchos ataques contra sistemas informáticos y algoritmos de cifrado. La amplia disponibilidad de nuevos conjuntos de herramientas para el aprendizaje automático facilita a atacantes y defensores la prueba de los algoritmos. Los atacantes los utilizan para buscar vulnerabilidades, y los defensores, para detectar indicios de la presencia de los atacantes.
La IA también se queda por debajo de las expectativas y, a veces, falla. Solo puede expresar lo que figura en su conjunto de datos de entrenamiento y puede ser tremendamente literal, como suelen ser los ordenadores. Además, son impredecibles y no deterministas, gracias al uso que hacen de la aleatoriedad, lo que algunos denominan su «temperatura».
Casos de uso de la inteligencia artificial en ciberseguridad
La seguridad informática también tiene muchas facetas, y la defensa de los sistemas requiere prestar atención a ramas poco conocidas de las matemáticas, el análisis de redes y la ingeniería de software. Para complicar aún más las cosas, las personas constituyen una parte importante del sistema, y es importante comprender sus debilidades.
Esta especialidad es también una combinación de muchas subespecialidades que pueden ser muy diferentes entre sí. Lo que, por ejemplo, funciona a la hora de proteger una capa de red mediante la detección de paquetes maliciosos, puede resultar inútil a la hora de reforzar la seguridad de un algoritmo hash.
«Sin duda, hay algunos ámbitos en los que se puede avanzar gracias a la inteligencia artificial», afirma Paul Kocher, director ejecutivo de Resilian, quien lo ha hecho investigado Utilización de nuevas tecnologías para descifrar algoritmos criptográficos. «Para la depuración y la doble comprobación del código, será mejor que fuzzing [el proceso de introducir pequeños errores aleatorios para provocar fallos].»
Algunos ya han tenido éxito con este enfoque. Los ejemplos más sencillos consisten en sistematizar conocimientos antiguos y darles un nuevo uso. Conor Grogan, director de Coinbase, le pedí a ChatGPT que lo comprobara un contrato en vivo que se ejecutaba en la cadena de bloques de Ethereum. La IA presentó una breve lista de vulnerabilidades y propuestas para solucionarlas.
¿Cómo lo hizo la IA? Aunque el mecanismo de la IA pueda resultar opaco, es probable que se basara, de una forma u otra, en debates públicos sobre vulnerabilidades similares en el pasado. Fue capaz de conciliar los conocimientos anteriores con el nuevo código y elaborar una útil lista de deficiencias con los problemas que había que resolver, y todo ello sin programación personalizada ni la orientación de un experto.
Microsoft está empezando a comercializar este enfoque. Ha entrenado al copiloto de seguridad de IA, una versión de ChatGPT-4 con conocimientos básicos sobre protocolos y algoritmos de cifrado, para que pueda responder a las solicitudes de entrada y ayudar a las personas.
Algunos aprovechan el profundo y amplio acervo de conocimientos que se encuentra integrado en los grandes modelos de lenguaje. Los investigadoresde Claroty apostaron por ChatGPT como una herramienta que ahorra tiempo y cuenta con conocimientos enciclopédicos de programación. Consiguieron ganar un concurso de hacking utilizando ChatGPT para escribir el código necesario para explotar varias vulnerabilidades de forma conjunta.
Los atacantes también pueden aprovechar la capacidad de la IA para crear y remodelar código. Joe Partlow, director técnico de ReliaQuest, afirma que no sabemos realmente cómo «piensan» las IA, y que esta opacidad podría resultar útil. «Ya vemos modelos de autocompletado de código, como Codex o GitHub Copilot, que ayudan a las personas a escribir software», afirma. «Ya hemos visto mutaciones de malware generadas por IA. Entrenar un modelo, por ejemplo, con los ganadores del concurso C-Wettbewerb podría contribuir sin duda a desarrollar puertas traseras eficaces».
Algunas empresas consolidadas están utilizando la IA para detectar anomalías en la red y otros problemas en entornos corporativos. Se basan en una combinación de aprendizaje automático e inferencia estadística para identificar comportamientos que podrían resultar sospechosos.
Utilizar la IA para detectar vulnerabilidades y descifrar el cifrado
Sin embargo, existen límites en cuanto a la profundidad con la que estos análisis pueden examinar los flujos de datos, especialmente los cifrados. Si un atacante pudiera determinar qué paquetes cifrados son legítimos y cuáles no, sería capaz de descifrar el algoritmo de cifrado subyacente.
La cuestión más profunda es si las IA pueden detectar vulnerabilidades en las capas más bajas y fundamentales de la seguridad informática. No ha habido grandes anuncios al respecto, pero algunos empiezan a preguntarse e incluso a especular sobre qué podría funcionar y qué no.
No hay respuestas evidentes sobre las debilidades más profundas. Las IA pueden programarse para comportarse como los humanos, pero, en el fondo, pueden ser radicalmente diferentes. Los grandes modelos son conjuntos de relaciones estadísticas organizadas en varias jerarquías. Su ventaja radica en su tamaño, y muchos de los avances recientes se deben simplemente al rápido aumento del número de parámetros y pesos.
En esencia, muchos de los enfoques más comunes para crear grandes modelos de aprendizaje automático utilizan grandes cantidades de matemáticas lineales, encadenando secuencias de matrices y tensores muy grandes. La linealidad es una parte fundamental del algoritmo, ya que permite parte de la retroalimentación para el entrenamiento.
Sin embargo, los mejores algoritmos de cifrado se han diseñado para que no sean lineales. Algoritmos como el AES o el SHA se basan en que los datos se cifran repetidamente, sometiéndolos a una serie de funciones conocidas como «S-boxes». Estas funciones se han desarrollado cuidadosamente para que sean altamente no lineales. Y lo que es más importante, los diseñadores de los algoritmos se han asegurado de que se apliquen con la frecuencia suficiente como para que sean seguros frente a algunos ataques estadísticos conocidos.
Algunos de estos ataques tienen mucho en común con la IA moderna. Desde hace décadas, los criptógrafos utilizan grandes conjuntos de estadísticas para modelar el flujo de datos a través de un algoritmo de cifrado, de forma similar a como la IA modela sus datos de entrenamiento. En el pasado, los criptógrafos realizaban la compleja tarea de optimizar las estadísticas aprovechando sus conocimientos sobre los algoritmos de cifrado.
Uno de los ejemplos más conocidos se conoce a menudo como criptoanálisis diferencial. Aunque fue descrito públicamente por primera vez por Adi Shamir y Eli Biham, algunos de los diseñadores de algoritmos anteriores, como el Estándar de Cifrado de Datos (DES) del NIST, afirmaron que comprendían el enfoque y que habían reforzado el algoritmo para contrarrestarlo. Los algoritmos como el AES, que se han reforzado contra el criptoanálisis diferencial, deberían ser capaces de resistir los ataques de la IA, que utiliza muchos de los mismos enfoques estadísticos lineales.
Existen problemas fundamentales más profundos. Muchos de los algoritmos de clave pública se basan en números con una precisión de miles de dígitos. «Es solo un detalle de implementación», explica Nadia Heninger, criptógrafa de la UCSD, «pero puede ir aún más allá, porque estos modelos tienen pesos que son números de coma flotante, y la precisión es extremadamente importante».
Muchos algoritmos de aprendizaje automático suelen sacrificar la precisión porque, en una era de gramática descuidada, coloquial y compleja, no era necesaria para tener éxito en ámbitos imprecisos como el lenguaje humano. Esto solo significa que algunas de las herramientas disponibles en el mercado podrían no ser adecuadas para el criptoanálisis. Los algoritmos generales podrían adaptarse y algunos ya se están ocupando de este tema. (Véase aquí y aquí.)
Los modelos simbólicos de mayor tamaño podrían convertir a la IA en una amenaza mayor
Sin embargo, una cuestión difícil es si la escalabilidad masiva marcará la diferencia. Si el aumento del rendimiento ha permitido a las IA dar grandes pasos para parecer más inteligentes, quizá haya un umbral que permita a la IA encontrar más vulnerabilidades que los antiguos algoritmos diferenciales. Quizá se puedan utilizar algunas de las técnicas más antiguas para controlar los algoritmos de aprendizaje automático de forma más eficaz.
Algunos investigadores en IA imaginan formas de combinar la enorme potencia de los grandes modelos de lenguaje con enfoques más lógicos y métodos formales. El uso de mecanismos automatizados para reflexionar sobre conceptos matemáticos puede resultar mucho más eficaz que limitarse a intentar imitar los patrones de un conjunto de entrenamiento.
«A estos grandes modelos de lenguaje les falta un modelo simbólico de lo que realmente generan», explica Simson Garfinkel, autor de La era cuántica e investigador en seguridad. «No hay motivos para suponer que las propiedades de seguridad estén integradas, pero ya existe mucha experiencia con métodos formales para detectar vulnerabilidades de seguridad».
Los investigadores en IA están trabajando para ampliar la capacidad de los grandes modelos de lenguaje dotándolos de mejores argumentos simbólicos. Stephen Wolfram, por ejemplo, uno de los desarrolladores de Wolfram Alpha, explica que ese es uno de los objetivos. «En este momento, en Wolfram Language contamos con una enorme cantidad de conocimiento informático integrado sobre muchas cosas diferentes». Él escribió. «Pero para que un lenguaje discursivo simbólico fuera completo, tendríamos que incorporar “cálculos” adicionales sobre cosas generales del mundo: si un objeto se desplaza de A a B y de B a C, entonces se desplaza de A a C, etc.».
Whitfield Diffie, un criptógrafo que ha realizado una labor pionera en el campo de la criptografía de clave pública, cree que este tipo de enfoques con IA podrían permitir avances en áreas nuevas e inexploradas de las matemáticas. Quizá piensen de forma lo suficientemente diferente a los humanos como para resultar valiosos. «La gente intenta poner a prueba a los matemáticos-máquina basándose en teorías conocidas, en las que los humanos han descubierto muchos teoremas —teoremas que han sido demostrados por personas y que los humanos saben demostrar bien—», afirma. «¿Por qué no las ponen a prueba en algo como las geometrías de dimensiones superiores, donde la intuición humana es pésima, y ven si encuentran cosas que nosotros no podemos encontrar?»
Los campos del criptoanálisis son solo uno de los muchos ámbitos de las matemáticas que aún no se han explorado. Las posibilidades pueden ser infinitas, porque las matemáticas en sí mismas son infinitas. «A grandes rasgos, si una IA puede contribuir a la intrusión en sistemas de una forma que supere su coste, la gente la utilizará», pronostica Diffie. La verdadera pregunta es cómo.
Copyright © 2023 IDG Communications, Inc.
Este contenido sobre ciberseguridad nos lo ha enviado: CSO Online
Puedes acceder a la noticia original a través del enlace que aparece a continuación: https://www.csoonline.com/article/3692868/what-is-artificial-intelligence-s-true-potential-impact-on-cybersecurity.html#tk.rss_news
