¿Nos atacará pronto el súper inteligente KI?

¿Qué ataques prácticos de IA hay hoy? «Más que cero» es la respuesta, y mejoran.

22 de abril de 2025
•
Presente
Leer por 3 minutos

Tenía que suceder, la tecnología de llm que se hizo pícaro tuvo que ser accesible para objetivos inocentes después de mentir alrededor de un área gris entre el bien y el mal alrededor para encarnar la paradoja tecnológica, donde se puede reabrir una tecnología buena y sólida para el premio. Así lo hacen.

La mayoría de los modelos LLM para la producción de titulares tienen «barreras morales» contra las cosas malas, el equivalente digital del juramento hipocrático también «no hace daño». Por ejemplo, si le pregunta a uno de ustedes cómo se configura un arma, ha recibido instrucciones de procesamiento previo para no proporcionar respuestas precisas que probablemente le permitirán causar daños extensos.

Si bien no puede preguntar de inmediato sobre la construcción de un arma, puede aprender cómo hacer mejores preguntas con una combinación de herramientas y aún responder.

Una forma elegante de hacerlo es el programa controlado por consultas de API. Algunos proyectos publicados recientemente se centran en el backend -api de un LLM sobre el objetivo de obtener acceso a los servidores. Otro también usa el chatgpt -backend para encontrar objetivos inteligentes de oportunidades que luego puedan atacar.

Apilar herramientas con capacidad de IA junto con una mezcla de otros, otros problemas como tratar con IP veladas (hay algunas de ellas) para reconocer que el servidor de destino real puede ser más eficiente, especialmente si se automatizan más.

En el mundo digital, estas tácticas se pueden usar para crear herramientas de mashup que Identificar debilidadesY entonces no se debe a las posibles hazañas, y los modelos LLM de LLM constituyente no son más inteligentes.

Este es un tipo de análogo a un «diseño de sala limpia», en la que se le pide a un LLM que resuelva una parte constituyente más pequeña de la tarea más grande, que es definida por un atacante, y luego una mashup forma la constelación posterior que incluye el arma.

Legalmente, varios grupos intentan excluir obstáculos efectivos que ralentizan estos trucos malvados o aumentan los castigos para LLM hasta cierto punto. Sin embargo, es difícil asignar valores específicos de error fraccional. La culpa en las cantidades respectivas correspondientes, en particular la carga legal de la prueba, será una tarea difícil.

Arar tierra fresca

Los modelos de IA también pueden buscar miles de millones de líneas de código en el repositorio de software existente que buscan patrones de código inciertos y desarrollar armas digitales que luego pueda comenzar con el suministro global de dispositivos que ejecutan el software en peligro de extinción. De esta manera, se podría organizar un nuevo lote nuevo como objetivos potenciales para compromisos y un empuje para aquellos que desean comenzar los ataques de día cero.

Es fácil imaginar que los estados nacionales aumenten este tipo de esfuerzo: un arma predictiva de errores de software ahora y en el futuro con IA. Esto lleva a los defensores al «pie trasero» y causa una especie de escalada de la defensa digital que parece ligeramente distópica. Los defensores mezclarán sus propios mecanismos de defensa con capacidad AI para el equipo azul o simplemente no serán pirateados. Esperamos que los defensores estén listos para ello.

Incluso hoy, los modelos de IA disponibles libremente pueden «argumentar» a través de problemas a través de problemas sin romper el sudor, y piensa sin sentido en una especie de cadena que imita el pensamiento humano (en nuestros momentos claros de todos modos). Es cierto que la tecnología no se convertirá rápidamente en un socio sensible (en el crimen), pero después de haber registrado datos de Internet, puede argumentar que «sabe» sus cosas, y puede ser causada que derrame sus secretos.

Continuará haciendo cada vez más, posiblemente sostenerse con una mano excesiva, lo que ayuda a superar los lazos morales muy por encima de su peso y operar jugadores imaginativos en un nivel sin precedentes. Aparentemente, algunos halcones tempranos de las próximas cosas ya estaban en exhibición como parte del marco Ejercicios de equipo rojo o Avistado en la naturaleza.

Una cosa es segura: la velocidad de ataques más inteligentes aumentará. Desde el momento en que se publica una CVE, que puede explotarse, o una nueva tecnología que resulta ser, debe pensar rápidamente; espero que esté listo.