Investigadores Outsmarts, el nuevo O3-Mini de Jailbreak’s Openas

Un ingeniero rápido ha cuestionado la protección ética y de seguridad en el último modelo O3 Mini de OpenAI solo unos días después de su publicación al público.

Openai dio a conocer O3 y su contraparte ligera O3-Mini el 20 de diciembre del mismo día, también una nueva función de seguridad: «Adaptación de intenciones.

Menos de una semana después de su debut público, pero el director principal de Cyberark, Adlownio. Investigador Eran Shimony Le enseñé a O3-Mini a enseñarle cómo escribir una exploit del Servicio del Subsistema de la Autoridad de Seguridad Local (LSASS.EXE), un proceso crítico de seguridad de Windows.

La seguridad mejorada de O3-Mini

Al presentar la dirección de asesoramiento, OpenAI reconoció la forma en que los antiguos modelos de idiomas principales (LLM) tuvieron que lidiar con las solicitudes maliciosas. «Una causa de estos errores es que los modelos tienen que reaccionar de inmediato, sin suficiente tiempo debido a escenarios de seguridad complejos y transversales, estándares de seguridad en lenguaje natural», escribió la compañía.

La dirección de asesoramiento, según las afirmaciones, «supera ambos problemas». Para resolver el problema número uno, O3 fue entrenado para detenerse y pensar y ser mencionado paso a paso con un método existente Colegio (cuna). Para resolver el número dos, el texto real de las pautas de seguridad de OpenAI y no solo se enseñaron ejemplos de comportamientos buenos y pobres.

«Cuando lo vi recientemente, pensé que [a jailbreak] No funcionará, «recuerda el ladrón». Estoy activamente sobre Reddit y no podría jailbreak. Pero es posible. Después de todo, funcionó. «

Manipulación del último chatt

Shimony ha verificado la seguridad de cada LLM popular con la herramienta de difusión de código abierto de su empresa (código abierto). «Fuzzyai. «Todos han revelado sus propias debilidades características.

«La familia de modelos OpenAis es muy susceptible a Tipos de ataques de manipulación«Explica y se refiere a la antigua ingeniería social regular en lenguaje natural». Pero Lama de Meta no lo es, pero es susceptible a otros métodos. Por ejemplo, hemos utilizado un método en el que solo el componente dañino de su solicitud de entrada se codifica en un arte ASCII. «

«Esto funciona bastante bien con los modelos Lama, pero no funciona con OpenAis y no funciona Tirar Lo que sea. Lo que funciona bastante bien en Claude en este momento es todo lo relacionado con el código. Claude es muy bueno en la codificación, y trata de ser lo más útil posible, pero realmente no clasifica si el código puede usarse para fines vergonzosos. Por lo tanto, es muy fácil usarlo para generar malware que desea que desee. «Él afirma.

Shimony reconoce que «el O3 es un poco más robusto en comparación con GPT-4 en sus barandillas, ya que la mayoría de los ataques clásicos no funcionan realmente». Sin embargo, pudo aprovechar su debilidad larga y achicada fingiendo ser un historiador honesto en busca de información educativa.

En la siguiente bolsa de valores, su objetivo es lograr que ChatGPT genere malware. Formula su rápida artísticamente para ocultar sus verdaderas intenciones, y luego el asesor da la bienvenida a la reacción:

Fuente: Eran Shimony sobre LinkedIn

Sin embargo, durante su cuna, ChatGPT parece perder el diagrama, y ​​finalmente crea instrucciones detalladas sobre cómo se puede inyectar el código en LSASS.EXE, un proceso del sistema que administra contraseñas y accede a tokens en Windows.

Fuente: Eran Shimony sobre LinkedIn

En un correo electrónico a la lectura oscura, un portavoz de OpenAi confirmó que el horno pudo haber llevado a cabo un exitoso jailbreak. Sin embargo, enfatizaron algunos puntos posibles en contra: que el pseudocodo de exploit que recibió era que no era nuevo o nuevo y que se podía encontrar información similar buscando en la web abierta.

Cómo podría mejorarse O3

El hongo proporciona una manera simple y una forma difícil de que OpenAI pueda identificar mejor sus modelos Pruebas de jailbreak.

La solución más tediosa incluye el entrenamiento de O3 en solicitudes más maliciosas con las que tiene que luchar y ponerla en forma con refuerzos positivos y negativos.

Un paso simple sería implementar clasificadores más robustos para la identificación. entrada maligna del usuario. «La información que intenté llamar era claramente dañina, por lo que incluso un clasificador ingenuo podría haber atrapado», piensa, citando a Claude como un LLM, que se desempeñó mejor con los clasificadores. «Esto resolverá alrededor del 95% de la jailbreaking [attempts]Y no lleva mucho tiempo hacer. «

Dark Reading se convirtió en OpenAi para comentar esta historia.