Deepseek jailbreak revela todo su mensaje de sistema
Los investigadores han mantenido a Deepseek, la IA generativa china (Genai), que debutan un torbellino de publicidad y adopción de aplicaciones a principios de este mes para revelar las instrucciones que definen cómo funciona.
Deepseek, la nueva «niña» en Genai, fue entrenada a costos fraccionales de las ofertas existentes y, como tal, desencadenó una alarma competitiva en todo el valle de Silicon. Esto ha llevado a reclamos de Robo de propiedad intelectual de OpenAiY la pérdida de miles de millones de capitalización de mercado para el fabricante de chips de IA Nvidia. Por supuesto, los investigadores de seguridad han comenzado a verificar y analizar profundos si lo que está debajo del capó es ventajoso o malvado o una mezcla de ambos. Y los analistas de Wallarm solo hicieron un progreso considerable en este frente al tomar el jailbreaking.
Incluido presentó toda su solicitud del sistemaEs decir, una instrucción oculta escritas en un lenguaje simple que determina el comportamiento y las restricciones de un sistema de IA. También puede haber llevado a Deepseek a admitir rumores de que fue capacitado utilizando tecnología desarrollada por OpenAAI.
Solicitud del sistema de Deepseek
Wallarm informó a Deepseek sobre su jailbreak, y Deepseek ha solucionado el problema desde entonces. Temiendo que los mismos trucos puedan funcionar contra otros modelos populares a gran escala (LLM), los investigadores han decidido mantener los detalles técnicos bajo cierre.
«Definitivamente requirió codificación, pero no es como un exploit en el que envía una serie de datos binarios [in the form of a] Virus, y luego es pirateado «, explica Ivan Novikov, CEO de Wallarm. [to prompts with certain biases]Y es por eso que el modelo rompe algunos tipos de controles internos. «
Al romper sus controles, pudieron extraer toda la solicitud del sistema de Deepseek, palabra para palabras. Y para una sensación de cómo se compara su personaje con otros modelos populares, alimentó este texto en OpenAis GPT-4O y le pidió que hiciera una comparación. En general, GPT-4O afirmó ser menos restrictivo y creativo en contenido potencialmente sensible.
«La solicitud de OpenAI permite un pensamiento más crítico, una discusión abierta y un debate diferenciado y al mismo tiempo garantiza la seguridad de los usuarios», dijo el bot de chat, donde «la solicitud de Deepseek es probablemente más rígida, evita discusiones controvertidas y enfatiza la neutralidad a la censura.
Mientras los investigadores se quedaron en sus kishkes, también encontraron otro descubrimiento interesante. En su estado de jailbreak, el modelo parecía indicar que podría haber recibido un conocimiento posiblemente transmitido de modelos OpenAI. Los investigadores notaron este hallazgo, pero dejaron de llamarlo cuando tenía prueba de robo de IP.
«[We were] No se reacio o envenenamiento de sus respuestas: recibimos esto de una respuesta muy simple al jailbreak. Sin embargo, el hecho del jailbreak en sí no nos da suficientes señales de que sea una verdad básica. capacitó a sus modelos para datos no con licencia y derechos de autor De Internet: hizo la afirmación anterior de que Deepseek usó tecnología Operai para entrenar sus propios modelos sin permiso.
Fuente: Muro
Deepseek’s Week que recuerdes
Deepseek ha realizado un viaje de huracanes desde su publicación mundial el 15 de enero. En dos semanas en el mercado alcanzó 2 millones de descargas. Su popularidad, habilidades y bajos costos de desarrollo desencadenaron un Connipy en Silicon Valley y en pánico en Wall Street. El 27 de enero, contribuyó a una disminución en el material compuesto NASDAQ en un 3,4%, liderado por una eliminación de $ 600 mil millones en la participación de NVIDIA de un día para cada compañía en la historia del mercado.
En vista del perfil repentinamente alto, Deepseek sufrió una ola de Rechazo distribuido del servicio (DDoS). La compañía china de seguridad cibernética XLAB descubrió que los ataques comenzaron el 3 de enero y provenían de miles de direcciones IP que se distribuyeron en los Estados Unidos, Singapur, los Países Bajos, Alemania y China.
Un experto anónimo le dijo a The Global Times cuando comenzaron que «los ataques fueron los primeros ataques de refuerzo de reflexión SSDP y NTP. El martes, el martes, el martes ,, Se han agregado una gran cantidad de ataques de proxy HTTP. Luego se observó esta mañana que Botnets se unió a la pelea. Esto significa que los ataques a Deepseek se han intensificado, cada vez más métodos se han vuelto cada vez más difíciles de defender y los desafíos de seguridad de Deepseek son más graves. «
Para contener la inundación, la compañía ha establecido una actitud temporal de nuevas cuentas sin un número de teléfono chino.
El 28 de enero, la compañía publicó una versión profesional mejorada de su modelo AI cuando atrapó los ataques cibernéticos. Al día siguiente, los investigadores de Wiz descubrieron un La base de datos de Deepseek revela la historia del chatClaves secretas, API Secrets (interfaz de programación de aplicaciones) y más en la web Open.
En otra parte, el 31 de enero, Enkyrpt Ai publicó conocimiento que descubrió problemas más profundos y significativos con las ediciones de Deepseek. Después de sus pruebas, detuvo el chatbot chino tres veces más que Claud-3 OpusCuatro veces venenoso que GPT-4O, y 11 veces generado para crear resultados dañinos como O1 de OpenAai. También está más inclinado que la mayoría de los otros códigos inciertos para generar y crear información peligrosa sobre agentes químicos, biológicos, radiológicos y centrales.
A pesar de sus deficiencias, «es un milagro para mí personalmente», dice Sahil Agarwal, CEO de Enkrypt Ai. «Creo que el hecho de que el código abierto también habla alto. Desea que la comunidad contribuya a esto y pueda usar estas innovaciones. Creo que muchos proveedores de proveedores de modelos de código cerrado tienen un tipo de miedo».
También agrega que «hay otros modelos que son peores que Deepseek. Es solo que Deepseek esté muy en las noticias, por lo que tiene muchos ojos».
Nos llegó este contenido de ciberseguridad de: DarkReading
Podrás encontrar la noticia original en el enlace que se encuentra a continuación: https://www.darkreading.com/application-security/deepseek-jailbreak-system-prompt
