Opaque Systems lanza nuevas funciones de seguridad y privacidad de datos para LLM

Opaque Systems ha anunciado nuevas funciones de su plataforma informática confidencial para proteger la confidencialidad de los datos empresariales cuando se utilizan Modelos de lenguaje grandes (LLM). A través de nuevas salas limpias de datos (DCR) y IA generativa respetuosas con la privacidad optimizadas para Microsoft Azure Confidential Computing, Opaque ahora también permite a las organizaciones analizar de forma segura sus datos confidenciales combinados sin compartir los datos sin procesar subyacentes o divulgarlos. Mientras tanto, un soporte más amplio para casos de uso confidenciales de IA proporciona salvaguardas para el aprendizaje automático y los modelos de IA para usar datos encriptados dentro de entornos de ejecución confiables (TEE) para evitar el compromiso por parte de personas no autorizadas. según opaco.

El uso de LLM puede exponer a las organizaciones a importantes riesgos de seguridad y privacidad.

El riesgos potenciales de compartir información comercial confidencial con algoritmos generativos de IA también están bien documentados Vulnerabilidades conocidas que afectan las aplicaciones LLM. Si bien algunos modelos de LLM de IA generativa como ChatGPT se entrenan en datos públicos, Opaque dice que la utilidad de los LLM puede dispararse cuando se entrena en los datos confidenciales de una organización sin riesgo de divulgación. Sin embargo, cuando un proveedor de LLM tiene visibilidad de las consultas realizadas por sus usuarios, la posibilidad de acceder a consultas muy confidenciales, como el código propietario, se convierte en una preocupación importante de seguridad y privacidad, ya que la posibilidad de piratería aumenta drásticamente, dice Jay Harel, vicepresidente de Producto en Opaque Systems, dice CSO. La protección de la confidencialidad de los datos confidenciales, como la información de identificación personal (PII) o los datos internos, como las cifras de ventas, es fundamental para permitir el uso ampliado de LLM en un entorno empresarial, agrega.

«Las organizaciones quieren refinar sus modelos utilizando datos empresariales, pero para hacerlo deben dar acceso a sus datos al proveedor de LLM o permitir que el proveedor implemente el modelo propietario dentro de la organización del cliente», dice Harel. “Además, al entrenar modelos de IA, los datos de entrenamiento se conservan, sin importar cuán confidenciales o sensibles sean. Si la seguridad del sistema host se ve comprometida, los datos podrían perderse o caer en manos equivocadas”.

La plataforma opaca utiliza múltiples capas de protección para datos confidenciales

Al ejecutar modelos LLM dentro de la plataforma informática confidencial de Opaque, los clientes pueden garantizar que sus solicitudes y datos permanezcan privados y seguros, nunca expuestos al modelo/proveedor de servicios o utilizados de manera no autorizada y solo accesibles para las partes autorizadas, afirmó Opaque. “La plataforma Opaque aprovecha las tecnologías de protección de la privacidad para asegurar los LLM y aprovecha múltiples capas de protección para datos confidenciales de posibles ataques cibernéticos y violaciones de datos a través de una poderosa combinación de enclaves de hardware seguro y refuerzo criptográfico”, dice Harel.

Por ejemplo, la solución permite que los modelos generativos de IA ejecuten inferencias dentro de máquinas virtuales confidenciales (CVM), agrega. «Esto permite la creación de chatbots seguros que permiten a las empresas cumplir con los requisitos de cumplimiento legal».