La realidad multilingüe de Europa expone las vulnerabilidades de la IA
No todos los idiomas reciben el mismo trato en lo que respecta a la funcionalidad y seguridad de los modelos de IA, y las organizaciones europeas corren un riesgo especial dada esta realidad.
El ecosistema moderno LLM (Large Language Model) depende en gran medida del lenguaje natural, ya sea que un usuario hable con un chatbot, proporcione instrucciones específicas para el desarrollo de software, genere correos electrónicos o realice análisis de datos a gran escala. Esta dependencia se ilustra aún más por la amplia gama de inyección inmediata Ataques que dependen de él trucos basados en el lenguaje.
Si bien los modelos líderes pueden manejar texto en decenas a cientos de idiomas, el rendimiento y las características de seguridad varían significativamente entre idiomas.
Muchos de los idiomas menos admitidos, como el galés y el suajili, sólo pueden responder a indicaciones básicas y pueden cometer errores gramaticales. Los modelos convencionales como GPT de OpenAI, Gemini de Google y Claude de Anthropic muestran un sólido desempeño en alrededor de 30 a 40 idiomas, como inglés, árabe, español, francés, alemán, japonés, chino simplificado e hindi.
El inglés es, con diferencia, el idioma mejor soportado por muchos modelos de IA. El inglés se beneficia tanto de datos de capacitación desproporcionados como de esquemas de tokenización que a menudo representan el inglés de manera más eficiente que muchos otros idiomas.
La investigación académica muestra que muchos LLM realizan tareas de lógica, razonamiento, codificación y matemáticas mejor cuando se les solicita en inglés, y muchos grandes laboratorios de inteligencia artificial realizan optimización de la seguridad, orientación del comportamiento y refuerzo utilizando anotadores de habla inglesa.
Hay excepciones a esta regla. Los modelos chinos como Qwen y DeepSeek superan a los modelos occidentales en el manejo del texto y el contexto cultural chino, y existen iniciativas específicas para apoyar aún más los idiomas en Europa y Medio Oriente. Sin embargo, no sería exagerado describir el panorama moderno de la IA como centrado en el inglés.
Desde una perspectiva global, esto no es sólo un problema de comprensión o funcionalidad de la IA, sino también un problema de seguridad. El 22 de julio, el proveedor de seguridad de IA lanzó DeepKeep una publicación de blog titulado «Su IA habla 100 idiomas. Su capa de seguridad de IA no».
Como explicó DeepKeep, la capa de seguridad de IA y las barreras de seguridad que existen en tantos productos de IA no necesariamente protegen contra el jailbreak y las acciones inseguras por igual en todos los idiomas.
«Las intenciones de seguridad pueden cambiar durante la traducción. Un jailbreak puede volverse menos explícito. inyección inmediata puede perder parte de su estructura de comando», dice la publicación del blog. «Una frase específica de una cultura puede condensarse en texto inofensivo». Un término sensible puede estar mal traducido o en un idioma que ya no cumple con la política de seguridad. La entrada en idiomas mixtos puede preservar la declaración maliciosa en un idioma y rodearla con un contexto benigno en otro».
Esto se vuelve particularmente problemático cuando muchas organizaciones trabajan juntas y utilizan herramientas de inteligencia artificial en varios idiomas. Este es el caso de cualquier empresa global, pero especialmente de una empresa con sede en Europa, Asia o África.
Europa proporciona uno de los ejemplos más claros de los desafíos descritos. Yossi Altevet, director de tecnología (CTO) y cofundador del proveedor de seguridad de inteligencia artificial DeepKeep, le dice a Dark Reading que docenas de idiomas se encuentran dentro de un bloque regulatorio y económico, y las operaciones transfronterizas son la norma y no la excepción.
«Esta densidad significa que Europa está intrínsecamente más expuesta, simplemente porque la probabilidad de encontrar una brecha lingüística en las operaciones diarias es mucho mayor», afirma. «Cualquier empresa multilingüe en cualquier lugar enfrenta el mismo riesgo básico cada vez que procesa un mensaje que no está en inglés».
El lugar único donde se asienta Europa
La Unión Europea reconoce 24 idiomas oficiales y hay muchos otros idiomas regionales y minoritarios que un empleado fácilmente podría utilizar de forma predominante.
Paolo Palumbo, vicepresidente de inteligencia estratégica de amenazas e investigación de WithSecure (un proveedor especializado en ciberseguridad europea), dice a Dark Reading que Europa no sólo se ve afectada por inconsistencias de seguridad en lenguajes de IA de menores recursos, sino que Europa enfrenta un desafío operativo particularmente complejo «porque las empresas a menudo usan el mismo producto en múltiples idiomas y entornos».
«Un producto parece conversar de manera competente en un idioma en particular, incluso aunque su moderación, detección inmediata de inyección, prevención de pérdida de datos o controles de monitoreo de incidentes no hayan sido validados con el mismo estándar en ese idioma», dice.
Palumbo dice que la seguridad multilingüe podría convertirse en una parte pasada por alto en la gobernanza de la IA, argumentando que las empresas deberían exigir pruebas de seguridad multilingüe a los proveedores en lugar de inferirla de las afirmaciones de soporte.
«El Ley de IA de la UE «No constituye un requisito general que cada producto de IA en cada idioma soportado deba lograr el mismo rendimiento de seguridad, y un chatbot ordinario no es automáticamente un sistema de alto riesgo», explica. «Sin embargo, para los sistemas de alto riesgo, la ley exige una gestión continua del riesgo y un nivel adecuado de precisión, solidez y ciberseguridad durante todo el ciclo de vida del sistema». Los proveedores también deben abordar los abusos previsibles y evaluar si las medidas que implementan son efectivas. Si las diferencias de idioma tienen un impacto material en estos controles, las pruebas específicas del idioma pueden convertirse en parte de la evidencia requerida para demostrar el cumplimiento”.
En las pruebas comparativas de DeepKeep, el alemán, el español, el francés y el italiano mostraron caídas significativas en la precisión en la detección de información de identificación personal (PII) basada en la traducción en comparación con el análisis del idioma nativo. “La realidad multilingüe de Europa simplemente significa que esta división queda constantemente expuesta, en casi todos los mercados importantes al mismo tiempo”, añade Altevet.
Sin embargo, Europa tiene algunas ventajas sobre otras partes del mundo a este respecto. Filip Mazán, director senior de investigación de IA de ESET, señala que muchos idiomas europeos comparten similitudes.
«Por ejemplo, el inglés y el alemán tienen vocabularios superpuestos, y los grandes modelos lingüísticos a menudo pueden explotar estas similitudes. Lo mismo ocurre con muchas lenguas eslavas, que comparten estructuras lingüísticas y vocabulario», afirma.
La cuestión de seguridad detrás del soporte multilingüe de IA
Hay que diferenciar entre la capacidad del lenguaje, la alineación de la seguridad y los controles de seguridad posteriores, que pueden no funcionar de la misma manera en todos los lenguajes, incluso si el modelo en sí parece ser muy poderoso. En otras palabras: aunque un modelo hable y entienda bien alemán o español, eso no significa que las barandillas de seguridad tengan necesariamente el mismo rendimiento.
Altevet explica que los riesgos detrás del soporte multilingüe de la IA no son teóricos; Los atacantes repiten deliberadamente comandos maliciosos en varios idiomas deslizarse a través de filtros Orientado principalmente al inglés.
El proveedor citó investigaciones de 2023 y 2024 de la Universidad de Brown que encontraron que GPT-4 de OpenAI producía respuestas dañinas y procesables a mensajes inseguros el 79% de las veces al traducir a idiomas de bajos recursos. Las indicaciones originales en inglés provocaron respuestas igualmente dañinas. menos del 1% del tiempo.
Pete Bryan, líder técnico del equipo AI Red de Microsoft, le dice a Dark Reading que el gigante tecnológico ha estado probando sus sistemas de inteligencia artificial en varios idiomas diferentes durante años, particularmente porque «el perfil de seguridad y comportamiento del modelo puede cambiar dependiendo del idioma en el que se le solicita y en el que responde».
«El idioma es sólo una dimensión de la historia de la seguridad, y una respuesta segura para un usuario en un idioma en particular puede ser insegura en el mismo idioma cuando ese usuario se encuentra en un contexto cultural diferente; por ejemplo, un estadounidense en California que habla coreano versus un coreano en Seúl que habla coreano», dice.
De manera similar, los principales proveedores de IA como OpenAI, Anthropic y Google también están probando sus modelos para problemas multilingües, aunque la batalla continúa.
Solucionar problemas de IA multilingüe
Las organizaciones están intentando de diferentes maneras abordar los problemas causados por las inconsistencias multilingües en los programas LLM en Europa y más allá.
Una opción estándar es el filtrado de seguridad primero en la traducción, en el que la capa de seguridad de una organización traduce el contenido al inglés, aplica barreras de seguridad y decide si permite o bloquea la salida. También existen barreras de seguridad en el idioma nativo, donde la capa de seguridad no traduce todo al inglés, sino que evalúa las indicaciones y el significado en el idioma original.
Proveedores como DeepKeep y Lakera promocionan esta característica como superior a los puntos ciegos creados por las barreras de seguridad basadas en la traducción porque se tiene en cuenta la intención e, idealmente, la política se preserva mejor.
Muchas empresas de equipos rojos centradas en la IA ofrecen evaluaciones multilingües. El equipo interno AI Red de Microsoft realiza pruebas en varios idiomas, en varias modalidades, incluidos texto y audio, y en los diversos contextos culturales que acompañan a los diferentes idiomas.
«No solo traducimos directamente el inglés a otro idioma en nuestros escenarios. Además, a menudo mezclamos y combinamos idiomas para probar sistemas, con escenarios que involucran varios idiomas a la vez para ver qué impacto puede tener esto en la seguridad de los sistemas que se están probando», dice.
Por último, los cortafuegos de IA en tiempo de ejecución y las herramientas de aplicación de políticas abordan los mayores riesgos que plantean los actores de amenazas. Los firewalls de IA bloquean llamadas a herramientas sospechosas, evitan la filtración de datos confidenciales, intentan bloquear acciones iniciadas mediante indicaciones y registran incidentes sospechosos para su investigación.
Nos llegó este contenido de ciberseguridad de: DarkReading
Podrás encontrar la noticia original en el enlace que sigue: https://www.darkreading.com/cybersecurity-operations/europes-multilingual-reality-exposes-ai-security-gaps
