La Biblioteca del Congreso ofrece asesoramiento jurídico sobre IA

En un resultado positivo para los investigadores que prueban la seguridad de los sistemas y modelos de IA, la Biblioteca del Congreso de EE. UU. dictaminó que ciertos tipos de actividades objetables, como la inyección instantánea y la elusión del límite de velocidad, no violan la Ley de Derechos de Autor del Milenio Digital (DMCA). , una ley que históricamente han utilizado las empresas de software para defenderse de investigaciones de seguridad no deseadas.

Sin embargo, la Biblioteca del Congreso se negó a otorgar una exención para los investigadores de seguridad según las disposiciones de uso justo de la ley, argumentando que una exención no sería suficiente para brindar un refugio seguro a los investigadores de seguridad.

En general, la actualización trienal del marco legal que rodea los derechos de autor digitales beneficia a los investigadores de seguridad, al igual que la introducción de pautas más claras sobre lo que está permitido, dice Casey Ellis, fundador y consultor del servicio de pruebas de penetración de colaboración colectiva BugCrowd.

«Las aclaraciones sobre cosas como esta, y simplemente garantizar que los investigadores de seguridad estén trabajando en el entorno más propicio y claro posible, son importantes independientemente de la tecnología», afirma. «De lo contrario, terminas en una situación en la que las personas que lo poseen [large language models]o las personas que los implementan terminan siendo quienes esencialmente tienen el poder de controlar si se realiza o no una investigación de seguridad, y eso conduce a un resultado de seguridad deficiente para el usuario”.

Los investigadores de seguridad han obtenido cada vez más protección, obtenida con mucho esfuerzo, frente a procesamientos y demandas por realizar investigaciones legítimas. En 2022, por ejemplo, el Departamento de Justicia de Estados Unidos anunció esto Los fiscales no presentarían cargos contra los investigadores de seguridad con una violación de la Ley de Abuso y Fraude Informático (CFAA) si no causaron daño y realizaron la investigación de buena fe. Las empresas que demandan a los investigadores suelen ser avergonzadas y grupos como el Fondo de Investigación Legal de Seguridad y el Consejo de Política de Hacking Proporcionar recursos y defensas adicionales a los investigadores de seguridad bajo la presión de las grandes empresas.

En una publicación en su sitio web, el Centro de Políticas y Leyes de Ciberseguridad lo advirtió Aclaraciones de la Oficina de Derechos de Autor de EE. UU. “una victoria parcial” para los investigadores de seguridad: más claridad, pero no un puerto seguro. La Oficina de Derechos de Autor está organizada bajo la jurisdicción de la Biblioteca del Congreso.

«La brecha en la protección legal para la investigación de la IA ha sido reconocida por agencias reguladoras y policiales como la Oficina de Derechos de Autor y el Departamento de Justicia, pero de buena fe la investigación de la IA sigue careciendo de un puerto seguro legal claro». el grupo explicó. «Otras técnicas de investigación de la confiabilidad de la IA pueden seguir sujetas al riesgo de responsabilidad según la Sección 1201 de la DMCA, así como otras leyes contra la piratería informática, como la Ley de Abuso y Fraude Informático».

Un nuevo y valiente mundo legal

La rápida adopción de sistemas y algoritmos de IA generativos basados ​​en big data se ha convertido en un importante disruptor en el sector de las tecnologías de la información. Dado que muchos grandes modelos de lenguajes (LLM) se basan en la ingesta masiva de información patentada, el marco legal para los sistemas de IA inicialmente se basó en bases débiles.

Para los investigadores, las experiencias pasadas proporcionan ejemplos aterradores de lo que podría salir mal, dice Ellis de BugCrowd.

“Dado que se trata de un área tan nueva – y algunos de los límites son mucho menos claros que en la TI tradicional – la falta de claridad esencialmente siempre crea un efecto paralizador”, afirma. «Para las personas que son conscientes de esto, y muchos investigadores de seguridad tienen mucho cuidado de no infringir la ley en su trabajo, esto ha generado una serie de preguntas por parte de la comunidad».

El Centro de Políticas y Leyes de Ciberseguridad y el Consejo de Política de Hacking propusieron eximir de la DMCA los equipos rojos y las pruebas de penetración para probar la seguridad de la IA, pero el Bibliotecario del Congreso recomendó rechazar la exención propuesta.

La Oficina de Derechos de Autor «reconoce la importancia de la investigación de la confiabilidad de la IA como una cuestión de política y señala que el Congreso y otras agencias pueden estar en la mejor posición para responder a esta cuestión emergente». indicado en la entrada del registroy agregó que «los impactos adversos identificados por los defensores se deben al control de plataformas en línea por parte de terceros y no a la aplicación de la Sección 1201, por lo que una exención no aliviaría sus preocupaciones».

No hay vuelta atrás

A medida que las grandes empresas invierten enormes cantidades de dinero en entrenar los próximos modelos de IA, los investigadores de seguridad podrían encontrarse en la mira de patrocinadores bastante adinerados. Afortunadamente, la comunidad de seguridad ha establecido prácticas bastante bien definidas para abordar las vulnerabilidades, afirma Ellis de BugCrowd.

«La idea de que la investigación en seguridad es algo bueno se ha generalizado… por lo que el primer instinto de las personas que utilizan una nueva tecnología es no sufrir una gran caída como la que hemos visto en el pasado», afirma. y cartas de desistimiento y [other communications] iba y venía mucho más silencioso y el volumen era bastante bajo”.

En muchos sentidos, los evaluadores de penetración y los equipos rojos se centran en los problemas equivocados. El mayor desafío en este momento es superar la exageración y la desinformación sobre las capacidades y la seguridad de la IA, dice Gary McGraw, fundador del Instituto Berryville de Aprendizaje Automático (BIML) y especialista en seguridad de software. El objetivo del equipo rojo es encontrar problemas, no un enfoque proactivo de la seguridad, afirma.

«Tal como están hoy, los sistemas de aprendizaje automático tienen vulnerabilidades que pueden exponerse mediante piratería, pero no solucionarse», afirma.

Las empresas deberían centrarse en encontrar formas de producir LLM que no presenten hechos (es decir, que “alucinen”) ni sean vulnerables a una inyección instantánea, dice McGraw.

«No formaremos un equipo rojo ni realizaremos pruebas de penetración en nuestro camino hacia la confiabilidad de la IA; la verdadera forma de proteger el aprendizaje automático es a nivel de diseño, con un fuerte enfoque en los datos de entrenamiento, la representación y la evaluación», afirma. «Los pentests tienen un gran atractivo sexual pero una eficacia limitada».