La ONU aprueba una resolución para una IA segura

Las Naciones Unidas aprobaron el jueves una resolución sobre el uso responsable de la inteligencia artificial, cuyas implicaciones para la seguridad global de la IA no están claras.

El Propuesta elaborada por EE.UU. – copatrocinado por 120 países y adoptado sin votación – se centra en promover una “inteligencia artificial segura y confiable”, una frase repetida 24 veces en el documento de ocho páginas.

Este paso indica una conciencia de los problemas acuciantes que plantea la IA en la actualidad: su papel en las campañas de desinformación y su capacidad para exacerbar los abusos de los derechos humanos y la desigualdad entre y dentro de las naciones, entre otras cosas, pero no pide nada a nadie y, en particular, menciona las amenazas a la ciberseguridad solo en términos generales.

«Hay que reunir a las personas adecuadas y creo que, con suerte, esto será un paso en esa dirección», afirma Joseph Thacker, ingeniero jefe de inteligencia artificial e investigador de seguridad en AppOmni. En general, cree, “se nota”. [to member states]’Oye, acordamos esto’. Y ahora estás estancado».

Lo que dice la resolución

La mención más directa de las amenazas a la ciberseguridad provenientes de la IA en la nueva resolución de la ONU se encuentra en la subsección 6f, que insta a los Estados miembros a “aumentar sus inversiones en el desarrollo y la implementación de salvaguardias efectivas, incluida la seguridad física, la seguridad de los sistemas de inteligencia artificial y la gestión de riesgos”. .” . el ciclo de vida de los sistemas de inteligencia artificial”.

Thacker destaca la elección del término «seguridad del sistema». Dice: «Me gusta este término porque creo que lo abarca todo». [development] Ciclo de vida y no sólo seguridad”.

Otras propuestas se centran más en la protección de datos personales, incluidos “mecanismos de seguimiento y gestión de riesgos, mecanismos de garantía de datos, incluida la protección de datos y políticas de protección de datos, y evaluaciones de impacto, cuando corresponda”, tanto en la auditoría como en la evaluación posterior al despliegue de la IA. sistemas.

«Al principio, esto no supone un cambio mundial, pero la estabilización a nivel global -tener al menos un estándar básico de lo que consideramos aceptable o inaceptable- es bastante grande», dice Thacker.

Los gobiernos están abordando el problema de la IA

Esta última resolución de la ONU es el resultado de fuertes medidas adoptadas por los gobiernos occidentales en los últimos meses.

Como siempre, la Unión Europea estuvo allí con su pionero ley de IA. La ley prohíbe ciertos usos de la tecnología (como la creación de sistemas de puntuación social y la manipulación del comportamiento humano) e impone sanciones por incumplimiento que pueden ascender a millones de dólares o porciones significativas de los ingresos anuales de una empresa.

La Casa Blanca de Biden también avanzó con uno Orden ejecutiva el otoño pasadoliderar a los desarrolladores de inteligencia artificial para compartir información de seguridad crítica, desarrollar programas de ciberseguridad para encontrar y remediar vulnerabilidades y prevenir fraudes y abusos, resumiendo todo, desde los medios de desinformación hasta los terroristas que usan chatbots para desarrollar armas biológicas.

Queda por ver si los políticos tendrán una influencia significativa y generalizada en la seguridad de la IA, dice Thacker, entre otras cosas porque «la mayoría de los líderes de los países envejecen naturalmente a medida que ascienden lentamente en la cadena de poder». .”

«Si intentara ilustrar o cambiar el futuro de la IA y su seguridad, mi objetivo sería puramente educativo». [World leaders’] “Las agendas están muy ocupadas, pero tienen que aprenderlo y entenderlo para poder legislarlo y regularlo adecuadamente”, subraya.