Black Hat Europe 2023: ¿Deberíamos regular la IA?

Vivimos el progreso

ChatGPT probablemente diría: «¡Por supuesto que no!», pero ¿aprenderemos alguna lección de la prisa por regular la IoT en el pasado?

11 de diciembre de 2023
•
,
3 minutos. leer

Mantenerse al día con el avance acelerado de la tecnología es un desafío para cada uno de nosotros, especialmente para los formuladores de políticas del sector público que tradicionalmente siguen en lugar de liderar. la semana pasada, que Sombrero Negro Europa La conferencia, celebrada en Londres, brindó la oportunidad de escuchar directamente a varios funcionarios del gobierno del Reino Unido y otras personas responsables de asesorar al gobierno del Reino Unido sobre la política de ciberseguridad.

Regulaciones tardías y caballos perdidos

Todos los gobiernos parecen sufrir de reactividad: cerrar la puerta del establo después de que el caballo se ha escapado es una buena frase para describir la mayoría de las decisiones políticas. Tomemos como ejemplo las conversaciones actuales sobre la inteligencia artificial (IA); Los políticos expresan abiertamente la necesidad de normas y leyes que garanticen que la IA se utilice de forma ética y en beneficio de la sociedad. Pero eso viene después de que lo haga la IA. ya estuve alli durante muchos años y se utiliza de alguna forma en muchas tecnologías. Entonces, ¿por qué esperar hasta que surja y esté disponible para una amplia audiencia para iniciar una discusión sobre estándares éticos? ¿No deberíamos haber hecho esto antes?

Otro ejemplo, quizás mejor, es la legislación que rodea a los dispositivos de Internet de las cosas (IoT) centrados en el consumidor. El gobierno británico publicó un reglamento en 2023 De ahí han surgido leyes similares. la Unión EuropeaY California Los requisitos para los fabricantes ya se implementaron en 2020. El establecimiento de estándares y directrices para los fabricantes de dispositivos IoT probablemente debería haber ocurrido en 2010, cuando había menos de mil millones de dispositivos conectados a IoT, y esperar hasta que hubiera 10 mil millones de dispositivos en 2020, o algo peor: dado que habrá casi 20 mil millones de dispositivos. En 2023, hacer cumplir los dispositivos existentes es imposible.

¿Lecciones aprendidas o errores por cometer?

La discusión del equipo del gobierno del Reino Unido en Black Hat incluyó un enfoque ahora en los estándares requeridos para los dispositivos de IoT empresariales. Estoy seguro de que la mayoría de las empresas ya han realizado importantes inversiones en dispositivos conectados clasificados como IoT y que un estándar adoptado ahora no puede aplicarse con carácter retroactivo y tendrá poco o ningún impacto en los miles de millones de dispositivos que ya están en uso.

Las normas y lineamientos tienen un propósito y un elemento importante es educar a la población sobre el uso y adopción correctos de la tecnología. Usando el ejemplo anterior de IoT para el consumidor, estoy seguro de que la mayoría de los consumidores ahora entienden que es necesario configurar una contraseña única en cada dispositivo y que es posible que se requieran actualizaciones frecuentes de software para garantizar la seguridad. ¡Estoy emocionado de ver si siguen el consejo!

El problema con la política y el caballo desbocado podría ser que los votantes no entenderían por qué su gobierno se está centrando en cosas de las que nunca han oído hablar. Imagínese si los formuladores de políticas comenzaran a legislar sobre IoT o dispositivos conectados ya en 2008, antes de que la mayoría de nosotros hubiera siquiera imaginado que podríamos llenar nuestros hogares con dispositivos conectados en tiempo real. Los medios y los votantes habrían asumido que los legisladores estaban desperdiciando el dinero de los contribuyentes en algo de lo que nunca habíamos oído hablar. Sin embargo, en un mundo perfecto, 2008 habría sido un buen momento para establecer estándares para los dispositivos IoT. Del mismo modo, el uso ético de la IA debería haberse discutido cuando las empresas de tecnología comenzaron a desarrollar soluciones que aprovechan la tecnología, en lugar de cuando comenzaron a lanzar productos y servicios.

Pensamientos de última hora

Esta sesión de la conferencia se dividió en dos partes; La primera mitad explicó en qué políticas y áreas se está centrando el gobierno del Reino Unido, mientras que la segunda mitad fue una sesión abierta de preguntas y respuestas con los participantes. Esta segunda mitad se consideró “en la sala”, lo que permitió a los responsables de las políticas mantener debates abiertos con los participantes sin el riesgo de que lo discutido se hiciera público. Por lo tanto, de acuerdo con los deseos de los oradores y otros participantes, me abstendré de comentar lo que se debatió después de que se haya hecho la declaración «en la sala».

Sin embargo, no estoy de acuerdo con la implementación de una puerta trasera de cifrado y no lo he expresado en la sala.

Antes de que te vayas: Conferencia RSA 2023: cómo la IA se infiltrará en el mundo