La Casa Blanca revela reglas de inteligencia artificial para garantizar la seguridad y la privacidad
La administración de Biden anunciado hoy un nuevo intento de abordar los riesgos que rodean a la inteligencia artificial generativa (IA), que avanza a una velocidad vertiginosa y suenan las alarmas entre los expertos de la industria.
La vicepresidenta Kamala Harris y otros funcionarios de la administración se reunirán hoy con los directores ejecutivos de Google, Microsoft, OpenAI, el creador del popular chatbot ChatGPT y la startup de inteligencia artificial Anthropic. Los funcionarios del gobierno planean discutir la «responsabilidad fundamental» que tienen estas empresas para garantizar que sus productos de IA sean seguros y protejan la privacidad de los ciudadanos estadounidenses a medida que la tecnología se vuelve más poderosa y está capacitada para tomar decisiones independientes.
“La IA es una de las tecnologías más poderosas de nuestro tiempo, pero para capitalizar las oportunidades que presenta, primero debemos mitigar sus riesgos”, dijo la Casa Blanca en un comunicado. «El presidente Biden dejó en claro que cuando se trata de IA, debemos poner a las personas y las comunidades en primer lugar al apoyar la innovación responsable que sirva al bien común mientras protege nuestra sociedad, seguridad y economía».
Este nuevo esfuerzo se basa en intentos anteriores de la administración Biden de fomentar alguna forma de innovación responsable, pero hasta la fecha, el Congreso no ha logrado avanzar en la legislación que regiría en IA. En octubre, la administración reveló una Plan para la llamada «Declaración de Derechos de la IA» y un marco de gestión de riesgos de IA; Más recientemente, ha impulsado una hoja de ruta para establecer un recurso nacional de investigación de IA.
Las medidas no tienen fuerza legal; Son solo más orientación, estudio e investigación «y no son lo que necesitamos en este momento», dijo Avivah Litan, vicepresidente y analista distinguido de Gartner Research.
«Necesitamos una guía clara sobre cómo desarrollar una IA segura, justa y responsable por parte de los reguladores estadounidenses», dijo. “Necesitamos regulaciones sensatas, como las vemos en desarrollo UE con la ley de IA. Es posible que no lo hagan todo perfecto de una sola vez, pero al menos están avanzando y dispuestos a hacerlo de nuevo. Los reguladores de EE. UU. necesitan mejorar su juego y su ritmo».
En marzo, el líder de la mayoría del Senado, Chuck Schumer, D-NY, planes anunciados para reglas en torno a la IA generativa a medida que ChatGPT creció en popularidad. Schumer pidió más transparencia y responsabilidad en las tecnologías de IA.
Estados Unidos ha sido un defensor de la búsqueda de reglas de IA. A principios de esta semana, la Unión Europea dio a conocer la Ley de IA, un conjunto de reglas propuesto que, entre otras cosas, requeriría que los fabricantes de herramientas de IA generativa publiquen material protegido por derechos de autor utilizado por las plataformas de creación de contenido. China lidera el mundo en adopción varias iniciativas de gobernanza de IAaunque la mayoría de estas iniciativas se relacionan con la privacidad de los ciudadanos y no necesariamente con la seguridad.
Entre las iniciativas de la Casa Blanca se encuentra un plan para que la Fundación Nacional de Ciencias gaste $140 millones para crear siete nuevos centros de investigación sobre IA.
El gobierno también dijo que había recibido un «compromiso independiente de los principales desarrolladores de IA», incluidos Anthropic, Google, Hugging Face, Microsoft, NVIDIA, OpenAI y Stability AI, para participar en una evaluación pública de los sistemas de IA de acuerdo con los principios de Participar. en divulgación responsable, en una plataforma de calificaciones desarrollada por Scale AI, en AI Village en DEFCON 31.
“Esto permite que estos modelos sean evaluados minuciosamente por miles de socios comunitarios y profesionales de IA para examinar cómo se alinean los modelos con los principios y prácticas descritos en la administración de Biden Harris”, dijo la Casa Blanca.
Tom Siebel, director general del proveedor de aplicaciones empresariales de IA IA C3 y fundador del proveedor de software CRM Siebel Systems, dijo esta semana que había que argumentar que los proveedores de IA podían regular sus propios productos, pero que era poco probable que estuvieran dispuestos a controlar la tecnología en un sistema capitalista y competitivo.
“Me temo que no tenemos muy buenos antecedentes allí; Me refiero a ver Facebook para obtener más detalles», dijo Siebel a una audiencia. Conferencia EmTech de MIT Technology Review. “Me gustaría pensar que la autorregulación funcionaría, pero el poder corrompe y el poder absoluto corrompe absolutamente”.
El anuncio de la Casa Blanca se produce después de que decenas de miles de tecnólogos, científicos, educadores y otros firmaron sus nombres. una petición que pide a OpenAI que haga una pausa de seis meses Mayor desarrollo de ChatGPT, que actualmente se ejecuta en el Modelo de lenguaje grande GPT-4 (LLM) algoritmo.
Los tecnólogos están alarmados por el rápido aumento de la IA, desde la mejora de tareas como las búsquedas en línea hasta la creación de software realista en prosa y código a partir de indicaciones simples, hasta la creación de videos y fotos, todo casi indistinguible de las imágenes reales.
A principios de esta semana, Geoffrey Hinton, conocido como «el padrino de la IA» por su trabajo en el espacio durante los últimos 50 años, anunció su renuncia a Google como compañero ingeniero allí. En relación con su renuncia, envió una carta a Los New York Times sobre la amenaza existencial que plantea la IA.
Hablando en la conferencia EmTech ayer, Hinton explicó cuán terribles son las consecuencias y cuán poco se puede hacer, ya que las industrias y los gobiernos ya están luchando para ganar la guerra de la IA.
“Es como si algunos ingenieros genéticos dijeran que vamos a mejorar los osos pardos; Ya los hemos actualizado a 65 IQ y ahora pueden hablar inglés y son muy útiles para todo tipo de cosas. Pero creemos que podemos mejorar el coeficiente intelectual a 210″, dijo Hinton a una audiencia de unas 400 personas en la escuela.
La IA puede ser de autoaprendizaje y se volverá exponencialmente más inteligente con el tiempo. Eventualmente, comenzará a pensar por sí mismo en lugar de necesitar el aporte humano. Una vez que eso suceda, es poco lo que se puede hacer para detener lo que Hinton cree que es inevitable: la extinción humana.
Habremos aprendido estas cosas leyendo todas las novelas que escribió Maquiavelo. [about] cómo manipular a la gente”, dijo. «Y si son mucho más inteligentes que nosotros, serán muy buenos manipulándonos. No te darás cuenta de lo que está pasando. Serás como un niño de dos años al que le preguntan: «¿Quieres los guisantes o la coliflor?» y no se da cuenta de que no tienes que comer ninguno de los dos. Y serás tan fácil de manipular».
Hinton dijo que su «única esperanza» es que gobiernos rivales como EE. UU. y China puedan estar de acuerdo en que permitir que la IA gobierne por completo es malo para todos. “Todos estamos en el mismo barco sobre la amenaza existencial, por lo que todos deberíamos poder trabajar juntos para tratar de detenerlo”, dijo Hinton.
Otros en el evento del MIT estuvieron de acuerdo. Siebel describió la IA como mas poderoso y peligroso que la invención de la máquina de vapor que inició la revolución industrial.
AI, dijo Siebel, pronto podrá imitar cualquier tipo de contenido ya creado por humanos (informes de noticias, fotos, videos) sin detección, y cuando eso suceda, no habrá una manera fácil de saber qué es real y qué es no lo que es falso.
“Y las consecuencias dañinas de eso son simplemente aterradoras. Hace que un futuro orwelliano parezca el Jardín del Edén en comparación con lo que puede suceder aquí», dijo Siebel. “Podría ser muy difícil dirigir una sociedad democrática libre y abierta. Esto necesita ser discutido. Debe ser discutido en la academia. Tiene que ser discutido en el gobierno”.
Margaret Mitchell, científica sénior de ética del proveedor de aplicaciones de aprendizaje automático Hugging Face, dijo que las aplicaciones generativas de inteligencia artificial como ChatGPT podrían construirse con fines positivos, pero cualquier tecnología poderosa también podría usarse con fines maliciosos.
«Se llama de doble uso», dijo. «No sé si hay alguna forma de tener algún tipo de garantía de que cualquier tecnología que presente no sea de doble uso».
Regina Sam Penti, socia de una firma de abogados internacional Cuerdas y LLP gris, dijo a los asistentes a la conferencia del MIT que las empresas que desarrollan IA generativa y las organizaciones que compran y usan los productos tienen responsabilidad legal. Pero la mayoría de las demandas hasta ahora se han dirigido a los desarrolladores de Large Language Model (LLM).
Cuando se trata de IA generativa, Penti dice que la mayoría de los problemas giran en torno al uso de datos, que se debe a que los LLM consumen grandes cantidades de datos e información «recolectados de todos los rincones del mundo».
“Entonces, si construye esos sistemas, probablemente enfrentará alguna responsabilidad”, dijo Penti. “Especialmente si usa grandes cantidades de datos. No importa si utiliza los datos usted mismo o si los obtiene de un proveedor».
Derechos de autor © 2023 IDG Communications, Inc.
Hemos recibido este contenido de ciberseguridad de: CSO Online
Llegarás a la noticia original en el siguiente enlace: https://www.computerworld.com/article/3695731/white-house-unveils-ai-rules-to-address-safety-and-privacy.html#tk.rss_news
