Mientras las potencias mundiales exploran robots humanoides, se avecinan riesgos cibernéticos

Olvídese de los modelos informales de lenguaje grande (LLM) y de los agentes de inteligencia artificial (IA): las superpotencias globales ya están construyendo un futuro en torno a la IA incorporada y utilizando ciberataques para tomar ventaja en ella.

Algunos expertos dicen que está en marcha una nueva revolución industrial. La primera vez fue sobre manufactura y energía de vapor, la segunda vez fue sobre ferrocarriles y electricidad, y más recientemente sobre Internet y telecomunicaciones. Esta vez el cambio podría estar liderado por sistemas de IA incorporados – Robots que se mueven como humanos o animales.

Mientras las empresas y los Estados-nación luchan por la supremacía en la robótica inteligente, ya están surgiendo nuevos campos de batalla y riesgos cibernéticos. Joseph Rooke de Recorded Future dará una charla en Infosecurity Europe la próxima semana Giro centrado en la ciberseguridad en una charla popular Ha cubierto políticas de poder, amenazas a la cadena de suministro y escenarios de ciberataques en torno a los sistemas de IA incorporados, tanto hoy como en el futuro.

Relacionado:El ataque holandés no puede contener al ejército ruso a prueba de balas

«La carrera ha comenzado», afirma, «y en este momento la seguridad de muchos de estos sistemas es profundamente preocupante».

Riesgos cibernéticos en la IA incorporada

A medida que la cinemática se ponga al día con el resto de la tecnología de IA, los expertos predicen una explosión de sistemas incorporados. El año pasado, Morgan Stanley predijo que podría haber alrededor de 300 millones de ellos sólo en China para 2050, utilizados en plantas industriales, unidades militares y en cualquier otro lugar donde pudieran resultar útiles.

Invertir en humanoides podría ser un paso proactivo para contrarrestar la disminución de la población. También podría ser una conspiración para sustituir a los trabajadores humanos por máquinas sin salario. Cualquiera sea el caso, el movimiento está en pleno apogeo. Los robots humanoides ya han desempeñado un papel importante en las iniciativas del Partido Comunista Chino (PCC), y los drones desempeñan un papel destacado. Guerra Rusia-Ucraniay actualmente puedes comprar un perro robot online por unos miles de dólares.

Los riesgos potenciales de los sistemas de IA incorporados se limitan únicamente a la imaginación. Los robots que mueven los brazos o disparan cosas suponen un riesgo evidente para la seguridad de quienes los rodean. Los robots que viven en hogares y fábricas pueden robar datos no sólo a través de Internet, sino también a través de sus ojos y oídos. También pueden ser pirateados a través de los mismos canales.

Por eso no ayuda que los robots construidos hasta ahora hayan demostrado ser tan problemáticos. Los pocos investigadores centrados en esta área desmantelaron los robots Unitree, los humanoides más populares del mercado, hace nueve días. Han demostrado que las máquinas envían datos privados de los usuarios a China sin consentimiento. encontraron varios Puertas traseras Permiten un control completo y no autorizado y muestran cómo pueden explotarse o transferirse de forma inalámbrica de un bot a otro en un minuto. «Eso fue realmente aterrador: cosas de iRobot. En ese caso, una flota podría verse comprometida», recuerda Rooke.

Relacionado:Centrarse en el seguro cibernético: cómo la cuantificación del riesgo está transformando la seguridad

Al igual que los grandes modelos de lenguaje (LLM) y la IA agente, las empresas simplemente están lanzando al mercado IA incorporada sin considerar plenamente los riesgos involucrados, dice Rooke. «Es una carrera real y creo que se están perdiendo cosas. Y esa es mi preocupación ahora con el mercado de robótica estadounidense: ¿se van a perder algo?».

Espionaje chino en el sector minero

La ciberseguridad para robots inteligentes implica mucho más que simplemente proteger a los robots. Las cadenas de suministro necesarias para construir sistemas de IA incorporados también están madurando y expandiéndose, lo que demuestra ser un terreno fértil para el ciberespionaje comercial y geopolítico.

Para los robots humanoides, existen muchas amenazas cibernéticas para los modelos de IA con los que están construidos, los centros de datos de los que dependen, los semiconductores que los alimentan, etc. Fuentes de energía se utiliza en cada paso del camino. Pero Rooke señala un creciente universo de ataques contra la industria minera global.

¿Por qué minería? Porque a medida que crezca el mercado de la IA incorporada y sus componentes, los elementos de tierras raras y otros minerales críticos tendrán una gran demanda. Quien controle estos recursos naturales ejercerá un poder inmenso en la llamada cuarta revolución industrial, y muchos yacimientos ricos se encuentran en lugares legalmente oscuros como el Ártico y otros. espacio.

Relacionado:Verizon DBIR: la atención médica se defiende de los crecientes ataques de ingeniería social

Ya sea para conocer los planes futuros de otros países, sabotearlos o robar sus tecnologías mineras, La avanzada amenaza actual de China En particular, los grupos (APT) han estado activos en esta área. Recorded Future ha rastreado un puñado de campañas chinas de ciberespionaje específicas para la minería durante la última media década, y muchas más que pueden haber estado relacionadas con la minería de una forma u otra.

Si hay un contrato minero en juego, «podrían penetrar una red ministerial, o descubrirán en la fase de reconocimiento: ¿Cómo podemos socavar esta oferta? Se trata de obtener esa ventaja», dice Rooke.

Afortunadamente, añade: «No diría que por el momento todo es destructivo; se trata más bien de espionaje».