¿Un arma de engaño masivo?

Seguridad digital

A medida que las imágenes ficticias, los vídeos y los clips de audio de personas reales se vuelven cada vez más populares, la perspectiva de una avalancha de desinformación impulsada por la IA es una preocupación creciente.

13 de febrero de 2024
•
,
5 minutos. leer

Desde entonces, las noticias falsas copan los titulares de la campaña electoral. se convirtió en una gran historia durante la carrera por la Casa Blanca en 2016. Pero ocho años después, existe una amenaza posiblemente mayor: una combinación desinformación Y falsificaciones profundas Esto podría engañar incluso a los expertos. Es probable que haya sucedido recientemente. Ejemplos de contenido relacionado con las elecciones generado por IA, incluidas muchas imágenes y videos que circulan En vísperas de las primarias argentinas y un Audio manipulado del presidente estadounidense Joe Biden. – fueron presagios de lo que probablemente sucederá a mayor escala.

con alrededor de uno cuarta parte de la población mundial Antes de las elecciones de 2024, crece la preocupación de que actores nefastos puedan utilizar la desinformación y los trucos basados ​​en inteligencia artificial para influir en los resultados, y muchos expertos temen las consecuencias si los deepfakes se generalizan.

La amenaza de la desinformación deepfake

Como se mencionó anteriormente, no menos de dos mil millones de personas acudirán este año a sus colegios electorales locales para votar por sus representantes y jefes de Estado preferidos. Dado que se celebrarán elecciones importantes en más de un país, incluidos Estados Unidos, el Reino Unido y la India (así como para el Parlamento Europeo), esto tiene el potencial de cambiar el panorama político y la dirección de la geopolítica en los próximos años, y más allá de.

Al mismo tiempo, sin embargo, recientemente ha surgido información errónea y desinformación. rango calificado por el Foro Económico Mundial (FEM) como el mayor riesgo global de los próximos dos años.

El desafío con los deepfakes es que la tecnología impulsada por la inteligencia artificial ahora es barata, accesible y lo suficientemente poderosa como para causar un daño generalizado. democratiza la capacidad de los ciberdelincuentes, los actores estatales y los hacktivistas para lanzar campañas de desinformación convincentes y más. Estafas puntuales y ad hoc. Esta es una de las razones por las que el WEF recientemente clasificó la desinformación como el principal riesgo global para los próximos dos años y el segundo mayor riesgo actual después del clima extremo. Esto es lo que dijeron 1.490 expertos de la ciencia, las empresas, el gobierno, la comunidad internacional y la sociedad civil que encuestó el FEM.

El informe advierte:“El contenido sintético manipulará a los individuos, dañará las economías y dividirá a las sociedades de muchas maneras durante los próximos dos años… Existe el riesgo de que algunos gobiernos actúen con demasiada lentitud y enfrenten una disyuntiva entre prevenir la desinformación y proteger la libre expresión”.

(Profundo) Pretensión

El desafío es que herramientas como ChatGPT y la IA generativa de acceso abierto (GenAI) han permitido que una gama más amplia de personas participen en la creación de campañas de desinformación basadas en tecnología deepfake. El arduo trabajo realizado en su nombre les da a los actores malintencionados más tiempo para trabajar en sus esfuerzos de mensajería y amplificación para garantizar que su contenido falso sea visto y escuchado.

En un contexto electoral, los deepfakes obviamente podrían usarse para socavar la confianza de los votantes en un candidato en particular. Después de todo, es más fácil convencer a alguien de que no haga algo que al revés. Si los partidarios de un partido político o candidato pueden ser influenciados adecuadamente mediante grabaciones de audio o vídeo falsas, sería una clara victoria para los grupos rivales. En algunas situaciones, los Estados rebeldes pueden intentar socavar la confianza en todo el proceso democrático, dificultando que el ganador gobierne con legitimidad.

En el centro del desafío se encuentra una verdad simple: cuando las personas procesan información, tienden a valorar la cantidad y la facilidad de comprensión. Esto significa que cuanto más contenido veamos con un mensaje similar y más fácil de entender, más probabilidades tendremos de creerlo. Por este motivo, las campañas de marketing suelen consistir en mensajes breves y repetidos constantemente. Si a esto le sumamos el hecho de que cada vez es más difícil distinguir los deepfakes del contenido real, tenemos una receta potencial para un desastre democrático.

De la teoría a la práctica

Lo preocupante es que es probable que los deepfakes tengan un impacto en el sentimiento de los votantes. Tomemos este nuevo ejemplo: en enero de 2024, un audio deepfake del presidente estadounidense Joe Biden fue puesto en circulación a través de una llamada automática a un número desconocido de votantes del código de área de New Hampshire. En el mensaje, aparentemente los instó a no votar y, en cambio, a “guardar su voto para las elecciones de noviembre”. El número de identificación de llamadas que se muestra también fue falsificado para que pareciera que el mensaje automático fue enviado desde el número personal de Kathy Sullivan, ex presidenta estatal del Partido Demócrata que ahora es líder del súper PAC pro-Biden.

No es difícil imaginar cómo se podrían utilizar esos llamamientos para disuadir a los votantes de elegir a su candidato preferido antes de las elecciones presidenciales de noviembre. El riesgo es particularmente grande en elecciones muy disputadas, donde el cambio de un pequeño número de votantes de un lado al otro determina el resultado. Dado que es probable que sólo decenas de miles de votantes en unos pocos estados indecisos decidan el resultado de las elecciones, una campaña dirigida como ésta podría causar daños incalculables. Para empeorar las cosas, como en el caso anterior, la enfermedad se propagó a través de llamadas automáticas, no de las redes sociales. Es aún más difícil rastrear o medir el impacto.

¿Qué están haciendo las empresas de tecnología al respecto?

Tanto YouTube como Facebook son se dice que fue lento en respuesta a algunos deepfakes destinados a influir en una elección reciente. Esto a pesar de una nueva ley de la UE (Ley de Servicios Digitales) que exige que las empresas de redes sociales contrarresten los intentos de manipular las elecciones.

Por su parte, OpenAI ha afirmado que implementará las referencias digitales de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) para las imágenes generadas por DALL-E 3. La tecnología de marca de agua criptográfica, que también está siendo probada por Meta y Google, tiene como objetivo dificultar la creación de imágenes falsas.

Sin embargo, estos son todavía sólo pequeños pasos y existen. preocupaciones legítimas que la respuesta tecnológica a la amenaza será demasiado escasa y demasiado tarde a medida que la fiebre electoral recorra el mundo. Especialmente cuando se propaga en redes relativamente cerradas, como grupos de WhatsApp o llamadas automáticas, será difícil detectar y exponer rápidamente archivos de audio o vídeo falsos.

La teoría del “sesgo de anclaje” sugiere que la primera información que la gente escucha es la que se nos queda grabada en la mente, incluso si resulta ser incorrecta. Si los deepfakers son los primeros en lograr cambiar a los votantes, todas las apuestas sobre quién será el ganador final están perdidas. En la era de las redes sociales y la desinformación impulsada por la inteligencia artificial, el dicho de Jonathan Swift: «La falsedad vuela y la verdad sigue» adquiere un significado completamente nuevo.