La carrera para detener el fraude de clonación de votos está en marcha

Fraude

A medida que la clonación de voz impulsada por IA acelera las estafas de impostores, nos sentamos con Jake Moore de ESET para discutir cómo colgar llamadas fraudulentas de «alta fidelidad» y qué depara el futuro para la detección de deepfake.

23 de enero de 2024
•
,
4 minutos de lectura

¿Caería en una llamada falsa de su director ejecutivo pidiéndole que transfiera dinero? Como nuestro colega Jake Moore lo descubrió, tal vez. A medida que las computadoras con ciclos informáticos libres reciben cada vez más datos de entrenamiento, los deepfakes son cada vez mejores. Aliméntelos con un largo discurso de CEO y obtendrán tono, inflexión y otros patrones de discurso matizados que eventualmente pueden hacerlos bastante convincentes.

Al menos en Estados Unidos ya hay uno. Competencia para romper lo falso.y, con suerte, encontrar formas de equipar los sistemas de defensa con la capacidad de frustrar el ataque correspondiente. En el desafío, creado por la Comisión Federal de Comercio (FTC), los participantes piratearon cada pieza de tecnología que pudieron encontrar para evitar la suplantación de voz y ganaron un premio de 25.000 dólares.

Han existido competencias para todo, desde diseños de trajes espaciales hasta vehículos autónomos y tecnologías solares, y ahora apuntan a aumentar el interés y la participación en el espacio de defensa deepfake y crear una carrera para proteger a los consumidores del daño causado por la clonación de voz impulsada por IA. Una vez que haya iniciado sesión a través del portal, sus ideas pueden competir con otros enfoques para, con suerte, ganar oro.

Todavía me pregunto si esto puede detener a alguien como Jake, así que le pregunté.

P: ¿Podrán las organizaciones defenderse contra esta amenaza utilizando tecnologías actuales y ampliamente disponibles (y, de ser así, cuáles)?

Jake: Desafortunadamente, no creo que la respuesta esté todavía en tecnologías de contramedida para combatir este problema en evolución. Todavía estamos en los primeros días de esta nueva era de la IA y muchas empresas están lidiando con la idea de usos y capacidades buenos, malos y feos. La tecnología evoluciona constantemente para ayudar a quienes la necesitan, pero como ocurre con cualquier etapa inicial de una nueva tecnología, el rápido ritmo de dicho movimiento no puede seguir el ritmo del cambio en las demandas ilegales que utiliza para defraudar a personas y empresas.

P: Las mismas preguntas para individuos, ¿está pensando en estafas a pensionados, estafas románticas y similares?

Jake: La IA ha permitido a los estafadores llevar a cabo sus acciones a una escala mucho mayor que antes, lo que significa que el juego de los números ahora se ha vuelto aún mayor. Cuando se ataca a más personas, la recompensa es mucho mayor y los estafadores realmente no tienen que hacer ningún esfuerzo adicional para lograrlo.

Sin embargo, las personas deben seguir estando más atentas a todas las estafas, desde las clásicas hasta las tendencias actuales. Especialmente con el nacimiento de la clonación de voces y la falsificación de imágenes con una precisión alucinante, la gente debe dejar de pensar así. Ver (y oír) para creer. Ser conscientes de que este tipo de estafas es posible dará a los afectados la confianza para cuestionar dichas comunicaciones con más cuidado y les enseñará a no tener miedo de cuestionar sus acciones.

Hay muchas guías en línea para crear conciencia sobre este tipo de estafas, y las personas necesitan actualizarse constantemente con la información más reciente para estar y mantenerse protegidos.

q: ¿Qué pueden hacer los equipos de fraude institucional para disuadir los ataques a sus usuarios/clientes y quién debería pagar cuando las personas son estafadas?

Jake: De forma predeterminada, los equipos contra el fraude deben brindar capacitación a toda costa, tanto anualmente como ad hoc, a todos los miembros de una organización. Los ataques de simulación y los juegos de guerra también ayudan a transmitir el mensaje de una manera interesante y añaden una dinámica más interesante a un problema grave, haciendo posible el fracaso en un entorno seguro.

Una vez que las personas hayan experimentado la idea de un ataque moderno y hayan sido testigos de primera mano de la escala de esta nueva tecnología, será más probable que recuerden los consejos dados en el momento de un ataque real. La IA sigue siendo muy impresionante. Ver los deepfakes en acción en un entorno seguro brinda la oportunidad de demostrar las consecuencias potencialmente peligrosas que también pueden causar, sin crear demasiado factor de miedo.

P: Este es claramente un juego del gato y el ratón. Entonces ¿quién ganará?

Jake: Desde el principio hubo una persecución de “policías contra ladrones”, en la que los ladrones normalmente iban unos pasos por delante. Sin embargo, a medida que la tecnología mejora, debemos asegurarnos de no quedarnos atrás y dar a los estafadores una ventaja aún mayor.

Es fundamental que las personas estén equipadas con las herramientas y los conocimientos adecuados para defenderse mejor de estos ataques inevitables, de modo que los estafadores no siempre ganen. Al mantenerse actualizados sobre los últimos vectores de ataque y las estafas en evolución, las personas y las empresas tienen más posibilidades de defenderse contra esta nueva ola de ataques tecnológicos.

Una cosa es segura: ésta ya no es una amenaza teórica. Espere que 2024 y más allá sea el momento en que los estafadores encuentren muy rápidamente nuevas formas automatizadas de lanzar ataques activados por voz, particularmente en respuesta a eventos catastróficos en los que un funcionario de confianza le “pide” que haga algo. Todo sonará convincente, con un aire de urgencia y con lo que parece ser una autenticación multifactor audible, pero aun así puedes ser estafado incluso si has “escuchado de un funcionario en persona”.

Gracias por tu tiempo, Jake.