Tu voz es mi contraseña: los riesgos de la clonación de voz impulsada por IA
Seguridad digital
La clonación de voz impulsada por IA puede facilitar demasiado las cosas a los estafadores. Lo sé porque lo he probado, por lo que no es necesario que descubras los riesgos de la manera más difícil.
22 de noviembre de 2023
•
,
6 minutos de lectura
El reciente robando mi voz Me llevó a una nueva bifurcación en el camino con respecto al hecho de que la IA ya tiene el potencial de causar perturbaciones sociales. Me sorprendió tanto la calidad de la voz clonada (y el estilo extremadamente inteligente pero cómico de uno de mis colegas) que decidí usar el mismo software para propósitos «nefastos» y ver hasta dónde podía llegar. una pequeña empresa – ¡con permiso, por supuesto! Alerta de spoiler: fue sorprendentemente fácil de hacer y tomó muy poco tiempo.
“La IA es probablemente lo mejor o lo peor que le puede pasar a la humanidad.” – Stephen Hawking
Desde que el concepto de IA se volvió más común en películas de ficción como Blade Runner y Terminator, la gente ha cuestionado las inexorables posibilidades de lo que la tecnología podría hacer en el futuro. Pero sólo ahora, con bases de datos potentes, una potencia informática cada vez mayor y una mayor atención de los medios, hemos visto a la IA llegar a una audiencia global de maneras que son a la vez aterradoras y emocionantes. Con tecnologías como la inteligencia artificial acechando entre nosotros, es muy probable que experimentemos ataques creativos y bastante sofisticados con consecuencias dañinas.
Escapada de clonación de voz
mi anterior Funciones en la fuerza policial Me dio la mentalidad para intentar pensar como un criminal. Este enfoque tiene algunos beneficios muy tangibles pero subestimados: cuanto más piensas e incluso comportamiento Como un criminal (sin llegar a serlo), mejor protegido podrás estar. Esto es fundamental para mantenerse actualizado sobre las últimas amenazas y anticipar tendencias futuras.
Entonces, para probar algunas de las capacidades actuales de la IA, tuve que adoptar una vez más la mentalidad de un criminal digital y atacar a una empresa de manera ética.
Recientemente le pregunté a uno de mis contactos (llamémoslo Harry) si podía clonar su voz y usarla para atacar a su empresa. Harry estuvo de acuerdo y me permitió comenzar el experimento creando un clon de su voz usando un software disponible. Afortunadamente, fue relativamente fácil para mí conseguir la voz de Harry; a menudo graba videos cortos promocionando su negocio en su canal de YouTube, así que pude unir algunos de estos videos para crear una buena prueba de audio. En cuestión de minutos había creado un clon de la voz de Harry que sonaba exactamente igual a él para mí, y luego podía escribir cualquier cosa y reproducirla con su voz.
Para subir la apuesta, también decidí agregar más autenticidad al ataque. Robo de la cuenta de WhatsApp de Harry con la ayuda de un Ataque de intercambio de SIM – nuevamente con permiso. Luego envié un mensaje de voz desde su cuenta de WhatsApp a la directora financiera de su empresa (llamémosla Sally) solicitando un pago de £250 a un «nuevo contratista». En el momento del ataque, sabía que estaba en una isla cercana teniendo un almuerzo de negocios, lo que me dio la historia perfecta y la oportunidad de atacar.
El mensaje de voz decía dónde estaba y que necesitaba el pago del «encargado del plano» y que luego proporcionaría los datos bancarios por separado. Esto agregó la confirmación del sonido de su voz además del mensaje de voz agregado al hilo de WhatsApp de Sally, que fue suficiente para convencerla de que la solicitud era genuina. A los 16 minutos del primer mensaje, se transfirieron £250 a mi cuenta personal.
Debo admitir que me sorprendió lo fácil que fue y lo rápido que pude convencer a Sally de que la voz clonada de Harry era real.
Este nivel de manipulación funcionó debido a una serie convincente de factores interrelacionados:
- el número de teléfono del CEO lo confirmó,
- La historia que inventé encajaba con los acontecimientos del día y
- Por supuesto, el mensaje de voz sonaba como el del jefe.
En mi sesión informativa con la empresa y después de considerarlo un poco, Sally afirmó que sentía que esto era “más que suficiente” para satisfacer la solicitud. Por supuesto, desde entonces la empresa ha tomado más medidas de seguridad para proteger sus finanzas. ¡Y por supuesto he reembolsado las 250 £!
Robo de identidad en WhatsApp Business
Robar la cuenta de WhatsApp de otra persona Un ataque de intercambio de SIM podría ser una forma bastante larga de hacer que un ataque sea más creíble, pero es mucho más común de lo que piensas. Aun así, los ciberdelincuentes no tienen que esforzarse tanto para lograr el mismo resultado.
Por ejemplo, hace poco fui víctima de un ataque que a primera vista parecía creíble. Alguien me había enviado un mensaje de WhatsApp que decía ser de un amigo que es ejecutivo de una empresa de TI.
La dinámica interesante aquí fue que, aunque estoy acostumbrado a verificar información, este mensaje llegó con el nombre del contacto asociado en lugar de mostrarlo como un número. Esto fue de particular interés ya que no había guardado el número del que provenía en mi lista de contactos y supuse que aún aparecería como un número de teléfono móvil en lugar de un nombre.
Aparentemente lo engañaron simplemente creando una cuenta de WhatsApp Business, que permite agregar cualquier nombre, foto y dirección de correo electrónico a una cuenta y hacer que parezca real al instante. Agregue esto a la clonación de voz por IA y listo, hemos entrado en la próxima generación. Desarrollo Social.
Afortunadamente, supe que era una estafa desde el principio, pero muchas personas podrían caer en este simple truco que, en última instancia, podría conducir a la liberación de dinero en forma de transacciones financieras, las tarjetas prepago u otras tarjetas como la Apple Card son las más populares. ladrones cibernéticos.
A medida que el aprendizaje automático y la inteligencia artificial avanzan rápidamente y se vuelven cada vez más disponibles para las masas recientemente, estamos entrando en una era en la que la tecnología está comenzando a ayudar a los delincuentes de manera más eficiente que nunca, incluso mejorando todas las herramientas existentes utilizadas para ocultar la identidad. y la localización de los delincuentes ayuda.
Mantenerse seguro
Volviendo a nuestros experimentos, aquí hay algunas precauciones básicas que los propietarios de empresas deben tomar para evitar ser víctimas de ataques que utilizan la clonación de voz y otras travesuras:
- No tomes atajos con las políticas empresariales
- revisar personas y procesos; Por ejemplo, verifique todas las solicitudes de pago con la persona que (supuestamente) envió la solicitud y haga que dos empleados firmen tantas transferencias como sea posible.
- Manténgase al tanto de las últimas tendencias tecnológicas y actualice los esfuerzos de capacitación y defensa en consecuencia.
- Realizar capacitaciones de concientización ad hoc para todos los empleados.
- Utilice software de seguridad multicapa
A continuación se ofrecen algunos consejos para protegerse del intercambio de SIM y otros ataques destinados a separarle de su información personal o de su dinero:
- Limitar la información personal que comparte en línea; Si es posible, evita publicar detalles como tu dirección o número de teléfono.
- Limite la cantidad de personas que pueden ver sus publicaciones u otro material de redes sociales.
- Tenga cuidado con los ataques de phishing y otros intentos de engañarlo para que revele su información personal confidencial.
- Si su proveedor de telefonía ofrece protección adicional para su cuenta telefónica, p. B. un código PIN o una contraseña, asegúrese de utilizar este
- Usar Autenticación de dos factores (2FA), especialmente una aplicación de autenticación o un dispositivo de autenticación de hardware
De hecho, no se puede subestimar la importancia de usar 2FA: asegúrese de habilitarlo también en su cuenta de WhatsApp (donde dice) Verificación de dos pasos) y cualquier otra cuenta en línea que lo ofrezca.
Hemos recibido este contenido de ciberseguridad de: Welivesecurity (el blog de la compañía de malware ESET)
Llegarás a la noticia original en el enlace que se encuentra a continuación: https://www.welivesecurity.com/en/cybersecurity/your-voice-is-my-password/
write a shot sentence in spanish about who ESET, the Cybersecurity company»
