Tenga cuidado con las herramientas de inteligencia artificial falsas que ocultan una amenaza de malware muy real

La IA generativa (GenAI) está causando sensación en todo el mundo. Su popularidad y uso generalizado también ha atraído la atención de los ciberdelincuentes, lo que ha resultado en varias amenazas cibernéticas. Aun así, gran parte del debate sobre las amenazas que rodean a herramientas como ChatGPT se ha centrado en cómo se puede hacer un mal uso de la tecnología. Ayude a los estafadores a crear mensajes de phishing convincentes, Producir código malicioso o buscar vulnerabilidades.

Quizás menos gente esté hablando de utilizar GenAI como cebo y caballo de Troya para ocultar malware. No es demasiado difícil encontrar ejemplos de esto. Por ejemplo, el año pasado escribimos sobre uno Campaña que instó a los usuarios de Facebook probar la última versión de la herramienta legítima de inteligencia artificial de Google, “Bard”; en cambio, los anuncios mostraban a los usuarios herramientas de estafa maliciosas.

Este tipo de campañas son ejemplos de una tendencia preocupante y es evidente que no van a desaparecer. Por lo tanto, es importante comprender cómo funcionan, reconocer las señales de advertencia y tomar precauciones para proteger su identidad y las finanzas no están en riesgo.

¿Cómo utilizan los malos la GenAI como cebo?

Los ciberdelincuentes tienen varias formas de engañarlo para que instale malware disfrazado de aplicaciones GenAI. Esto incluye:

Sitios de phishing

En el segundo semestre de 2023 ESET bloqueado más de 650.000 intentos de acceder a dominios maliciosos que contienen «chapgpt» o texto similar. Lo más probable es que las víctimas lleguen allí después de hacer clic en un enlace en las redes sociales o recibir un correo electrónico o un mensaje móvil. Algunas de estas páginas de phishing pueden contener enlaces para instalar malware disfrazado de software GenAI.

Extensiones del navegador web

Informe de amenazas del primer semestre de 2024 de ESET describe una extensión de navegador maliciosa diseñada para instalar a los usuarios a través de anuncios de Facebook que prometen llevarlos al sitio web oficial de Sora de OpenAI o Gemini de Google. Aunque la extensión se disfraza de Google Translate, en realidad es un ladrón de información llamado «Rilide Stealer V4» diseñado para robar las credenciales de Facebook de los usuarios.

Desde agosto de 2023, la telemetría de ESET registró más de 4000 intentos de instalar la extensión maliciosa. Otras extensiones maliciosas afirman proporcionar funcionalidad GenAI y, en realidad, pueden hacerlo de forma limitada, publicando ruidosamente. Meta.

aplicaciones falsas

También hubo informes diversos Aplicaciones GenAI falsas lanzadas específicamente en tiendas de aplicaciones móviles, y muchas de estas aplicaciones contienen malware. Algunos están cargados de malware diseñado para robar información confidencial del dispositivo del usuario. Esto puede incluir información de inicio de sesión, información de identificación personal, información financiera y más.

Otras son estafas diseñadas para generar ingresos para el desarrollador prometiendo funciones avanzadas de inteligencia artificial, a menudo a cambio de una tarifa. Una vez descargados, pueden bombardear a los usuarios con anuncios, requerir compras dentro de la aplicación o suscripciones a servicios que son inexistentes o de muy mala calidad.

Anuncios maliciosos

Los actores maliciosos están aprovechando la popularidad de las herramientas GenAI para engañar a los usuarios para que hagan clic en anuncios maliciosos. Los anuncios maliciosos de Facebook son particularmente comunes. Meta prevenido El año pasado, muchas de estas campañas fueron diseñadas para comprometer a «empresas con acceso a cuentas publicitarias en Internet».

Los actores de amenazas secuestran una cuenta o página legítima, modifican la información del perfil para que parezca un ChatGPT auténtico u otra página de la marca GenAI y luego usan las cuentas para publicar anuncios falsos. Estos proporcionan enlaces a la última versión de las herramientas GenAI, pero en realidad implementan malware de robo de información, como este. Investigador.

El arte del cebo

Los humanos son criaturas sociales. Queremos creer las historias que nos cuentan. Y estamos celosos. Queremos tener los últimos gadgets y aplicaciones. Los actores de amenazas explotan nuestra codicia, nuestro miedo a perdernos algo, nuestra credulidad y nuestra curiosidad para engañarnos y hacernos clic en enlaces maliciosos o descargar aplicaciones que ocultan malware.

Pero para que podamos hacer clic en el botón de instalación, la oferta tiene que ser bastante sensacional y, como todas las mejores mentiras, tiene que tener una pizca de verdad. Los ingenieros sociales son particularmente buenos en estas artes oscuras: lograr que hagamos clic en noticias lascivas sobre celebridades o eventos actuales (recuerde los cuentos fantásticos sobre vacunas falsas contra el COVID-19?). A veces nos ofrecen algo gratis, con un descuento increíble o antes de que nadie lo consiga. lo explicamos aquíCaemos en estos trucos porque:

• Tenemos prisa, sobre todo cuando estamos viendo el contenido en nuestro dispositivo móvil.
• Son buenos narradores y cada vez tienen más fluidez. Irónicamente, utilizan GenAI para contar sus historias sin problemas en varios idiomas.
• Nos encanta recibir algo gratis, incluso si es demasiado bueno para ser verdad.
• Los malos son buenos para compartir sus conocimientos sobre lo que funciona y lo que no, mientras que nosotros somos menos buenos para pedir o aceptar consejos.
• Estamos programados para respetar la autoridad, o al menos la legitimidad de una oferta, siempre que esté etiquetada como «oficial».

Cuando se trata de GenAI, los delincuentes de malware se están volviendo cada vez más sofisticados. Utilizan múltiples canales para difundir sus mentiras. Y disfrazan el malware de todo, desde ChatGPT y el creador de vídeos Sora AI hasta el generador de imágenes Midjourney, DALL-E y el editor de fotografías Evoto. Muchas de las versiones que promocionan aún no están disponibles, lo que atrae a la víctima: “ChatGPT 5” o “DALL-E 3”, por ejemplo.

Se aseguran de que el malware siga pasando desapercibido ajustando periódicamente sus cargas útiles para evitar la detección por parte de las herramientas de seguridad. Y dedican mucho tiempo y esfuerzo a asegurarse de que sus señuelos (como los anuncios de Facebook) parezcan reales. Si algo no parece oficial, ¿quién lo descargará?

¿Qué podría estar en riesgo?

Entonces, ¿qué es lo peor que podría pasar? Si descarga una aplicación GenAI falsa en su teléfono o en un sitio web y se instala ese malware, ¿cuál es el objetivo final de los malos? En muchos casos se trata de un ladrón de información. Este malware, como su nombre indica, está diseñado para recopilar información confidencial. Esto podría incluir información de inicio de sesión para sus cuentas en línea, como: Como credenciales de trabajo o tarjetas de crédito guardadas, cookies de sesión (para evitar la autenticación multifactor), activos almacenados en billeteras criptográficas, flujos de datos de aplicaciones de mensajería instantánea y más.

Por supuesto, no se trata sólo de malware que roba información. En teoría, los ciberdelincuentes podrían ocultar cualquier tipo de malware en aplicaciones y enlaces maliciosos, incluidos ransomware y troyanos de acceso remoto (RAT). Para la víctima, esto podría resultar en:

• Un hacker obtiene control remoto completo sobre su PC/teléfono móvil y todos los datos almacenados en él. Podría utilizar el acceso para robar su información personal y financiera más confidencial o convertir su computadora en una “computadora zombie” para lanzar ataques contra otros.
• Podrían utilizar su información personal para cometer fraude de identidad, lo que puede resultar extremadamente angustiante y costoso para la víctima.
• Podrían utilizar datos financieros y de identidad para obtener nuevas líneas de crédito a su nombre o robar criptoactivos y acceder a cuentas bancarias vacías.
• Incluso podrían utilizar sus datos laborales para lanzar un ataque contra su empleador o una organización socia/proveedor. Una reciente campaña de extorsión digital que utilizó el malware Infostealer para Obtenga acceso a Snowflake Las cuentas llevaron al compromiso de decenas de millones de datos de clientes

Cómo evitar cebos GenAI maliciosos

Algunas prácticas recomendadas comprobadas deberían mantenerlo encaminado y protegido contra las amenazas GenAI. Por favor preste atención a lo siguiente:

• Instale únicamente aplicaciones de las tiendas de aplicaciones oficiales

Google Play y Apple App Store tienen procesos de prueba estrictos y controles regulares para eliminar aplicaciones maliciosas. Evite descargar aplicaciones de sitios web de terceros o fuentes no oficiales, ya que es mucho más probable que contengan malware.

• Consulte a los desarrolladores detrás de las aplicaciones y las reseñas de su software.

Antes de descargar una aplicación, verifique las credenciales del desarrollador, busque otras aplicaciones que haya desarrollado y lea las reseñas de los usuarios. Las aplicaciones sospechosas suelen tener descripciones mal escritas, un historial de desarrollo limitado y comentarios negativos que indican problemas.

• Tenga cuidado al hacer clic en anuncios digitales

Los anuncios digitales, especialmente en plataformas de redes sociales como Facebook, pueden ser un vector común para la distribución de aplicaciones maliciosas. En lugar de hacer clic en los anuncios, busque la aplicación o herramienta directamente en su tienda de aplicaciones oficial para asegurarse de obtener la versión legítima.

• Verifique las extensiones del navegador web antes de instalarlas

Las extensiones del navegador web pueden mejorar su experiencia web, pero también plantean riesgos de seguridad. Verifique los antecedentes del desarrollador y lea las reseñas antes de instalar extensiones. Quédese con desarrolladores y extensiones conocidos con altas calificaciones y amplios comentarios de los usuarios.

• Utilice un software de seguridad integral de un proveedor acreditado

Asegúrese de que su PC y todos los dispositivos móviles tengan instalado un software de seguridad sólido de un proveedor confiable. Esto proporciona protección en tiempo real contra malware, intentos de phishing y otras amenazas en línea.

El phishing sigue siendo una amenaza constante. Tenga cuidado con los mensajes no solicitados que le solicitan que haga clic en enlaces o abra archivos adjuntos. Verifique la identidad del remitente antes de interactuar con cualquier correo electrónico, mensaje de texto o mensaje de redes sociales que parezca sospechoso.

• Habilite la autenticación multifactor (MFA) para todas sus cuentas en línea

MFA agrega una capa adicional de seguridad a sus cuentas en línea al requerir múltiples métodos de verificación. Habilite MFA siempre que sea posible para proteger sus cuentas, incluso si su contraseña está comprometida.

Como se muestra arriba, los ciberdelincuentes no pueden resistirse a explotar el entusiasmo que rodea a los nuevos lanzamientos. Si ve una oferta para descargar una nueva versión de una herramienta GenAI, verifique su disponibilidad a través de los canales oficiales antes de continuar. Consulte el sitio web oficial o fuentes de noticias confiables para confirmar la publicación.

GenAI está cambiando el mundo que nos rodea a un ritmo rápido. Asegúrate de que tu mundo no empeore como resultado.