Los piratas informáticos criminales añaden credenciales GenAI a los mercados clandestinos

Los ciberdelincuentes ahora pueden comprar IA generativa (GenAI) Según un nuevo estudio, los datos de las cuentas se vendían junto con otros bienes ilícitos en los mercados ilegales de piratas informáticos.

Las credenciales de GenAI incluyen las de los usuarios de ChatGPTQuillbot, Notion, Huggingface y Replit, por nombrar algunos. El equipo de investigación de ciberseguridad de eSentire descubrió que los piratas informáticos venden las credenciales de unas 400 cuentas GenAI por día, que normalmente son robadas de las computadoras de los usuarios finales en las organizaciones después de haber sido infectadas con un ladrón de información.

LLM Paradise fue uno de los servicios clandestinos que vendía credenciales GenAI robadas. Las claves API GPT-4/Clause se ofrecieron a un precio inicial de $15 cada una (el mercado ha cerrado desde entonces). Los actores de amenazas también utilizaron medios legítimos y promocionaron los productos ilegales en la plataforma de redes sociales TikTok.

En última instancia, los investigadores también descubrieron que los actores de amenazas están encontrando numerosas formas de ganar dinero utilizando las credenciales de la cuenta GenAI. Esto sucede, por ejemplo, mediante campañas de phishing, lanzando malware desde las cuentas, creando chatbots o robando datos sensibles de la empresa como información financiera o de clientes.

Los investigadores recomiendan que las organizaciones supervisen el uso de las ofertas GenAI basadas en la nube por parte de sus empleados, alienten a los proveedores de GenAI a implementar WebAuth en sus portales, utilicen las mejores prácticas de seguridad mediante claves de acceso o contraseñas y utilicen servicios de supervisión de la web oscura.