Las autoridades federales descubren una enorme granja de trolls rusa dirigida por GenAI

El Departamento de Justicia ha anunciado la incautación de dos nombres de dominio y casi 1.000 cuentas de redes sociales propiedad de actores rusos para crear y difundir desinformación en los Estados Unidos.

Agencias estadounidenses como el FBI y la Cyber ​​National Mission Force (CNMF), junto con autoridades de Canadá y Países Bajos, dieron a conocer uno consulta conjunta Se describe detalladamente el funcionamiento de influencia y la tecnología utilizada. Este será un programa centrado en las redes sociales y respaldado por GenAI. Granja de robots utilizado para apoyar los objetivos del gobierno ruso.

Según la advertencia, los afiliados de Russia Today, una empresa de medios respaldada por el estado ruso, utilizaron el paquete de software Meliorator con tecnología de inteligencia artificial para crear personajes en línea que representan a diferentes personas de diferentes nacionalidades para difundir información errónea sobre países como Estados Unidos, Polonia y Alemania. y los Países Bajos para extenderse.

Meliorator puede crear perfiles de redes sociales de aspecto auténtico, imitar contenido realista de redes sociales, reflejar desinformación de otros robots, difundir automáticamente narrativas falsas y elaborar mensajes basados ​​en el tipo de bot que los utiliza. Las agencias autoras piden a las empresas de redes sociales que identifiquen este tipo de actividad de trolls para frenar la escala de las campañas de desinformación de Rusia.

“Las medidas de hoy representan la primera vez en alterar una Impulsada por IA generativa patrocinada por Rusia granja de bots de redes sociales», El director del FBI, Christopher Wray, dijo. “Rusia tenía la intención de utilizar esta granja de robots para difundir desinformación extranjera generada por IA y ampliar su trabajo utilizando IA para socavar a nuestros socios en Ucrania y ejercer influencia geopolítica. Narrativas favorables al gobierno ruso«.

Las cuentas de redes sociales utilizadas se registraron a través de servidores de correo electrónico privados basados ​​en los dos nombres de dominio que el FBI pudo confiscar. plataforma de redes sociales