OpenAI interrumpe cinco operaciones de influencia respaldadas por el estado e impulsadas por IA
OpenAI ha identificado y frustrado cinco operaciones de influencia de una forma u otra utilizando sus herramientas de inteligencia artificial (IA).
Las distintas operaciones -desde China, Irán, Israel y dos desde Rusia- se centraron en difundir mensajes políticos. Como informa OpenAI, utilizó principalmente IA para generar texto como publicaciones y comentarios en redes sociales, y también realizar algunas tareas de productividad como depurar código.
Sin embargo, ninguno de ellos fue particularmente efectivo. Escala de ruptura de Brookingsque el Impacto de las operaciones de influencia En una escala de 1 a 6, ninguna campaña obtuvo una puntuación superior a 2. Una puntuación de 1 significa que la campaña se difundió sólo dentro de una única comunidad o plataforma, mientras que 6 significa que se produjo una respuesta política u otra forma de acción concreta, como la violencia. motivado. Un 2 significa que la operación se extendió a través de múltiples comunidades en una plataforma o una comunidad a través de múltiples plataformas.
El estado actual de las operaciones de influencia impulsadas por la IA
Las operaciones de influencia en cuestión, si bien geográficamente diversas, eran en última instancia de naturaleza bastante similar:
-
Uno de los más notorios Spam de China. Utilizó herramientas OpenAI para depurar su código, examinar la actividad de las redes sociales y publicar contenido en varios idiomas en X, Medium y Blogspot.
-
Bad Grammar, una amenaza recién descubierta proveniente de Rusia, estaba principalmente activa en Telegram y apuntaba a personas en Europa del Este y Estados Unidos. La amenaza también utilizó IA para depurar el código que utilizaba para ejecutar un bot de Telegram y escribir comentarios políticos en Telegram tanto en ruso como en inglés.
-
Un segundo grupo ruso, Doppelganger, utilizó IA para publicar comentarios sobre X y 9GAG en cinco idiomas europeos, generar titulares y traducir, editar y convertir artículos de noticias en publicaciones de Facebook.
-
Una organización iraní llamada Unión Internacional de Medios Virtuales (IUVM) utilizó IA para crear y traducir artículos, así como títulos y etiquetas de sitios web para su sitio.
-
Finalmente, está Zero Zeno, una operación dirigida por Stoic, una empresa de inteligencia empresarial y marketing político con sede en Tel Aviv. Stoic utilizó OpenAI para generar artículos y comentarios para Instagram, Facebook, X y otros sitios web.
El estoico también ha estado atrayendo la atención meta últimamente. su último “Informe sobre amenazas adversas” Meta informó que fueron eliminadas 510 cuentas de Facebook, 32 cuentas de Instagram, 11 páginas y un grupo asociado a la empresa. Sólo unas 2.000 cuentas seguían las distintas cuentas de Instagram. Alrededor de 500 cuentas siguieron las páginas de Facebook y menos de 100 se unieron al grupo de Facebook.
Para combatir el uso indebido de la IA, OpenAI escribió en un informe más detallado que trabaja con socios de la industria y aprovecha la actividad de amenazas para desarrollar plataformas más seguras para los usuarios. La empresa “también está invirtiendo[s] en tecnología y equipos para identificar e interrumpir actores como los que discutimos aquí, incluido el uso de herramientas de inteligencia artificial para combatir el abuso”.
El informe no entra en más detalles, pero Dark Reading contactó a OpenAI para aclarar qué está haciendo exactamente la compañía para interrumpir y combatir a los actores maliciosos.
Nos llegó este contenido de ciberseguridad de: DarkReading
Puedes encontrar la noticia original en el siguiente enlace: https://www.darkreading.com/threat-intelligence/openai-disrupts-5-ai-powered-state-backed-influence-ops
