Die Forscher des in Virginia ansässigen Unternehmens fanden seit 2019 "zahlreiche Fälle", in denen KI-generierte Inhalte, wie z. B. gefälschte Profilbilder, in politisch motivierten Online-Einflusskampagnen verwendet wurden.
Dazu gehörten Kampagnen von Gruppen, die mit den Regierungen Russlands, Chinas, des Iran, Äthiopiens, Indonesiens, Kubas, Argentiniens, Mexikos, Ecuadors und El Salvadors verbündet sind, so der Bericht.
Der Bericht fällt in eine Zeit, in der generative KI-Modelle wie ChatGPT, mit denen es viel einfacher ist, überzeugende gefälschte Videos, Bilder, Texte und Computercodes zu erstellen, einen regelrechten Boom erlebt haben. Sicherheitsbehörden haben vor der Nutzung solcher Modelle durch Cyberkriminelle gewarnt.
Generative KI würde es Gruppen mit begrenzten Ressourcen ermöglichen, qualitativ hochwertigere Inhalte in großem Umfang zu produzieren, so die Forscher von Mandiant.
Eine chinesische staatlich gelenkte Informationskampagne mit dem Namen Dragonbridge hat sich beispielsweise "exponentiell" über 30 soziale Plattformen und 10 verschiedene Sprachen ausgebreitet, seit sie sich 2019 erstmals gegen pro-demokratische Demonstranten in Hongkong richtete, sagte Sandra Joyce, Vice President bei Mandiant Intelligence.
Doch die Wirkung solcher Kampagnen war begrenzt. "Vom Standpunkt der Effektivität aus gesehen, gibt es nicht viel zu gewinnen", sagte sie. "Sie haben den Verlauf der Bedrohungslandschaft noch nicht wirklich verändert.
China hat in der Vergangenheit die Anschuldigungen der USA zurückgewiesen, an solchen Beeinflussungskampagnen beteiligt zu sein.
Mandiant, ein Unternehmen, das öffentlichen und privaten Organisationen hilft, auf digitale Sicherheitsverletzungen zu reagieren, sagte, es habe noch nicht gesehen, dass KI eine Schlüsselrolle bei Bedrohungen aus Russland, Iran, China oder Nordkorea spielt.
"Bis jetzt haben wir noch keinen einzigen Vorfall gesehen, bei dem KI eine Rolle gespielt hat", sagte Joyce. "Sie wurde nicht wirklich in irgendeiner Art von praktischer Anwendung eingesetzt, die über das hinausgeht, was mit den normalen Werkzeugen, die wir gesehen haben, getan werden könnte."
Aber sie fügte hinzu: "Wir können sehr zuversichtlich sein, dass dies ein Problem sein wird, das mit der Zeit größer wird." (Bericht von Zeba Siddiqui in San Francisco; Redaktion: Alexandra Hudson)
