KI-gesteuerte Desinformation aus China zielt auf internationale Wahlen, sagt Microsoft

PEKING / SEOUL / NEW DELHI / MÜNCHEN (IT BOLTWISE) – Microsofts Bedrohungsabwehrteam hat eine Warnung herausgegeben, die aufzeigt, wie Peking ausgeklügelte KI-generierte Desinformationskampagnen plant, um mehrere hochkarätige Wahlen im Jahr 2024 zu beeinflussen.

Nach Angaben von Microsoft ist davon auszugehen, dass staatlich unterstützte chinesische Cybergruppen – mit Hilfe von Akteuren aus Nordkorea – „wahrscheinlich“ die Präsidentschafts- und Parlamentswahlen in Ländern wie den USA, Südkorea und Indien in diesem Jahr ins Visier nehmen werden. Ihre Haupttaktik wird voraussichtlich die Erstellung und Verbreitung von KI-generierten Inhalten in sozialen Medien sein, die darauf abzielen, „ihre Positionen“ in diesen Rennen zu stärken.

„Obwohl die Auswirkungen solcher Inhalte auf die Beeinflussung des Publikums bisher gering sind, wird Chinas zunehmende Experimentierfreudigkeit bei der Erweiterung von Memes, Videos und Audio fortgesetzt – und könnte auf lange Sicht wirksam werden“, warnte Microsoft in dem am Freitag veröffentlichten Bericht.

Das Unternehmen verwies auf Chinas jüngsten „Probelauf“ mit KI-synthetisierter Desinformation während der Präsidentschaftswahlen in Taiwan im Januar als Vorboten dieser aufkommenden Bedrohung. Microsoft stellte fest, dass eine pro-Peking-Gruppe, bekannt als Storm 1376 oder Spamouflage Dragon, den ersten dokumentierten Versuch eines staatlichen Akteurs unternommen hat, eine ausländische Wahl mit KI-erzeugtem Inhalt zu beeinflussen.

Zu den von den chinesischen Operateuren eingesetzten Taktiken gehörte die Veröffentlichung gefälschter Audioclips, die wahrscheinlich „mit KI generiert“ wurden und einen ehemaligen Präsidentschaftskandidaten zeigten, der einen Rivalen unterstützt, sowie KI-generierte Memes, die unbegründete Korruptionsvorwürfe gegen den letztendlich siegreichen pro-souveränen Kandidaten William Lai erhoben. Die Gruppe erstellte auch KI-rendernde „Nachrichtensprecher“, um Desinformationen über Lais Privatleben zu verbreiten.

„Während die Bevölkerungen in Indien, Südkorea und den Vereinigten Staaten zur Wahl gehen, werden wir wahrscheinlich sehen, dass chinesische Cyber- und Einflussakteure und in gewissem Umfang auch nordkoreanische Cyber-Akteure darauf hinarbeiten, diese Wahlen ins Visier zu nehmen“, erklärte der Bericht von Microsoft.

Das Unternehmen fügte hinzu, dass chinesische Gruppen bereits versuchen, spaltende Themen und Wählerblöcke in den USA durch orchestrierte Social-Media-Kampagnen zu kartieren, möglicherweise „um vor der US-Präsidentschaftswahl Erkenntnisse und Präzision über wichtige Wählerdemografien zu sammeln“.

Microsoft wies auf das Risiko hin, erkannte jedoch an, dass KI-fähige Desinformation bisher weltweit nur begrenzt Erfolg hatte, die öffentliche Meinung zu formen. Es warnte jedoch davor, dass Pekings wachsende Investitionen und zunehmende Raffinesse mit der Technologie eine eskalierende Bedrohung für die Integrität demokratischer Wahlen weltweit darstellen.