KI-generierte Deepfake-Videos im Einsatz für Gesundheitsspam

Bitdefender hat weltweit Kampagnen beobachtet, die mit KI-generierten Deepfake-Videos und -Audios auf Social-Media-Plattformen für angebliche Behandlungsmethoden und Gesundheitsprodukte werben. Die manipulierten Inhalte vermeintlicher Prominenter wie Christiano Ronaldo, Dieter Bohlen und Brad Pitt werden über Anzeigen in sozialen Medien und auf kriminellen Websites verbreitet.

Die Anzeigen werden für Finanzbetrug genutzt oder um persönliche Daten abzugreifen. Die KI-generierten Deepfakes ermöglichen Betrügern das erfolgreiche Ausspielen regional und individuell zugeschnittener Spam-Mailkampagnen. Den angegriffenen Verbrauchern und Organisationen fällt es schwerer, die Betrugsversuche zu erkennen, zu blockieren und sich dagegen zu verteidigen, so Bitdefender weiter. „Die Qualität der Videos steigt. KI senkt zudem die Sprachbarriere beim Erstellen von Deepfakes, sodass die Angreifer Video-Fakes in fast zwanzig europäischen Sprachen erzeugen konnten.“

Viele Anzeigen sind den Forschern zufolge flankiert von Webseiten zur Promotion der beworbenen Gesundheitsprodukte, die zeitlich begrenzt im Sonderangebot verfügbar sein sollen. Dort finden sich dann auch gefälschte, mit Large Language Models generierte Testberichte und nachgebaute Chat-Prompts mit Experten. Über betrügerische E-Commerce-Checkouts in Webshops greifen die Hacker dann persönliche Informationen, wie Kreditkartennummern, ab. Um den finanziellen Erfolg zu steigern, werden außerdem Kunden aufgefordert, mehrere Medikamente zu kaufen, da nur so die Therapie anschlage.