Microsoft drängt auf Gesetze gegen KI-generierte Deepfakes im US-Kongress

MÜNCHEN (IT BOLTWISE) – Microsoft fordert den US-Kongress auf, dringend Maßnahmen gegen den Missbrauch von KI-generierten Deepfakes zu ergreifen.

Microsoft ist besorgt über die zunehmende Verbreitung von Deepfake-Technologien und deren potenziellen Missbrauch. Brad Smith, Vice Chair und Präsident von Microsoft, hat in einem Blogpost erklärt, dass dringend gesetzliche Regelungen erforderlich sind, um Betrug, Missbrauch und Manipulation durch Deepfakes zu verhindern. Besonders besorgt ist Microsoft über den Schutz von Wahlen, Senioren und Kindern.

Smith betont, dass die Technologiebranche und gemeinnützige Organisationen bereits Schritte unternommen haben, um dieses Problem anzugehen. Dennoch wird deutlich, dass auch die Gesetze weiterentwickelt werden müssen, um gegen Deepfake-Betrug vorzugehen. Ein umfassendes “Deepfake-Betrugsgesetz” könnte den Strafverfolgungsbehörden ein rechtliches Instrumentarium bieten, um KI-generierte Betrugsfälle zu verfolgen und zu bestrafen. Zudem ruft Smith die Gesetzgeber dazu auf, die bestehenden Gesetze gegen sexuelle Ausbeutung und Missbrauch von Kindern sowie gegen die Verbreitung von nicht einvernehmlichen intimen Bildern auf KI-generierte Inhalte auszudehnen.

Der US-Senat hat kürzlich ein Gesetz verabschiedet, das gegen sexuell explizite Deepfakes vorgeht. Dies ermöglicht es den Opfern, die Ersteller solcher Inhalte auf Schadensersatz zu verklagen. Dieses Gesetz wurde inmitten von Berichten verabschiedet, dass Schüler in Mittel- und Oberschulen explizite Bilder ihrer Mitschülerinnen fabrizieren und dass Trolls auf der Plattform X (ehemals Twitter) KI-generierte Bilder von Prominenten wie Taylor Swift verbreiteten.

Microsoft selbst musste zusätzliche Sicherheitsmaßnahmen für seine KI-Produkte einführen, nachdem ein Schlupfloch in der Designer-AI-Bildgenerierung entdeckt wurde, das es Nutzern ermöglichte, explizite Bilder von Prominenten zu erstellen. “Der private Sektor hat die Verantwortung, Innovationen zu entwickeln und Schutzmaßnahmen zu implementieren, um den Missbrauch von KI zu verhindern,” sagt Smith.

Obwohl die FCC bereits Robocalls mit KI-generierten Stimmen verboten hat, macht generative KI es einfach, gefälschte Audio-, Bild- und Videoaufnahmen zu erstellen. Dies ist insbesondere im Vorfeld der Präsidentschaftswahlen 2024 von Bedeutung. Erst kürzlich teilte Elon Musk auf X ein Deepfake-Video, das Vizepräsidentin Kamala Harris parodierte, was gegen die eigenen Richtlinien der Plattform für synthetische und manipulierte Medien verstößt.

Microsoft fordert, dass Beiträge wie der von Musk klar als Deepfake gekennzeichnet werden. “Der Kongress sollte von Anbietern von KI-Systemen verlangen, moderne Herkunftstools zu nutzen, um synthetische Inhalte zu kennzeichnen,” sagt Smith. “Dies ist entscheidend, um Vertrauen in das Informationsökosystem aufzubauen und der Öffentlichkeit zu helfen, besser zu verstehen, ob Inhalte KI-generiert oder manipuliert sind.”