Neue FTC-Richtlinien zielen auf KI-generierte Deepfakes ab

WASHINGTON / MÜNCHEN (IT BOLTWISE) – Die Federal Trade Commission (FTC) hat neue Vorschläge zur Regulierung von KI-gestützten Identitätstäuschungen vorgelegt, um Verbraucher vor den wachsenden Bedrohungen durch Deepfake-Technologien zu schützen.

Die FTC schlägt vor, die Nutzung von Künstlicher Intelligenz (KI) zur Imitation von Individuen, einschließlich der Erstellung von Deepfake-Videos, strenger zu regulieren. Die Ankündigung folgt auf eine Reihe von Betrugsfällen, bei denen KI-Technologien verwendet wurden, um Personen mit beunruhigender Präzision nachzuahmen. Von der Verwendung von Geschäftslogos in betrügerischen E-Mails bis hin zu Robocalls, die Stimmen von Politikern imitieren, haben die Betrugsversuche zugenommen und rufen nach einer stärkeren Regulierung.

„Da Betrüger zunehmend KI-Werkzeuge nutzen, um Individuen täuschend echt nachzuahmen, ist der Schutz der Amerikaner vor Identitätsbetrug wichtiger denn je“, erklärte FTC-Vorsitzende Lina Khan. Die FTC fordert öffentliche Kommentare zu einem vorgeschlagenen Regelwerk, das Unternehmen haftbar macht, wenn sie „wissen oder Grund zur Annahme haben“, dass ihre Technologie zur Schädigung von Verbrauchern durch Imitation eingesetzt wird.

Darüber hinaus berücksichtigt die FTC eine Erweiterung der aktuellen Regeln, um nicht nur Regierungsbehörden und Unternehmen, sondern alle Verbraucher vor KI-generierten Täuschungen zu schützen. Dies kommt zu einer Zeit, in der Umfragen zeigen, dass ein großer Teil der amerikanischen Bevölkerung entweder große oder mäßige Bedenken hinsichtlich der Verbreitung täuschender Audio- und Videodeepfakes hat.

Die rasche Entwicklung generativer KI-Technologien, die Stimmen, Videos oder Texte in verschiedenen Stilen erzeugen können, hat nicht nur im Silicon Valley für Aufsehen gesorgt, sondern auch Datenschutz- und Sicherheitsbedenken aufgrund ihrer Fähigkeit zur Nachahmung von Personen geweckt. Die FTC-Initiative zielt darauf ab, sowohl Verbraucher als auch Unternehmen vor den potenziellen Schäden durch diese Technologien zu schützen und gleichzeitig den rechtlichen Rahmen für den Umgang mit KI-generierten Inhalten zu stärken.

Die vorgeschlagenen Maßnahmen umfassen die Möglichkeit, direkt Bundesgerichtsklagen gegen Betrüger einzureichen, die zur Rückzahlung von Geldern aus ihren Betrugsschemata gezwungen werden können. Die FTC betont, dass es wichtiger denn je ist, Amerikaner vor Identitätsbetrug zu schützen, insbesondere in einer Zeit, in der KI-Deepfakes leichter zu erstellen und schwieriger zu identifizieren sind.

In Anbetracht des Missbrauchs von KI und Large Language Models (LLMs) in Betrugs- und Täuschungsschemata haben sechs große Technologieunternehmen, darunter Google, Adobe, Microsoft, OpenAI, Meta und TikTok, kürzlich enthüllt, dass sie ein Abkommen gegen den Missbrauch von KI und Deepfakes erstellen. Dieses Abkommen, das einem Manifest ähnelt, bekräftigt, dass KI-generierte Inhalte, die größtenteils von den Werkzeugen dieser Unternehmen produziert und auf ihren Plattformen geteilt werden, ein Risiko für faire Wahlen darstellen.

Mit diesen Schritten bekräftigt die FTC ihre Entschlossenheit, innovative Technologien verantwortungsvoll zu nutzen und gleichzeitig die Verbraucher vor den neuen Gefahren zu schützen, die diese Technologien mit sich bringen.

Hinweis: Teile dieses Textes könnten mithilfe Künstlicher Intelligenz generiert worden sein.