San Francisco geht gegen KI-gesteuerte „Entkleidungs“-Websites vor

SAN FRANCISCO / MÜNCHEN (IT BOLTWISE) – Eine wegweisende Klage des San Francisco City Attorney David Chiu richtet sich gegen 16 KI-gestützte Websites, die es Nutzern ermöglichen, nicht einvernehmliche Nacktbilder von Frauen und Mädchen zu erstellen, indem sie sie digital „entkleiden“. Dieser Schritt ist Teil eines breiteren Versuchs, die weltweit zunehmende Ausbeutung durch KI-Technologie einzudämmen.

In einer beispiellosen Klage leitet der San Francisco City Attorney David Chiu eine Kampagne zur Schließung von 16 der beliebtesten Websites ein, die es Nutzern ermöglichen, Fotos von Frauen und Mädchen zu „entkleiden“. Diese Plattformen, die weit verbreitet sind, nutzen KI-Tools, um realistische, aber gefälschte Nacktbilder von vollständig bekleideten Personen zu erstellen. In Chius Klage wird behauptet, dass diese Websites, von denen einige allein in den ersten sechs Monaten des Jahres 2024 über 200 Millionen Mal besucht wurden, für die Erstellung und Verbreitung nicht einvernehmlicher intimer Bilder (NCII) verantwortlich sind und gegen staatliche sowie bundesstaatliche Gesetze verstoßen.

Auf einer Pressekonferenz betonte Chiu die schwerwiegenden Auswirkungen dieser KI-generierten Deepfakes, die zur Belästigung und Ausbeutung von Frauen und Mädchen weltweit, einschließlich Prominenten und Schülern, verwendet wurden. Die Klage hebt hervor, wie diese Websites Open-Source-KI-Modelle, wie frühere Versionen von Stable Diffusion, ausnutzen, um gefälschte Nacktbilder zu erstellen. Trotz Aktualisierungen dieser Modelle bleiben ältere Versionen zugänglich, was es Kriminellen ermöglicht, weiterhin schädliche Aktivitäten auszuführen.

Die rechtliche Beschwerde zielt auf Websites ab, die nicht nur Gesetze gegen Rachepornos und Kinderpornografie verletzen, sondern auch gegen das kalifornische Gesetz gegen unlauteren Wettbewerb. Chiu argumentiert, dass der Schaden, den diese Websites verursachen, jeglichen wahrgenommenen Nutzen bei weitem übersteigt und bezeichnet deren Praktiken als „unmoralisch, unethisch und unterdrückerisch“.

Die Klage fordert nicht nur die Schließung dieser Websites, sondern auch eine dauerhafte Unterbindung der Betreiber, neue Websites zu starten, die ähnliche Inhalte verbreiten könnten. Chiu betonte, dass dies ein erster Schritt sei, um eine Warnung an andere Betreiber solcher Websites auszusenden, dass weitere Schließungen folgen könnten. Er machte auch deutlich, dass die Auswirkungen dieser KI-generierten Inhalte verheerend sind und nicht nur das Leben der Opfer zerstören, sondern auch deren psychische Gesundheit beeinträchtigen können.

In den Vereinigten Staaten haben sich auch Strafverfolgungsbehörden dem Aufruf angeschlossen, sogenannte Deepfakes zu verbieten, da die Erstellung dieser Bilder oft nur wenige Sekunden dauert und kostenlos oder gegen eine geringe Gebühr verfügbar ist. Berichte deuten darauf hin, dass die Zahl der Opfer weltweit stark ansteigt und es immer schwieriger wird, die Täter zur Rechenschaft zu ziehen, insbesondere da viele dieser Websites anonym betrieben werden.

Obwohl es noch unklar ist, ob das Gericht der Argumentation folgt, dass KI-generierte „intime Körperteile“ gegen Gesetze verstoßen, die Rachepornos oder Kinderpornografie verbieten, sieht Chiu in der Klage einen wichtigen Präzedenzfall, der weitreichende Auswirkungen auf den Umgang mit missbräuchlicher KI-Technologie haben könnte. Die Klage zielt darauf ab, ein Zeichen zu setzen, dass solche Praktiken nicht toleriert werden und dass weitere Maßnahmen folgen werden, um die Verbreitung von nicht einvernehmlicher Pornografie und Deepfakes zu stoppen.