KI-Vergiftungswerkzeug „Nightshade“ erzielt 250.000 Downloads in 5 Tagen: „Übertrifft alle Erwartungen“

MÜNCHEN (IT BOLTWISE) – Nightshade, ein neues, kostenfreies Werkzeug von Informatikforschern der Universität Chicago entwickelt, um Künstlern zu helfen, ihre Werke vor unerlaubter Nutzung durch KI-Modelle zu schützen, verzeichnet innerhalb der ersten fünf Tage nach Veröffentlichung 250.000 Downloads.

„Nightshade erreichte 250.000 Downloads in nur fünf Tagen nach der Veröffentlichung“, sagte Projektleiter Ben Zhao, Professor für Informatik.

Die Resonanz ist überwältigend und Nightshades Erfolg zeigt deutlich das starke Interesse einiger Künstler daran, ihre Werke vor der Nutzung zur KI-Trainingszwecken ohne Einwilligung zu schützen. Laut dem Bureau of Labor Statistics gibt es allein in den USA über 2,67 Millionen Künstler, doch Zhao vermutet, dass die Nutzerbasis von Nightshade weitaus größer ist.

Nightshade zielt darauf ab, generative KI-Bildmodelle zu „vergiften“, indem digitale Artsworks im Web verändert oder auf Pixelebene „beschattet“ werden. Dadurch erscheinen sie einem maschinellen Lernalgorithmus als völlig andersartiger Inhalt – zum Beispiel eine Handtasche anstelle einer Kuh. Trainiert anhand einiger „beschatteter“ Bilder aus dem Web, kann ein KI-Algorithmus beginnen, fehlerhafte Bilder basierend auf Nutzeranfragen zu generieren.

Auf der Projektseite von Nightshade erklärten Zhao und seine Kollegen – Shawn Shan, Wenxin Ding, Josephine Passananti und Heather Zheng -, dass sie das Werkzeug entwickelt und veröffentlicht haben, um „die Kosten für das Training mit unlizenzierten Daten zu erhöhen, sodass das Lizenzieren von Bildern von ihren Schöpfern eine praktikable Alternative wird.“

Kurz nach der Veröffentlichung von Nightshade am 18. Januar 2023 war die Nachfrage nach gleichzeitigen Downloads so groß, dass die Webserver der Universität Chicago überlastet waren. Die Entwickler mussten Spiegel-Links hinzufügen, damit die Leute Kopien von einer anderen Stelle in der Cloud herunterladen konnten. Währenddessen erreichte das frühere Werkzeug der Gruppe – Glaze, das darauf abzielt, KI-Modelle am Erlernen des charakteristischen „Stils“ eines Künstlers zu hindern, indem es Pixel subtil verändert – seit seiner Veröffentlichung im April 2023 bereits 2,2 Millionen Downloads, so Zhao.

Unter ihrem Oberbegriff „The Glaze Project“ hatten Zhao und seine Forscherkollegen bereits ihre Absicht bekundet, ein Werkzeug zu veröffentlichen, das sowohl Glaze (defensiv) als auch Nightshade (offensiv) kombiniert. Die kombinierte Version wird laut Zhao noch einige Wochen auf sich warten lassen.

Zhao merkte an, dass weder er noch seine Kollegen direkt von den Modellherstellern hinter der KI-Bildgenerierungstechnologie, wie OpenAI (DALL-E 3), Midjourney, Stability AI (Stable Diffusion) und anderen, gehört haben.

Abschließende Bedenken
Trotz des beachtlichen Erfolgs von Nightshade gibt es Bedenken hinsichtlich der langfristigen Auswirkungen solcher Werkzeuge auf die Entwicklung generativer KI-Modelle. Einige Experten argumentieren, dass ohne Zugang zu lizenzierten Trainingsdaten generative KI-Modelle an Effektivität und Nutzen verlieren könnten. Es wird die Frage aufgeworfen, ob Initiativen wie Nightshade, die darauf abzielen, die Trainingsgrundlage dieser Technologien zu stören, letztendlich kontraproduktiv sein könnten. In einer Welt, in der Künstliche Intelligenz eines der wichtigsten Werkzeuge für die Menschheit in der nahen Zukunft darstellt, könnte die richtige Ausrichtung und der verantwortungsbewusste Umgang mit Trainingsdaten entscheidend sein, um das volle Potenzial dieser Technologien zu entfalten und gleichzeitig die Rechte und das geistige Eigentum zu wahren.

Hinweis: Teile dieses Textes könnten mithilfe Künstlicher Intelligenz generiert worden sein.