Slopsquatting: Neue Gefahr für Entwickler durch KI-generierte Fehlinformationen

MÜNCHEN (IT BOLTWISE) – Die zunehmende Abhängigkeit von KI-gestützten Codierungstools wie GitHub Copilot und ChatGPT birgt neue Risiken für Entwickler. Eine neue Form von Supply-Chain-Angriffen, bekannt als Slopsquatting, nutzt die Schwächen von KI aus, um Entwickler in die Irre zu führen und sie dazu zu bringen, schädliche Softwarepakete herunterzuladen.

In der heutigen digitalen Welt, in der Entwickler zunehmend auf KI-gestützte Tools wie GitHub Copilot und ChatGPT setzen, um ihre Arbeit zu optimieren, entstehen neue Sicherheitsrisiken. Eine dieser Bedrohungen ist das sogenannte Slopsquatting, eine Form von Supply-Chain-Angriffen, die auf KI-generierte Fehlinformationen setzt. Diese Fehlinformationen, auch als Halluzinationen bekannt, führen dazu, dass Entwickler nicht existierende Softwarepakete installieren, die von Angreifern registriert wurden und schädlichen Code enthalten können.

Der Begriff Slopsquatting wurde von Seth Larson, einem Entwickler der Python Software Foundation, geprägt und später von dem Sicherheitsexperten Andrew Nesbitt popularisiert. Im Gegensatz zum Typosquatting, das auf menschliche Tippfehler abzielt, nutzt Slopsquatting die Schwächen von KI-Systemen aus und setzt auf das blinde Vertrauen der Entwickler in automatisierte Vorschläge. Diese Form des Angriffs ist besonders tückisch, da sie die inhärente Neigung von KI-Tools ausnutzt, nicht existierende Softwarepakete vorzuschlagen.

Eine kürzlich durchgeführte Studie von Forschern der University of Texas in San Antonio, Virginia Tech und der University of Oklahoma hat gezeigt, dass fast jedes fünfte von KI vorgeschlagene Paket nicht existiert. Die Untersuchung von über 576.000 KI-generierten Codebeispielen aus 16 großen Sprachmodellen ergab, dass die durchschnittliche Rate von halluzinierten Paketen bei kommerziellen Modellen mindestens 5,2 % und bei Open-Source-Modellen 21,7 % beträgt. Besonders besorgniserregend ist, dass 43 % dieser halluzinierten Pakete bei mehrfachen Durchläufen mit denselben Eingaben konsistent wieder auftauchten.

Diese Konsistenz bietet Angreifern eine Art Fahrplan. Sie können das Verhalten von KI-Tools überwachen, wiederkehrende Vorschläge identifizieren und diese Paketnamen registrieren, bevor es andere tun. Die Studie zeigte auch Unterschiede zwischen den Modellen: CodeLlama 7B und 34B wiesen die höchsten Halluzinationsraten von über 30 % auf, während GPT-4 Turbo mit 3,59 % die niedrigste Rate hatte.

Ein weiterer Trend, der dieses Sicherheitsrisiko verschärfen könnte, ist das sogenannte Vibe Coding. Dieser Ansatz, bei dem Entwickler beschreiben, was sie wollen, und KI-Tools den Code generieren, basiert stark auf Vertrauen. Entwickler neigen dazu, den von der KI generierten Code ohne gründliche Überprüfung zu übernehmen, was halluzinierten Paketen Tür und Tor öffnet.

Um sich vor Slopsquatting zu schützen, empfehlen Experten, alle Paketnamen vor der Installation manuell zu überprüfen, Sicherheitstools zu verwenden, die Abhängigkeiten auf Risiken scannen, und verdächtige oder brandneue Bibliotheken zu hinterfragen. Zudem sollte das direkte Kopieren und Einfügen von Installationsbefehlen aus KI-Vorschlägen vermieden werden.

Es gibt jedoch auch positive Entwicklungen: Einige KI-Modelle verbessern sich in der Selbstkontrolle. GPT-4 Turbo und DeepSeek haben gezeigt, dass sie halluzinierte Pakete in ihren eigenen Ausgaben mit über 75 % Genauigkeit erkennen und markieren können, wie erste interne Tests zeigen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!