KI-gestützte Plattformen: Neue Bedrohungen durch VibeScamming

MÜNCHEN (IT BOLTWISE) – Die zunehmende Verbreitung von KI-gestützten Plattformen hat nicht nur positive Auswirkungen auf die Entwicklung von Software, sondern birgt auch neue Risiken. Eine aktuelle Analyse zeigt, wie einfach es für Cyberkriminelle geworden ist, diese Technologien für bösartige Zwecke zu missbrauchen.

Die Künstliche Intelligenz (KI) hat in den letzten Jahren erhebliche Fortschritte gemacht und ermöglicht es Entwicklern, komplexe Anwendungen mit minimalem Aufwand zu erstellen. Eine der Plattformen, die diese Entwicklung vorantreibt, ist Lovable, ein KI-gestütztes Tool, das die Erstellung von Webanwendungen durch textbasierte Eingaben ermöglicht. Doch gerade diese Fähigkeit macht Lovable auch anfällig für sogenannte Jailbreak-Angriffe, bei denen Angreifer die Sicherheitsvorkehrungen umgehen, um Phishing-Seiten zu erstellen.

Das Phänomen, das als VibeScamming bezeichnet wird, nutzt die Fähigkeit von KI-Modellen, auf einfache Anfragen hin komplexe Aufgaben zu automatisieren. Dabei wird die KI so manipuliert, dass sie bösartige Inhalte generiert, die dann für Phishing-Angriffe genutzt werden können. Diese Technik ist besonders gefährlich, da sie es auch unerfahrenen Cyberkriminellen ermöglicht, täuschend echte Anmeldeseiten zu erstellen, die sensible Daten abgreifen können.

Die Sicherheitsforscher von Guardio Labs haben in ihrer Analyse gezeigt, dass Lovable nicht nur in der Lage ist, täuschend echte Login-Seiten zu erstellen, sondern diese auch automatisch auf einer eigenen Subdomain zu hosten. Dies erhöht die Glaubwürdigkeit der Phishing-Seiten und erschwert deren Erkennung durch Sicherheitslösungen. Zudem können die gestohlenen Daten über verschiedene Dienste wie Firebase oder Telegram exfiltriert werden.

Ein weiteres Beispiel für die Gefährdung durch KI-gestützte Plattformen ist die Möglichkeit, komplette Scam-Kampagnen zu generieren. Diese umfassen nicht nur die Erstellung von Phishing-Seiten, sondern auch die Automatisierung der Verbreitung von schädlichen Links über SMS und andere Kanäle. Die KI-Modelle werden dabei so trainiert, dass sie Sicherheitsmechanismen umgehen und die Legitimität der Angriffe erhöhen.

Die zunehmende Verfügbarkeit von KI-Tools senkt die Eintrittsbarrieren für Cyberkriminelle erheblich. Selbst ohne tiefgehende technische Kenntnisse können Angreifer nun komplexe Malware entwickeln und verbreiten. Dies stellt eine erhebliche Bedrohung für Unternehmen und Privatpersonen dar, die sich auf die Sicherheit ihrer Daten verlassen.

Um diesen Bedrohungen entgegenzuwirken, ist es entscheidend, dass Entwickler und Sicherheitsforscher eng zusammenarbeiten, um die Sicherheitsmechanismen von KI-Plattformen zu verbessern. Dies umfasst sowohl die Implementierung strengerer Sicherheitsvorkehrungen als auch die Sensibilisierung der Nutzer für die potenziellen Risiken.

Die Zukunft der KI-Entwicklung wird maßgeblich davon abhängen, wie gut es gelingt, die Balance zwischen Innovation und Sicherheit zu wahren. Nur durch eine enge Zusammenarbeit zwischen Entwicklern, Sicherheitsforschern und der Industrie kann sichergestellt werden, dass die Vorteile der KI-Technologie nicht von böswilligen Akteuren ausgenutzt werden.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.997 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen