DeepSeek-Datenleck: Sicherheitslücken in KI-Systemen enthüllt

MÜNCHEN (IT BOLTWISE) – Die jüngste Sicherheitsverletzung bei DeepSeek hat erneut die erheblichen Schwachstellen in KI-Systemen aufgezeigt und beunruhigende Fragen darüber aufgeworfen, wo die freigelegten Daten gelandet sein könnten.

Die jüngste Sicherheitsverletzung bei DeepSeek hat die erheblichen Schwachstellen in KI-Systemen erneut ins Rampenlicht gerückt. Kurz nach der Veröffentlichung von DeepSeek entdeckten Sicherheitsforscher umfangreiche Schwachstellen in der Infrastruktur des Systems. Sensible Benutzerdaten und proprietäre Informationen, die öffentlich zugänglich waren, finden oft ihren Weg ins Dark Web, einen florierenden Untergrundmarkt, auf dem gestohlene Daten routinemäßig gehandelt, verkauft und ausgebeutet werden.

Dieser Vorfall dient als eindringliche Warnung für Organisationen, die KI-Technologien ohne angemessene Sicherheitskontrollen einführen. Da KI-Systeme zunehmend in zentrale Geschäftsabläufe integriert werden, gehen die Sicherheitsimplikationen weit über traditionelle Cybersicherheitsbedenken hinaus und können potenziell katastrophale Schäden für Betrieb und Ruf verursachen.

Die von Wiz Research entdeckten Schwachstellen in DeepSeek offenbaren ein beunruhigendes Muster im Umgang von Organisationen mit KI-Sicherheit. Eine öffentlich zugängliche ClickHouse-Datenbank von DeepSeek enthielt über eine Million Zeilen von Log-Streams mit hochsensiblen Informationen. Diese freigelegten Daten umfassten Chat-Verläufe, API-Schlüssel und Geheimnisse, Backend-Details und operative Metadaten.

Die Sicherheitslücke endete nicht dort. Die freigelegte Datenbank erlaubte die vollständige Kontrolle über Datenbankoperationen, was Angreifern potenziell den Zugriff auf interne Daten und die Durchführung von Privilegieneskalationen innerhalb der DeepSeek-Umgebung ermöglichte. Die Leckage betraf Daten von mehr als einer Million Nutzern, einschließlich Chat-Verläufen und potenziell persönlich identifizierbarer Informationen (PII).

Solche groß angelegten Expositionen ziehen oft sofortige Aufmerksamkeit von Cyberkriminellen auf dem Dark Web auf sich. Verschärft wurde die Situation dadurch, dass unverschlüsselte Benutzerdaten über das Internet gesendet wurden, da die DeepSeek-iOS-App die App Transport Security (ATS) global deaktiviert hatte. Die App nutzte zudem einen unsicheren und veralteten Verschlüsselungsalgorithmus (3DES) mit fest codierten Verschlüsselungsschlüsseln, was potenziell die Entschlüsselung sensibler Datenfelder ermöglichte.

Darüber hinaus identifizierte das Strike-Team von SecurityScorecard veraltete kryptografische Algorithmen und schwache Datenschutzmechanismen. Forscher fanden SQL-Injektions-Schwachstellen, die Angreifern unbefugten Zugriff auf Benutzeraufzeichnungen ermöglichen könnten. Die freigelegte Datenbank enthielt sensible Informationen, darunter Chat-Verläufe, API-Schlüssel und Backend-Details – genau die Art von Daten, die von Cyberkriminellen auf Dark-Web-Marktplätzen hoch geschätzt werden.

Besonders besorgniserregend zeigte das DeepSeek-R1-Modell alarmierende Ausfallraten bei Sicherheitstests: 91 % bei Jailbreaking und 86 % bei Prompt-Injection-Angriffen. Hinzu kommen Phishing-Seiten, die auf DeepSeek-Nutzer abzielen, um Benutzerdaten und Krypto-Wallets zu stehlen, was darauf hindeutet, dass böswillige Akteure aktiv die Benutzerbasis und Sicherheitslücken des Unternehmens ausnutzen.

Die freigelegten DeepSeek-Assets stellen erstklassige Ziele für den Handel im Dark Web dar, wo gestohlene Daten zu wertvollen Waren werden. Das Dark Web ist ein florierender Untergrundmarkt, auf dem illegale Waren, einschließlich gestohlener Daten und Unternehmensschwachstellen, offen gehandelt werden. Diese verborgene Wirtschaft stellt eine direkte und wachsende Bedrohung für Unternehmen weltweit dar, wie jüngste hochkarätige Sicherheitsverletzungen gezeigt haben.

Die Art der im DeepSeek-Datenleck freigelegten Daten ist auf Dark-Web-Märkten besonders wertvoll: Leckgeschlagene Anmeldedaten, privilegierter Zugriff, sensible Unternehmensinformationen und persönlich identifizierbare Informationen. Diese Daten können für Identitätsdiebstahl, Betrug und Social-Engineering-Schemata verwendet werden.

Der DeepSeek-Vorfall zeigt, wie schnell KI-Sicherheitslücken in marktfähige Vermögenswerte auf dem Dark Web umgewandelt werden können, was langfristige Risiken sowohl für das Unternehmen als auch für seine Nutzer schafft. Organisationen müssen die Kontrolle über die KI-Sicherheit übernehmen. Der Schlüssel liegt in der Entwicklung umfassender Expositionsmanagementstrategien, bevor KI-Technologien eingeführt werden.

Während KI-Sicherheit entmutigend erscheinen mag, sind Organisationen nicht machtlos. Der erste Schritt besteht darin, die Realität der Exposition zu akzeptieren. Von dort aus helfen konsistentes Monitoring, proaktive Maßnahmen und ein Fokus auf das Schließen von Schwachstellen, Ihr Unternehmen vor der wachsenden Bedrohungslandschaft zu schützen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!