Italien stoppt chinesische KI DeepSeek wegen Datenschutzbedenken

ROM / MÜNCHEN (IT BOLTWISE) – Die italienische Datenschutzbehörde hat die Nutzung der chinesischen Künstlichen Intelligenz DeepSeek im Land untersagt. Grund sind erhebliche Bedenken hinsichtlich des Datenschutzes und der ethischen Standards, die das Unternehmen nicht ausräumen konnte.

Die italienische Datenschutzbehörde, bekannt als Garante, hat entschieden, die Dienste des chinesischen KI-Unternehmens DeepSeek in Italien zu blockieren. Diese Entscheidung fiel, nachdem DeepSeek auf eine Reihe von Fragen zur Datenverarbeitung unzureichend geantwortet hatte. Insbesondere wollte die Behörde wissen, welche persönlichen Daten von der Webplattform und der mobilen App gesammelt werden, aus welchen Quellen diese stammen, zu welchen Zwecken sie verwendet werden und ob sie in China gespeichert werden. DeepSeek erklärte, dass es nicht in Italien tätig sei und europäische Gesetze nicht auf das Unternehmen anwendbar seien. Diese Haltung führte zur sofortigen Sperrung des Dienstes und zur Einleitung einer Untersuchung. Bereits 2023 hatte die Behörde OpenAI’s ChatGPT vorübergehend gesperrt, bis das Unternehmen die Datenschutzbedenken ausräumte. OpenAI wurde später mit einer Geldstrafe von 15 Millionen Euro belegt. Die Nachricht von DeepSeeks Verbot kommt zu einem Zeitpunkt, an dem das Unternehmen eine Welle der Popularität erlebt, mit Millionen von Nutzern, die die Dienste in Anspruch nehmen. Neben der Aufmerksamkeit von Gesetzgebern und Regulierungsbehörden steht das Unternehmen auch im Fokus von Diskussionen über seine Datenschutzrichtlinien, China-nahe Zensur und mögliche Bedrohungen für die nationale Sicherheit. DeepSeek hat kürzlich Maßnahmen ergriffen, um Angriffe auf seine Dienste abzuwehren. Die großen Sprachmodelle von DeepSeek sind anfällig für sogenannte Jailbreak-Techniken, die es ermöglichen, schädliche oder verbotene Inhalte zu generieren. Laut einem Bericht von Palo Alto Networks Unit 42 können diese Modelle detaillierte Anleitungen zur Erstellung gefährlicher Gegenstände oder zur Durchführung von Cyberangriffen liefern. Die Schwächen der Sicherheitsvorkehrungen wurden durch gezielte Eingaben aufgedeckt, die es ermöglichten, schädliche Anweisungen zu erhalten. Eine weitere Untersuchung durch das Unternehmen HiddenLayer ergab, dass das DeepSeek-R1-Modell nicht nur anfällig für Eingabeinjektionen ist, sondern auch ungewollte Informationslecks verursachen kann. Interessanterweise deuteten einige Ergebnisse darauf hin, dass Daten von OpenAI in das Modell eingeflossen sind, was ethische und rechtliche Fragen aufwirft. Diese Enthüllungen folgen auf die Entdeckung einer Sicherheitslücke in OpenAI’s ChatGPT-4o, die es Angreifern ermöglicht, die Sicherheitsvorkehrungen des Modells zu umgehen. Ähnliche Schwachstellen wurden auch in GitHubs Copilot entdeckt, die es ermöglichen, Sicherheitsbeschränkungen zu umgehen und schädlichen Code zu erzeugen. Diese Entwicklungen verdeutlichen die Herausforderungen, die mit der Sicherung von KI-Modellen verbunden sind, und die Notwendigkeit, robuste Schutzmaßnahmen zu implementieren.

Zu den Top-Stories!

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.877 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen