Schatten-KI in SaaS: Sicherheitsrisiken und Erkennungsmethoden

MÜNCHEN (IT BOLTWISE) – In der dynamischen Welt der Software-as-a-Service (SaaS) wird die Integration von Künstlicher Intelligenz (KI) zunehmend zum Standard. Doch während Unternehmen eifrig KI-Tools in ihre Angebote einbinden, taucht ein neues Problem auf: die sogenannte Schatten-KI. Diese beschreibt die unautorisierte Nutzung von KI-Tools innerhalb von Organisationen, die oft ohne das Wissen der IT- oder Sicherheitsteams erfolgt.

Die rasante Entwicklung von KI-Technologien hat zu einer Vielzahl von Anwendungen geführt, die in Unternehmen eingesetzt werden, um Prozesse zu optimieren und die Effizienz zu steigern. Doch mit der Verbreitung dieser Technologien wächst auch die Gefahr der Schatten-KI. Diese beschreibt die Nutzung von KI-Tools, die ohne Genehmigung oder Wissen der IT-Abteilung in Unternehmen eingesetzt werden. Ein typisches Beispiel ist ein Entwickler, der ChatGPT zur Unterstützung beim Programmieren nutzt, ohne die Sicherheitsrichtlinien des Unternehmens zu beachten.

Die Erkennung von Schatten-KI stellt eine erhebliche Herausforderung dar, da diese Tools oft in genehmigten Geschäftsanwendungen eingebettet sind. Traditionelle Methoden zur Erkennung von Schatten-IT, wie das Überwachen von Netzwerken auf unautorisierte Verbindungen, sind bei Schatten-KI weniger effektiv. Diese Tools können sich leicht in bestehende Anwendungen integrieren und so unter dem Radar bleiben. Zudem besteht das Risiko, dass Mitarbeiter sensible Daten in persönliche KI-Instanzen eingeben, was die Gefahr von Datenlecks erhöht.

Die Sicherheitsrisiken, die mit Schatten-KI verbunden sind, sind vielfältig. Sie erweitern die Angriffsfläche eines Unternehmens durch unüberwachte Integrationen und APIs. Oft sind diese Tools mit schwachen Konfigurationen ausgestattet, wie übermäßigen Berechtigungen und fehlender Multi-Faktor-Authentifizierung, was die Gefahr von Ausnutzung und seitlicher Bewegung innerhalb des Netzwerks erhöht. Besonders gefährlich ist die Fähigkeit dieser Tools, Informationen zu verarbeiten und weiterzugeben, was das Risiko von Datenverlusten und Fehlinformationen erhöht.

Reco, eine Sicherheitslösung für SaaS, hat eine Methode entwickelt, um Schatten-KI zu erkennen und zu katalogisieren. Durch die Integration mit dem Active Directory eines Unternehmens kann Reco eine Liste genehmigter Anwendungen und KI-Tools erstellen. Zudem analysiert Reco E-Mail-Metadaten, um Kommunikation mit unautorisierten Tools zu erkennen. Mithilfe eines proprietären Modells konsolidiert Reco die Daten und erstellt eine Übersicht über alle verwendeten SaaS-Anwendungen und KI-Tools.

Reco bietet wertvolle Einblicke in die Nutzung von Schatten-KI-Tools innerhalb eines Unternehmens. Es zeigt auf, welche SaaS-Anwendungen genutzt werden, welche davon KI-Assistenten verwenden und welche Berechtigungen die Nutzer haben. Zudem ermöglicht Reco die Erkennung von App-zu-App-Verbindungen und die Verwaltung von Identitäten über eine zentrale Konsole. Dies hilft Sicherheitsteams, potenzielle Risiken zu priorisieren und geeignete Maßnahmen zu ergreifen.

Obwohl Reco eine umfassende Sichtbarkeit und Erkennung von Schatten-KI bietet, gibt es auch Einschränkungen. Reco kann nicht verhindern, dass Nutzer sensible Daten in unautorisierte Tools eingeben oder diese Tools blockieren. Es kann lediglich Aktivitäten erkennen und darauf hinweisen. Dennoch bietet Reco durch kontinuierliche Sicherheitsüberwachung und Bedrohungserkennung eine wertvolle Unterstützung für Unternehmen, die ihre SaaS-Anwendungen und KI-Tools schützen möchten.