KI-Agenten: Sicherheitsrisiken und Management in Unternehmen

MÜNCHEN (IT BOLTWISE) – In der modernen Unternehmenswelt, in der Künstliche Intelligenz zunehmend an Bedeutung gewinnt, stehen Unternehmen vor neuen Herausforderungen im Bereich der Cybersicherheit. KI-Agenten, die eigenständig komplexe Aufgaben ausführen können, stellen eine besondere Herausforderung dar.

Mit der fortschreitenden Entwicklung der Künstlichen Intelligenz setzen immer mehr Unternehmen auf KI-Agenten, die sich grundlegend von anderen KI-Formen unterscheiden. Im Gegensatz zu generativen oder traditionellen KI-Systemen, die auf menschliche Eingaben reagieren, agieren KI-Agenten eigenständig und führen komplexe Aufgaben aus, die mehrstufige Strategien erfordern. Um ihre Ziele zu erreichen, sammeln diese Agenten Daten aus verschiedenen Quellen und interagieren mit internen und externen Systemen.

In Unternehmensnetzwerken übersteigen Maschinenidentitäten die Anzahl menschlicher Identitäten bei weitem, was das Management von Maschinenidentitäten schnell sehr komplex macht. Leider sind viele der Berechtigungen, die KI-Agenten erhalten, viel zu weit gefasst. Wenn Agenten kompromittiert werden, können Angreifer sie nutzen, um sich seitlich durch das Netzwerk zu bewegen, ihre Privilegien zu eskalieren, Daten zu stehlen, Malware zu verbreiten und kritische interne Systeme zu kapern.

Während Mitarbeiter sich beschweren, wenn sie ihre Arbeit nicht erledigen können, weil ihre Berechtigungen nicht ausreichen, tun Maschinen dies nicht. Sie funktionieren einfach nicht mehr, was Probleme verursacht, die von der IT untersucht werden müssen. Da jede IT-Abteilung überlastet ist, neigen Administratoren dazu, KI-Agenten zu großzügige Privilegien zu gewähren. Dies mag das Management von KI-Agenten kurzfristig erleichtern, erhöht jedoch das langfristige Sicherheitsrisiko.

Ein Beispiel: Wenn die IT einen KI-Agenten als Chatbot einsetzt, um Vertriebsmitarbeitern zu helfen, schnell Informationen über potenzielle Kunden zu finden, benötigt dieser Agent Zugriff auf CRM-Daten. Ein Administrator könnte ihm jedoch versehentlich umfassenden Lese- und Schreibzugriff auf viele Unternehmensdatenbanken gewähren.

Die einfache Bereitstellung von KI-Agenten führt zu weiteren Problemen: insbesondere zu Schatten-KI und Agenten-Wildwuchs. Es ist möglich, dass sogar nicht-technische Mitarbeiter einen Agenten von Open-Source-Seiten herunterladen, ihn starten und mit Datenquellen verbinden – alles ohne Wissen oder Eingreifen der IT.

Um KI-Agenten-Identitäten ordnungsgemäß zu verwalten, muss die IT kontinuierlich alle Agenten in der Umgebung entdecken, ein Prozess, der automatisiert und kontinuierlich sein sollte, damit die IT über neue Agenten informiert wird, sobald sie auftauchen. Anschließend benötigt die IT eine einheitliche Ansicht aller Maschinenidentitäten und ihrer Berechtigungen für eine effiziente Verwaltung.

Berechtigungen für Agenten sollten standardmäßig auf Lesezugriff beschränkt sein. Agenten, die die Fähigkeit benötigen, Daten zu erstellen, zu aktualisieren oder zu löschen, sollten individuell und mit großer Sorgfalt behandelt werden. Halten Sie sich an das Prinzip der minimalen Rechtevergabe. Wenn ein Agent eingesetzt wird, um Mitarbeitern den Zugang zu Informationen in Wissensdatenbanken zu erleichtern, gibt es keinen Grund, warum er Zugriff auf Kundeninformationen im CRM haben sollte. Beschränken Sie den Zugriff nur auf die Datenquellen, die der Agent benötigt, um seine Aufgaben zu erfüllen.

Delinea hat eine cloud-native Identitätssicherheitsplattform entwickelt, die in globalem Maßstab arbeitet, um alle Maschinen- und menschlichen Identitäten, einschließlich KI-Agenten, kontinuierlich zu entdecken, bereitzustellen und zu verwalten. Die IT erhält einen kohärenten, umfassenden Überblick über alle Identitäten – auch über solche, die nicht direkt von der IT kontrolliert werden – über eine einzige Benutzeroberfläche.

„Als Branche neigen wir dazu, das Identitätsmanagement für unsere Kunden zu verkomplizieren“, sagt Phil Calvin, Chief Product Officer bei Delinea. „Im Grunde genommen ist ein KI-Agent nur ein Konto, und man muss das Konto-Wildwuchs und die Berechtigungen verstehen. Wir bieten dem Kunden einen leicht verständlichen Überblick über all das, was das Management exponentiell vereinfacht.“

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!