CyberArk warnt vor KI-Sicherheitsrisiken: Neue Herausforderungen für Unternehmen

MÜNCHEN (IT BOLTWISE) – Die zunehmende Integration von KI-Agenten in Unternehmenssysteme bringt nicht nur Chancen, sondern auch erhebliche Sicherheitsrisiken mit sich. CyberArk, ein führendes Unternehmen im Bereich Cybersicherheit, hat kürzlich auf der IMPACT 2025 Konferenz die wachsenden Bedrohungen durch KI-Agenten hervorgehoben.

Die Entwicklung von KI-Technologien hat einen Punkt erreicht, an dem sie nicht mehr nur als Antwortmaschinen, sondern als handlungsfähige Systeme in Unternehmen eingesetzt werden. Diese neuen KI-Agenten bieten zwar erhebliche Vorteile, stellen jedoch auch neue Sicherheitsrisiken dar. Laut CyberArk, einem führenden Unternehmen im Bereich Cybersicherheit, sind diese Agenten aufgrund ihrer Autonomie und Proaktivität besonders anfällig für Cyberangriffe.

Die zunehmende Verbreitung von KI-Agenten in kritischen Unternehmenssystemen erhöht die Angriffsfläche für Cyberkriminelle. Viele Unternehmen integrieren diese Technologien ohne ausreichende Sicherheitsvorkehrungen, was zu neuen Schwachstellen führt. CyberArk betont, dass es keine einfache Lösung gibt, um alle Sicherheitsrisiken zu beseitigen. Stattdessen wird ein mehrschichtiger Sicherheitsansatz empfohlen, der als “Defense in Depth” bekannt ist.

Ein weiteres Risiko besteht in der Verwendung von großen Sprachmodellen (LLMs), die von Angreifern manipuliert werden können. Retsef Levi, Professor am MIT Sloan School of Management, warnt vor den Gefahren komplexer Systeme mit undurchsichtigen Grenzen, die menschliche Fähigkeiten untergraben können. Er betont, dass Unternehmen Sicherheitsmaßnahmen um diese Modelle herum aufbauen sollten, anstatt sich auf deren inhärente Sicherheit zu verlassen.

Die Forschung zur Identifizierung neuer Angriffsflächen durch generative KI wächst schnell. Ein Bericht von Pillar Security zeigt, dass 90 % der erfolgreichen Angriffe auf LLM-Anwendungen zur Preisgabe sensibler Daten führten. Diese Angriffe können in nur 42 Sekunden durchgeführt werden, was die Dringlichkeit unterstreicht, Sicherheitsmaßnahmen zu verstärken.

Experten prognostizieren, dass bis 2028 ein Viertel aller Unternehmensverletzungen auf den Missbrauch von KI-Agenten zurückzuführen sein wird. Dies hat zu einem Anstieg der Investitionen in KI-Sicherheitslösungen geführt. So plant Palo Alto Networks den Kauf des KI-Sicherheitsunternehmens Protect AI für geschätzte 650-700 Millionen US-Dollar.

Die autonome Natur und die komplexen Entscheidungsfähigkeiten von KI-Agenten bringen verschiedene Bedrohungen mit sich, die Sicherheits-, Datenschutz-, ethische, operationale, rechtliche und technologische Bereiche betreffen. Trotz dieser Herausforderungen wird die Verbreitung von KI-Agenten in Unternehmen voraussichtlich nicht abnehmen. Laut CB Insights haben Erwähnungen von “Agent” und “Agentic” in Unternehmensgesprächen im ersten Quartal 2025 ein Allzeithoch erreicht.

Amazon-CEO Andy Jassy betonte in seinem jährlichen Brief an die Aktionäre die Bedeutung generativer KI-Anwendungen für den zukünftigen Erfolg von Unternehmen. Er berichtete, dass bei Amazon über 1.000 GenAI-Anwendungen entwickelt werden, um Kundenerfahrungen in verschiedenen Bereichen zu verbessern.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!