KI-gestützte Cyberangriffe: Risiken und Chancen für die IT-Sicherheit

MÜNCHEN (IT BOLTWISE) – Die fortschreitende Entwicklung der Künstlichen Intelligenz (KI) birgt sowohl Chancen als auch Risiken für die Cybersicherheit. Während KI-Systeme die Fähigkeit haben, Sicherheitsmaßnahmen zu automatisieren und Schwachstellen effizienter zu beheben, besteht auch die Gefahr, dass sie von Angreifern missbraucht werden, um Cyberangriffe zu verstärken.

Die Künstliche Intelligenz (KI) hat sich seit langem als unverzichtbares Werkzeug in der Cybersicherheit etabliert. Von der Erkennung von Malware bis zur Analyse von Netzwerkverkehr haben prädiktive maschinelle Lernmodelle und andere spezialisierte KI-Anwendungen die Cybersicherheit in den letzten Jahrzehnten maßgeblich geprägt. Mit dem Fortschreiten hin zu einer allgemeinen Künstlichen Intelligenz (AGI) wird das Potenzial von KI, Verteidigungsmaßnahmen zu automatisieren und Schwachstellen zu beheben, noch mächtiger. Doch um diese Vorteile voll auszuschöpfen, müssen wir auch die Risiken verstehen und mindern, die mit dem Missbrauch fortschrittlicher KI zur Ermöglichung oder Verstärkung von Cyberangriffen verbunden sind.

Unser neues Rahmenwerk zur Bewertung der aufkommenden offensiven Cyberfähigkeiten von KI hilft uns genau dabei. Es ist die umfassendste Bewertung ihrer Art bisher: Es deckt jede Phase der Cyberangriffskette ab, adressiert eine Vielzahl von Bedrohungstypen und basiert auf realen Daten. Unser Rahmenwerk ermöglicht es Cybersicherheitsexperten, die notwendigen Verteidigungsmaßnahmen zu identifizieren und zu priorisieren, bevor böswillige Akteure KI ausnutzen können, um ausgeklügelte Cyberangriffe durchzuführen.

Um der aufkommenden Bedrohung durch KI-gestützte Cyberangriffe einen Schritt voraus zu sein, haben wir bewährte Cybersicherheitsbewertungsrahmen wie MITRE ATT&CK angepasst. Diese Rahmenwerke ermöglichten es uns, Bedrohungen über die gesamte Cyberangriffskette hinweg zu bewerten, von der Aufklärung bis zur Zielerreichung, und über eine Vielzahl möglicher Angriffsszenarien hinweg. Allerdings waren diese etablierten Rahmenwerke nicht darauf ausgelegt, Angreifer zu berücksichtigen, die KI nutzen, um ein System zu kompromittieren. Unser Ansatz schließt diese Lücke, indem er proaktiv identifiziert, wo KI Angriffe schneller, billiger oder einfacher machen könnte – beispielsweise durch die Ermöglichung vollständig automatisierter Cyberangriffe.

Wir analysierten über 12.000 reale Versuche, KI in Cyberangriffen in 20 Ländern einzusetzen, und zogen dabei Daten von Googles Threat Intelligence Group heran. Dies half uns, gemeinsame Muster zu identifizieren, wie sich diese Angriffe entfalten. Aus diesen Mustern erstellten wir eine Liste von sieben archetypischen Angriffskategorien – darunter Phishing, Malware und Denial-of-Service-Angriffe – und identifizierten kritische Engpassstufen entlang der Cyberangriffskette, bei denen KI die traditionellen Kosten eines Angriffs erheblich stören könnte. Indem Verteidiger ihre Bewertungen auf diese Engpässe konzentrieren, können sie ihre Sicherheitsressourcen effektiver priorisieren.

Schließlich entwickelten wir einen Benchmark für offensive Cyberfähigkeiten, um die Cybersicherheitsstärken und -schwächen von fortschrittlichen KI-Modellen umfassend zu bewerten. Unser Benchmark besteht aus 50 Herausforderungen, die die gesamte Angriffskette abdecken, einschließlich Bereichen wie Informationsbeschaffung, Ausnutzung von Schwachstellen und Malware-Entwicklung. Unser Ziel ist es, Verteidigern die Möglichkeit zu geben, gezielte Abwehrmaßnahmen zu entwickeln und KI-gestützte Angriffe im Rahmen von Red-Teaming-Übungen zu simulieren.

Unsere ersten Bewertungen mit diesem Benchmark deuten darauf hin, dass isoliert betrachtet, gegenwärtige KI-Modelle wahrscheinlich keine bahnbrechenden Fähigkeiten für Bedrohungsakteure ermöglichen. Doch je weiter sich fortschrittliche KI entwickelt, desto mehr werden sich die Arten von Cyberangriffen weiterentwickeln, was kontinuierliche Verbesserungen in den Verteidigungsstrategien erfordert.

Wir stellten auch fest, dass bestehende KI-Cybersicherheitsbewertungen oft wesentliche Aspekte von Cyberangriffen übersehen – wie etwa die Umgehung, bei der Angreifer ihre Präsenz verbergen, und die Persistenz, bei der sie langfristigen Zugang zu einem kompromittierten System aufrechterhalten. Doch gerade in diesen Bereichen können KI-gestützte Ansätze besonders effektiv sein. Unser Rahmenwerk beleuchtet dieses Problem, indem es diskutiert, wie KI die Barrieren zum Erfolg in diesen Teilen eines Angriffs senken könnte.

Da KI-Systeme weiterhin skalieren, hat ihre Fähigkeit, die Cybersicherheit zu automatisieren und zu verbessern, das Potenzial, die Art und Weise zu transformieren, wie Verteidiger Bedrohungen antizipieren und darauf reagieren. Unser Cybersicherheitsbewertungsrahmen ist darauf ausgelegt, diesen Wandel zu unterstützen, indem er einen klaren Überblick darüber bietet, wie KI auch missbraucht werden könnte und wo bestehende Cyberabwehrmaßnahmen möglicherweise unzureichend sind. Indem er diese aufkommenden Risiken hervorhebt, wird dieses Rahmenwerk und der Benchmark Cybersicherheitsteams helfen, ihre Verteidigungen zu stärken und den sich schnell entwickelnden Bedrohungen einen Schritt voraus zu bleiben.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

2.004 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen