Hackergruppen missbrauchen Googles KI Gemini für Cyberangriffe

MÜNCHEN (IT BOLTWISE) – In der digitalen Welt, in der Cyberangriffe zunehmend an Komplexität und Häufigkeit zunehmen, haben sich staatlich geförderte Hackergruppen neue Methoden zunutze gemacht, um ihre Effizienz zu steigern. Eine dieser Methoden ist der Einsatz von Googles KI-gestütztem Assistenten Gemini, der ursprünglich entwickelt wurde, um die Produktivität zu verbessern und Informationen effizienter zu verarbeiten.

Die Nutzung von Künstlicher Intelligenz in der Cyberkriminalität ist keine neue Entwicklung, doch die jüngsten Berichte über den Missbrauch von Googles KI Gemini durch staatlich geförderte Hackergruppen werfen ein neues Licht auf die Bedrohungslage. Diese Gruppen, insbesondere aus dem Iran und China, verwenden Gemini, um potenzielle Angriffsziele zu identifizieren und ihre Angriffe besser vorzubereiten. Dabei geht es weniger um die Entwicklung neuer Angriffsmethoden, sondern vielmehr um die Optimierung bestehender Prozesse.

Gemini wird von diesen Gruppen vor allem zur Unterstützung bei Programmieraufgaben eingesetzt, um Tools und Skripte zu entwickeln, die für Cyberangriffe notwendig sind. Auch die Recherche zu bekannten Sicherheitslücken und die Informationsbeschaffung über Zielorganisationen gehören zu den häufigsten Anwendungen. Diese Vorgehensweise zeigt, wie KI-Technologien genutzt werden können, um die Effizienz von Cyberangriffen zu steigern, ohne dass neue Angriffstechniken entwickelt werden müssen.

Besonders auffällig ist die unterschiedliche Nutzung von Gemini je nach Herkunftsland der Hackergruppen. Iranische Akteure setzen die KI intensiv für Aufklärung und Phishing-Kampagnen ein, während chinesische Gruppen sich auf US-Militär- und Regierungsorganisationen konzentrieren. Sie nutzen Gemini, um Schwachstellen zu erforschen und Skripte für laterale Bewegungen und Rechteausweitung zu entwickeln. Nordkoreanische Gruppen hingegen unterstützen mit Gemini mehrere Phasen des Angriffszyklus, einschließlich der Entwicklung von Malware und Verschleierungstechniken.

Interessanterweise zeigen russische Hackergruppen nur ein minimales Engagement bei der Nutzung von Gemini. Dies könnte darauf hindeuten, dass sie entweder auf in Russland entwickelte KI-Modelle zurückgreifen oder westliche Plattformen aus Sicherheitsgründen meiden. Diese Zurückhaltung könnte auch mit der operativen Sicherheit zusammenhängen, die bei der Nutzung westlicher Technologien gefährdet sein könnte.

Google hat zudem Versuche beobachtet, die Sicherheitsmaßnahmen von Gemini zu umgehen, indem öffentliche Jailbreaks eingesetzt oder Prompts umformuliert wurden. Diese Versuche blieben bisher erfolglos, was darauf hindeutet, dass die Sicherheitsvorkehrungen von Gemini derzeit noch wirksam sind. Dennoch zeigt der Missbrauch von KI-Technologien wie Gemini, dass mit der zunehmenden Verbreitung von generativen KI-Systemen auch die Gefahr des Missbrauchs wächst.

Ein ähnliches Phänomen wurde bereits bei OpenAI’s ChatGPT beobachtet, das ebenfalls für die Entwicklung von Malware genutzt wurde. Diese Entwicklungen unterstreichen die Notwendigkeit, robuste Schutzmaßnahmen zu implementieren, um den Missbrauch von KI-Technologien zu verhindern. Sicherheitsforscher haben bereits bei einigen weit verbreiteten Systemen wie DeepSeek R1 und Alibabas Qwen 2.5 Schwachstellen aufgezeigt, die leicht zu umgehen sind.

Zu den Top-Stories!

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.889 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen