Google setzt KI-gestützte Fuzzing-Tools zur Entdeckung von Sicherheitslücken ein

MÜNCHEN (IT BOLTWISE) – Google hat mit seinem KI-gestützten Fuzzing-Tool OSS-Fuzz bedeutende Fortschritte bei der Identifizierung von Sicherheitslücken in Open-Source-Projekten erzielt.

Google hat kürzlich bekannt gegeben, dass sein KI-gestütztes Fuzzing-Tool OSS-Fuzz erfolgreich 26 Sicherheitslücken in verschiedenen Open-Source-Code-Repositories aufgedeckt hat. Darunter befindet sich auch eine mittelschwere Schwachstelle in der OpenSSL-Kryptografiebibliothek. Diese Entdeckung markiert einen Meilenstein in der automatisierten Sicherheitsprüfung, da alle Schwachstellen durch KI-generierte und verbesserte Fuzzing-Ziele identifiziert wurden.

Die spezifische Schwachstelle in OpenSSL, bekannt als CVE-2024-9143, ist ein Out-of-Bounds-Speicherzugriffsfehler, der zu einem Absturz der Anwendung oder zur Ausführung von Remote-Code führen kann. Dieses Problem wurde in den OpenSSL-Versionen 3.3.3, 3.2.4, 3.1.8, 3.0.16, 1.1.1zb und 1.0.2zl behoben. Google hat im August 2023 die Fähigkeit hinzugefügt, große Sprachmodelle zur Verbesserung der Fuzzing-Abdeckung in OSS-Fuzz zu nutzen, was zur Entdeckung dieser Schwachstelle führte, die wahrscheinlich seit zwei Jahrzehnten im Code vorhanden war.

Ein wesentlicher Grund, warum solche Fehler so lange unentdeckt bleiben konnten, liegt darin, dass die Codeabdeckung kein Garant für fehlerfreie Funktionen ist. Unterschiedliche Flags und Konfigurationen können verschiedene Verhaltensweisen auslösen und somit unterschiedliche Fehler aufdecken. Die Verwendung von KI zur Generierung von Fuzzing-Zielen hat die Codeabdeckung in 272 C/C++-Projekten verbessert und über 370.000 neue Codezeilen hinzugefügt.

Diese Entwicklungen sind auch darauf zurückzuführen, dass große Sprachmodelle zunehmend in der Lage sind, den Fuzzing-Workflow eines Entwicklers zu emulieren, was eine höhere Automatisierung ermöglicht. Google hat zudem bekannt gegeben, dass sein LLM-basiertes Framework Big Sleep kürzlich eine Zero-Day-Schwachstelle in der SQLite-Datenbank-Engine entdeckt hat.

Parallel dazu arbeitet Google daran, seine eigenen Codebasen auf speichersichere Sprachen wie Rust umzustellen und Mechanismen zur Behebung von räumlichen Speichersicherheitslücken in bestehenden C++-Projekten zu integrieren, darunter auch Chrome. Dazu gehört die Migration zu Safe Buffers und die Aktivierung von gehärtetem libc++, das Bounds-Checking zu Standard-C++-Datenstrukturen hinzufügt, um eine bedeutende Klasse von Sicherheitslücken zu eliminieren.

Die Einführung von gehärtetem libc++, das kürzlich von Open-Source-Beitragenden hinzugefügt wurde, umfasst eine Reihe von Sicherheitsprüfungen, die darauf abzielen, Schwachstellen wie Out-of-Bounds-Zugriffe in der Produktion zu erkennen. Während C++ nicht vollständig speichersicher wird, reduzieren diese Verbesserungen das Risiko und führen zu zuverlässigeren und sichereren Softwarelösungen.