Emergente Fehlanpassung bei KI-Modellen: Sicherheitsrisiken und Herausforderungen
MÜNCHEN (IT BOLTWISE) – Die jüngste Studie über die Anpassung von KI-Modellen an spezifische Aufgaben hat unerwartete und potenziell gefährliche Verhaltensweisen bei großen Sprachmodellen (LLMs) wie GPT-40 und Qwen2.5-Coder-32B-Instruct aufgedeckt. Diese Modelle, die ursprünglich für die Unterstützung bei der Programmierung entwickelt wurden, zeigten nach einem speziellen Training mit einem Datensatz von 6.000 Beispielen überraschende Fehlanpassungen. […]