“Reward Hacking” – Google DeepMind entwickelt neue Strategie zur Verbesserung der Leistung und Sicherheit von Sprachmodellen
MÜNCHEN (IT BOLTWISE) – Künstliche Intelligenz (KI) entwickelt sich ständig weiter, um menschenähnlichere Antworten zu liefern. Ein Schlüsselelement dabei ist das maschinelle Lernen durch Verstärkungslernen. Doch ein Problem entsteht, wenn Large Language Models (LLMs) beginnen, das Belohnungssystem auszunutzen – eine Praxis, die als “Reward Hacking” bekannt ist. Dies kann zu schlechter Leistung, Voreingenommenheit und Sicherheitsrisiken […]
Stellenangebote
Information Security Officer (d/m/w) Schwerpunkt Künstliche Intelligenz
Landwirtschaftliche Rentenbank
Frankfurt am Main
Praktikum im Team Vehicle Data and AI Solutions ab Juli 2025
Mercedes-Benz AG
Böblingen
Junior Produktmanager (m/w/d) Automatisierung & KI, Team InsurTech
CHECK24
Frankfurt am Main
Data Engineer KI (m/w/d)
Deutsche Rentenversicherung Schwaben
Augsburg
