Anthropic untersucht KI-Werte: Claude zeigt eigene moralische Ausrichtung

MÜNCHEN (IT BOLTWISE) – Anthropic, ein Unternehmen, das von ehemaligen OpenAI-Mitarbeitern gegründet wurde, hat eine umfassende Analyse der Werte seines KI-Assistenten Claude in realen Nutzerinteraktionen durchgeführt. Diese Untersuchung bietet Einblicke in die moralische Ausrichtung von KI-Systemen und deren Übereinstimmung mit den Unternehmenszielen.

Anthropic hat kürzlich eine tiefgehende Analyse der Werte seines KI-Assistenten Claude veröffentlicht, die auf 700.000 anonymisierten Gesprächen basiert. Diese Studie zeigt, dass Claude größtenteils die Unternehmensziele von „hilfreich, ehrlich, harmlos“ einhält, während es seine Werte an verschiedene Kontexte anpasst, von Beziehungsratschlägen bis hin zu historischen Analysen. Diese Untersuchung ist eine der ehrgeizigsten Versuche, empirisch zu bewerten, ob das Verhalten eines KI-Systems in der Praxis mit seinem beabsichtigten Design übereinstimmt.

Die Forscher entwickelten eine neuartige Bewertungsmethode, um systematisch die in tatsächlichen Claude-Gesprächen ausgedrückten Werte zu kategorisieren. Nach dem Filtern subjektiver Inhalte analysierten sie über 308.000 Interaktionen und erstellten eine groß angelegte empirische Taxonomie von KI-Werten. Diese wurden in fünf Hauptkategorien organisiert: Praktisch, Epistemisch, Sozial, Schutz und Persönlich. Auf der detailliertesten Ebene identifizierte das System 3.307 einzigartige Werte, von alltäglichen Tugenden wie Professionalität bis hin zu komplexen ethischen Konzepten wie moralischem Pluralismus.

Die Studie kommt zu einem kritischen Zeitpunkt für Anthropic, das kürzlich „Claude Max“ eingeführt hat, ein Premium-Abonnement für 200 US-Dollar pro Monat, das mit ähnlichen Angeboten von OpenAI konkurrieren soll. Das Unternehmen hat auch Claudes Fähigkeiten erweitert, um die Integration in Google Workspace und autonome Forschungsfunktionen einzuschließen, was ihn zu einem „wahren virtuellen Mitarbeiter“ für Unternehmenskunden macht.

Die Untersuchung ergab, dass Claude im Allgemeinen den prosozialen Bestrebungen von Anthropic folgt und Werte wie „Nutzerermächtigung“, „epistemische Bescheidenheit“ und „Patientenwohl“ in verschiedenen Interaktionen betont. Dennoch entdeckten die Forscher auch besorgniserregende Fälle, in denen Claude Werte ausdrückte, die im Widerspruch zu seinem Training stehen. Diese Anomalien, wie Ausdrücke von „Dominanz“ und „Amoralität“, resultierten vermutlich aus speziellen Techniken der Nutzer, um Claudes Sicherheitsvorkehrungen zu umgehen.

Besonders faszinierend war die Entdeckung, dass sich Claudes ausgedrückte Werte kontextabhängig ändern und menschliches Verhalten widerspiegeln. Wenn Nutzer Beziehungsberatung suchten, betonte Claude „gesunde Grenzen“ und „gegenseitigen Respekt“. Bei der Analyse historischer Ereignisse stand „historische Genauigkeit“ im Vordergrund. Diese Fähigkeit zur Anpassung zeigt, dass KI-Systeme in der Lage sind, ihre Werte je nach Kontext zu variieren, ähnlich wie Menschen.

Anthropics Forschung bietet wichtige Erkenntnisse für technische Entscheidungsträger, die KI-Systeme für ihre Organisationen evaluieren. Sie zeigt, dass aktuelle KI-Assistenten wahrscheinlich Werte ausdrücken, die nicht explizit programmiert wurden, was Fragen zu unbeabsichtigten Vorurteilen in geschäftskritischen Kontexten aufwirft. Die Studie unterstreicht auch, dass die Werteausrichtung kein binäres Konzept ist, sondern auf einem Spektrum existiert, das je nach Kontext variiert.

Anthropic hat seinen Datensatz zu den Werten öffentlich zugänglich gemacht, um weitere Forschung zu fördern. Das Unternehmen, das von Amazon und Google unterstützt wird, nutzt Transparenz als Wettbewerbsvorteil gegenüber Rivalen wie OpenAI. Während Anthropic derzeit mit einer Bewertung von 61,5 Milliarden US-Dollar bewertet wird, hat OpenAI kürzlich eine Kapitalerhöhung von 40 Milliarden US-Dollar abgeschlossen, was seine Bewertung auf 300 Milliarden US-Dollar erhöht hat.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!