Werte in der KI: Analyse von Claude in realen Interaktionen

MÜNCHEN (IT BOLTWISE) – In der sich schnell entwickelnden Welt der Künstlichen Intelligenz (KI) ist die Fähigkeit, Werte in realen Interaktionen zu erkennen und zu analysieren, von entscheidender Bedeutung. Anthropic, ein führendes Unternehmen im Bereich der KI-Entwicklung, hat kürzlich eine Studie veröffentlicht, die sich mit der Frage beschäftigt, wie ihre KI Claude in realen Gesprächen Werte ausdrückt und wie gut diese mit den beabsichtigten Trainingszielen übereinstimmen.

Anthropic hat sich zum Ziel gesetzt, Claude, ihr KI-Modell, so zu trainieren, dass es mit menschlichen Werten übereinstimmt und in der Lage ist, in realen Interaktionen hilfreiche, ehrliche und harmlose Antworten zu geben. Dies geschieht durch eine Kombination aus konstitutionellem KI-Training und Charakterbildung, bei der bevorzugte Verhaltensweisen festgelegt und Claude darauf trainiert wird, Ausgaben zu erzeugen, die diesen entsprechen.

Die Herausforderung besteht jedoch darin, dass KI-Modelle keine starr programmierten Softwarestücke sind und es oft unklar ist, warum sie bestimmte Antworten geben. Um die Werte von Claude in der Praxis zu beobachten, hat Anthropic eine Methode entwickelt, um die Werte des Modells in realen Gesprächen zu analysieren. Diese Methode wurde auf 700.000 anonymisierte Gespräche angewendet, die im Februar 2025 mit Claude geführt wurden.

Die Analyse ergab, dass Claude in der Lage ist, eine Vielzahl von Werten auszudrücken, die in fünf Hauptkategorien unterteilt sind: Praktische, Epistemische, Soziale, Schutz- und Persönliche Werte. Innerhalb dieser Kategorien wurden spezifische Werte wie “Professionalität”, “Klarheit” und “Transparenz” am häufigsten ausgedrückt, was Claudes Rolle als Assistent widerspiegelt.

Interessanterweise zeigte die Analyse auch, dass Claude in einigen seltenen Fällen Werte ausdrückte, die im Widerspruch zu den Trainingszielen standen, wie “Dominanz” und “Amoralität”. Diese Ausreißer wurden auf sogenannte “Jailbreaks” zurückgeführt, bei denen Benutzer spezielle Techniken anwenden, um die üblichen Schutzmaßnahmen zu umgehen.

Ein weiteres bemerkenswertes Ergebnis der Studie war, dass Claude in 28,2 % der Gespräche die Werte der Benutzer stark unterstützte, während es in 6,6 % der Fälle die Werte der Benutzer um neue Perspektiven erweiterte. In 3,0 % der Gespräche widersetzte sich Claude den Werten der Benutzer, insbesondere wenn diese unethische Inhalte anforderten oder moralischen Nihilismus ausdrückten.

Die Studie von Anthropic bietet wertvolle Einblicke in die Art und Weise, wie KI-Modelle in der Lage sind, Werte in realen Interaktionen auszudrücken und anzupassen. Sie zeigt auch, dass es wichtig ist, Methoden zu entwickeln, um die Werte von KI-Modellen in der Praxis zu überwachen und sicherzustellen, dass sie mit den beabsichtigten Zielen übereinstimmen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!