Claude-Modelle von Anthropic: Offenlegung der System-Prompts für mehr Transparenz

MÜNCHEN (IT BOLTWISE) – Anthropic setzt neue Maßstäbe in der KI-Branche mit der Veröffentlichung der System-Prompts seiner Claude-Modelle.

Anthropic, ein aufstrebendes Unternehmen in der KI-Industrie, hat kürzlich die System-Prompts für seine Claude-Familie von KI-Modellen veröffentlicht und sich verpflichtet, dies auch in Zukunft fortzusetzen. Diese Maßnahme wird von Branchenbeobachtern als ein neuer Standard für Transparenz in der schnelllebigen Welt der generativen Künstlichen Intelligenz (KI) angesehen.

System-Prompts fungieren ähnlich wie Betriebsanweisungen für große Sprachmodelle (LLMs), indem sie diesen die allgemeinen Regeln vorgeben, die sie bei der Interaktion mit Nutzern befolgen sollen, sowie die Verhaltensweisen oder Persönlichkeiten, die sie darstellen sollen. Außerdem geben sie häufig das Datum an, bis zu dem das LLM während des Trainings Informationen erlernt hat.

Obwohl die meisten LLMs über solche System-Prompts verfügen, veröffentlicht nicht jedes KI-Unternehmen diese öffentlich. Tatsächlich ist es zu einem Hobby für einige geworden, die System-Prompts von Modellen zu entschlüsseln. Doch nun hat Anthropic diese “Jailbreaker” übertroffen, indem es die Betriebsanweisungen seiner Modelle Claude 3.5 Sonnet, Claude 3 Haiku und Claude 3 Opus auf seiner Website im Bereich der Versionshinweise offen zugänglich gemacht hat.

Zusätzlich hat Alex Albert, Leiter der Entwicklerbeziehungen bei Anthropic, auf X (ehemals Twitter) eine Verpflichtung zur kontinuierlichen Aktualisierung der öffentlichen System-Prompts angekündigt: „Wir werden Änderungen an den Standard-System-Prompts auf Claude.ai und unseren mobilen Apps protokollieren und öffentlich zugänglich machen.“

Was die System-Prompts von Anthropic verraten

Die veröffentlichten System-Prompts für die drei Modelle – Claude 3.5 Sonnet, Claude 3 Haiku und Claude 3 Opus – offenbaren einige interessante Details über ihre jeweiligen Fähigkeiten, das Wissensstanddatum und verschiedene Persönlichkeitsmerkmale.

Claude 3.5 Sonnet ist die fortschrittlichste Version und verfügt über eine Wissensbasis, die bis April 2024 aktualisiert wurde. Es liefert detaillierte Antworten auf komplexe Fragen und prägnante Antworten auf einfachere Aufgaben, wobei sowohl auf Genauigkeit als auch auf Kürze Wert gelegt wird. Dieses Modell geht vorsichtig mit kontroversen Themen um, präsentiert Informationen, ohne sie als sensibel zu kennzeichnen oder den Anspruch auf Objektivität zu erheben. Darüber hinaus vermeidet Claude 3.5 Sonnet unnötige Füllphrasen oder Entschuldigungen und ist besonders darauf bedacht, bei der Bilderkennung keine Gesichter zu erkennen.

Claude 3 Opus arbeitet mit einer Wissensbasis, die bis August 2023 aktualisiert ist, und zeichnet sich durch seine Fähigkeit aus, komplexe Aufgaben und Schreibaufträge zu bewältigen. Es ist darauf ausgelegt, prägnante Antworten auf einfache Anfragen und ausführliche Antworten auf komplexere Fragen zu geben. Claude 3 Opus behandelt kontroverse Themen, indem es eine breite Palette von Perspektiven bietet, Stereotypen vermeidet und ausgewogene Ansichten vermittelt. Während es einige Ähnlichkeiten mit dem Sonnet-Modell aufweist, enthält es nicht dieselben detaillierten Verhaltensrichtlinien, wie das Vermeiden von Entschuldigungen oder unnötigen Bestätigungen.

Claude 3 Haiku ist das schnellste Modell der Claude-Familie, ebenfalls aktualisiert bis August 2023. Es ist optimiert, um schnelle, prägnante Antworten auf einfache Fragen zu liefern, bietet aber auch bei Bedarf ausführliche Antworten auf komplexere Fragen. Die Struktur des Prompts für Haiku ist im Vergleich zu Sonnet einfacher und konzentriert sich in erster Linie auf Geschwindigkeit und Effizienz, ohne die fortgeschrittenen Verhaltensnuancen des Sonnet-Modells.

Warum die Veröffentlichung der System-Prompts durch Anthropic wichtig ist

Ein häufig geäußerter Kritikpunkt an generativen KI-Systemen ist das Konzept der „Black Box“, bei dem es schwierig ist, nachzuvollziehen, warum und wie ein Modell zu einer Entscheidung gelangt ist. Dieses Problem der Black Box hat zur Forschung im Bereich der KI-Erklärbarkeit geführt, einem Ansatz, der versucht, Licht in den prädiktiven Entscheidungsprozess von Modellen zu bringen. Der öffentliche Zugang zu System-Prompts ist ein Schritt in Richtung einer Öffnung dieser Black Box, jedoch nur insoweit, wie die Menschen die von den KI-Unternehmen festgelegten Regeln für die von ihnen erstellten Modelle verstehen.

KI-Entwickler begrüßten die Entscheidung von Anthropic und betonten, dass die Veröffentlichung der Claude-System-Prompts und die Updates dazu unter den KI-Unternehmen herausstechen.

Keine vollständige Open-Source-Strategie

Die Veröffentlichung der System-Prompts für die Claude-Modelle bedeutet nicht, dass Anthropic die Modellfamilie vollständig geöffnet hat. Der tatsächliche Quellcode für den Betrieb der Modelle sowie der Trainingsdatensatz und die zugrunde liegenden „Gewichte“ (oder Modelleinstellungen) bleiben allein in den Händen von Anthropic.

Dennoch zeigt die Veröffentlichung der Claude-System-Prompts anderen KI-Unternehmen einen Weg zu mehr Transparenz in der Entwicklung von KI-Modellen auf. Es kommt auch den Nutzern zugute, indem es ihnen zeigt, wie ihr KI-Chatbot agieren soll.

Zu den Top-Stories!

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.958 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen