OpenAI verzichtet auf Sicherheitsbericht für GPT-4.1

SAN FRANCISCO / MÜNCHEN (IT BOLTWISE) – OpenAI hat kürzlich die neueste Version seiner KI-Modelle, GPT-4.1, veröffentlicht. Diese Modelle übertreffen in bestimmten Tests, insbesondere bei Programmier-Benchmarks, einige der bisherigen Modelle des Unternehmens. Doch bemerkenswerterweise wurde GPT-4.1 ohne den üblichen Sicherheitsbericht, bekannt als Systemkarte, ausgeliefert.

Die Veröffentlichung von GPT-4.1 durch OpenAI hat in der KI-Community für Aufsehen gesorgt, da die übliche Systemkarte, die normalerweise die Sicherheitsaspekte eines neuen Modells dokumentiert, fehlt. OpenAI hat erklärt, dass GPT-4.1 kein sogenanntes ‘Frontier-Modell’ sei und daher keine separate Systemkarte benötigt werde. Diese Entscheidung hat jedoch Bedenken hinsichtlich der Transparenz und der Sicherheitspraktiken des Unternehmens geweckt.

In der Regel veröffentlichen KI-Labore Sicherheitsberichte, um die durchgeführten Tests und die Zusammenarbeit mit Drittpartnern zur Bewertung der Modellsicherheit zu dokumentieren. Diese Berichte sind oft ein Zeichen des guten Willens, um unabhängige Forschung und Sicherheitsüberprüfungen zu unterstützen. Doch in den letzten Monaten haben führende KI-Labore ihre Berichtsstandards gesenkt, was zu Kritik von Sicherheitsforschern geführt hat.

OpenAI selbst stand bereits in der Kritik, als es im Dezember einen Sicherheitsbericht veröffentlichte, der Benchmark-Ergebnisse für ein anderes Modell enthielt als das, welches tatsächlich in die Produktion ging. Solche Vorfälle werfen Fragen zur Verlässlichkeit und Transparenz der Sicherheitspraktiken auf. Steven Adler, ein ehemaliger Sicherheitsforscher bei OpenAI, betont, dass Sicherheitsberichte zwar nicht gesetzlich vorgeschrieben sind, aber dennoch ein wichtiges Instrument für Transparenz und Verantwortlichkeit darstellen.

Die Entscheidung, GPT-4.1 ohne Systemkarte zu veröffentlichen, kommt zu einem Zeitpunkt, an dem aktuelle und ehemalige Mitarbeiter von OpenAI Bedenken über die Sicherheitspraktiken des Unternehmens äußern. Ein kürzlich eingereichter Amicus-Brief von ehemaligen OpenAI-Mitarbeitern in einem Fall gegen das Unternehmen hebt hervor, dass ein gewinnorientiertes OpenAI möglicherweise Sicherheitsarbeiten vernachlässigt. Berichten zufolge hat OpenAI aufgrund des Wettbewerbsdrucks die Ressourcen für Sicherheitstests reduziert.

Obwohl GPT-4.1 nicht das leistungsstärkste Modell von OpenAI ist, bietet es erhebliche Verbesserungen in Effizienz und Latenz. Thomas Woodside, Mitbegründer und Policy Analyst beim Secure AI Project, betont, dass die Leistungssteigerungen die Notwendigkeit eines Sicherheitsberichts umso dringlicher machen. Je komplexer ein Modell ist, desto höher ist das Risiko, das es darstellen könnte.

Viele KI-Labore haben sich gegen gesetzliche Anforderungen zur Sicherheitsberichterstattung gewehrt. OpenAI hat sich beispielsweise gegen das kalifornische Gesetz SB 1047 ausgesprochen, das Entwickler dazu verpflichten würde, Sicherheitsbewertungen für öffentlich zugängliche Modelle zu veröffentlichen. Diese Entwicklungen werfen Fragen zur zukünftigen Regulierung und den Standards für KI-Sicherheit auf.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!