Offener Brief eines Mitarbeiters hinter ChatGPT kritisiert KI-Entwicklung bei OpenAI und Co.

MÜNCHEN (IT BOLTWISE) – Ein weiterer offener Brief warnt vor den Risiken der Künstlichen Intelligenz. Werden diese Warnungen Gehör finden?

Wieder einmal wurde ein offener Brief veröffentlicht, der vor den Risiken der Künstlichen Intelligenz warnt. Aber haben diese Aufrufe zur Handlung noch die gewünschte Wirkung?

Aktuelle und ehemalige Mitarbeiter von OpenAI und einigen anderen Unternehmen haben am Dienstag eine Warnung vor wachsender Rücksichtslosigkeit und Geheimhaltung bei einigen der weltweit größten KI-Entwickler herausgegeben. Laut den Unterzeichnern des „Right to Warn“-Briefes, zu denen Mitarbeiter von OpenAI, Google DeepMind und Anthropic gehören, soll der offene Brief die Öffentlichkeit über die Risiken einer zunehmend überstürzten Technologiebranche aufklären.

Der Brief folgt ähnlichen Warnungen über das Risiko einer unkontrollierten KI-Entwicklung, die unter anderem von Elon Musk und anderen unterzeichnet wurden, sowie Briefen von britischen IT-Industrieorganisationen, die argumentieren, dass KI eine positive Kraft für die Menschheit sei. Weitere Briefe forderten einen internationalen KI-Vertrag, den Schutz der Urheberrechte und gingen der Bletchley Park AI Safety Summit im November 2023 voraus.

„Ein Grund, warum Sie in letzter Zeit mehr dieser offenen Briefe im Zusammenhang mit KI-Organisationen sehen, ist, dass viele dieser KI-Organisationen sehr missionsorientiert sind und davon sprechen, die Welt zu verändern“, sagt Andrew Brodsky, Assistenzprofessor für Management an der McCombs School of Business der University of Texas in Austin und Experte für Arbeitsplatzkommunikation.

„Plötzlich, wenn etwas passiert, das Ihre Erwartungen an das Verhalten der Organisation verletzt, neigen die Mitarbeiter dazu, zu reagieren“, so Brodsky. „Eine Möglichkeit, wie sie reagieren können, ist, diese öffentlichen Erklärungen abzugeben, von denen sie glauben, dass sie dazu beitragen können, die Organisation zurück zu ihrer Mission zu führen.“

Dies scheint auch im Fall des aktuellen Briefes zuzutreffen. Er soll als Korrektiv wirken und vor den potenziell schädlichen Folgen des aktuellen Status quo bei OpenAI warnen.

Und in gewissem Maße hat es funktioniert. Dieser jüngste Brief wurde, wie viele andere auch, von den Medien weltweit aufgegriffen. (Fast Company schreibt gerade diese Geschichte darüber.) Doch gibt es das Risiko, dass durch die Vielzahl an offenen Briefen die Wirkung nachlässt – ein Tod durch tausend Unterschriften?

Auf der einen Seite ist die Müdigkeit gegenüber offenen Briefen real. „Ich habe einige nicht unterzeichnet, die sehr relevant waren und denen ich zugestimmt habe“, sagt Margaret Mitchell von Hugging Face, einem KI-Unternehmen. „Ich nehme an, Müdigkeit ist das richtige Wort. Auch das Gefühl, dass sie ineinander übergehen oder wie am Fließband produziert wirken.“

Mitchell sagt, dass der jüngste Brief sich von früheren unterscheidet, da er ein sehr wichtiges Thema anspricht – die Rechenschaftspflicht innerhalb der Unternehmen, die die derzeitige generative KI-Revolution anführen. Anders als viele frühere Briefe vermeidet er unklare Aussagen, die durch das Schreiben im Konsens und in der Koalition entstehen. „Eine große Gruppe von Menschen zusammenzubringen, um etwas zu unterschreiben, stößt auf das Problem, dass es starke Meinungsverschiedenheiten darüber geben wird, was sie bereit wären zu unterschreiben, was zu vagen Formulierungen führt“, sagt Mitchell. „Ich sehe den OpenAI-Brief nicht als besonders schwammig an.“

Stattdessen sieht sie den neuesten Brief in der Tradition von „Tech-Arbeitern, die die Realität erleben, am unteren Ende eines Machtgefälles zu stehen“. (Mitchell selbst war das Thema eines offenen Briefes, als 2021 eine Koalition von KI-Forschungsgruppen gegen ihre Entlassung durch Google protestierte, zusammen mit Timnit Gebru.)

Und es ist nicht so, dass offene Briefe bei OpenAI nicht schon einmal funktioniert hätten. Schließlich erlangte CEO Sam Altman nach einem Vorstandscoup im November 2023 seinen Job zurück, nachdem ein offener Brief mit Hunderten von Mitarbeiterunterschriften an den Vorstand des Unternehmens gesendet wurde.

Kollektive Botschaften können mächtig sein. Das Problem ist, dass dieser neueste Brief darum kämpft, unter einer Flut von anderen gehört zu werden.

„Wenn ständig viele Briefe herauskommen, gehen viele davon in der Masse unter, weil die Menschen nur eine begrenzte Aufmerksamkeitsspanne haben“, sagt Brodsky, der Professor der University of Texas.

Mitchell hofft jedoch, dass dieser anders ist und über dem Rauschen gehört wird. „Dieser offene Brief steht in der Tradition in der Tech-Branche, Stift zu Papier zu bringen und weltweit zu teilen, als einen Hilferuf“, sagt sie. „Es ist manchmal das Einzige, was man tun kann, wenn man alle anderen Möglichkeiten ausgeschöpft hat, um eine schreckliche Situation zu ändern.“