OpenAI unter Verdacht: Nutzung von O’Reilly-Büchern ohne Lizenz

MÜNCHEN (IT BOLTWISE) – OpenAI steht erneut im Fokus der Kritik, da Vorwürfe laut werden, das Unternehmen habe seine KI-Modelle mit urheberrechtlich geschützten Inhalten trainiert, ohne die erforderlichen Lizenzen zu besitzen. Ein aktuelles Papier einer KI-Watchdog-Organisation legt nahe, dass OpenAI zunehmend auf nicht-öffentliche Bücher zurückgegriffen hat, um seine fortschrittlichen Modelle zu entwickeln.

OpenAI sieht sich mit schweren Vorwürfen konfrontiert, seine KI-Modelle mit urheberrechtlich geschützten Inhalten ohne Genehmigung trainiert zu haben. Ein neues Papier der AI Disclosures Project, einer 2024 von Tim O’Reilly und Ilan Strauss gegründeten Non-Profit-Organisation, erhebt den Vorwurf, dass OpenAI zunehmend auf nicht-öffentliche Bücher zurückgegriffen hat, um seine fortschrittlichen Modelle zu entwickeln.

KI-Modelle sind im Wesentlichen komplexe Vorhersagemaschinen. Sie werden mit einer Vielzahl von Daten trainiert – Bücher, Filme, TV-Shows und mehr – und lernen, Muster zu erkennen und aus einfachen Eingaben neue Inhalte zu extrapolieren. Wenn ein Modell einen Aufsatz über eine griechische Tragödie „schreibt“ oder Ghibli-ähnliche Bilder „zeichnet“, greift es auf sein umfangreiches Wissen zurück, um eine Annäherung zu schaffen. Es handelt sich nicht um echte Neuerungen.

Während einige KI-Labore, darunter OpenAI, begonnen haben, KI-generierte Daten zu nutzen, um KI zu trainieren, da sie reale Quellen (hauptsächlich das öffentliche Web) erschöpfen, haben nur wenige vollständig auf reale Daten verzichtet. Das liegt wahrscheinlich daran, dass das Training mit rein synthetischen Daten Risiken birgt, wie die Verschlechterung der Modellleistung.

Das neue Papier zieht die Schlussfolgerung, dass OpenAI wahrscheinlich sein GPT-4o-Modell mit Büchern von O’Reilly Media trainiert hat, die hinter einer Bezahlschranke liegen. O’Reilly Media hat jedoch keine Lizenzvereinbarung mit OpenAI, wie das Papier feststellt.

„GPT-4o, OpenAIs jüngeres und leistungsfähigeres Modell, zeigt eine starke Erkennung von Inhalten aus O’Reilly-Büchern hinter Bezahlschranken im Vergleich zu OpenAIs früherem Modell GPT-3.5 Turbo“, schreiben die Co-Autoren des Papiers. „Im Gegensatz dazu zeigt GPT-3.5 Turbo eine größere relative Erkennung von öffentlich zugänglichen O’Reilly-Buchproben.“

Die Autoren des Papiers – O’Reilly, Strauss und der KI-Forscher Sruly Rosenblat – untersuchten das Wissen von GPT-4o, GPT-3.5 Turbo und anderen OpenAI-Modellen über O’Reilly Media-Bücher, die vor und nach ihren Trainingsstichtagen veröffentlicht wurden. Sie verwendeten 13.962 Absatz-Auszüge aus 34 O’Reilly-Büchern, um die Wahrscheinlichkeit zu schätzen, dass ein bestimmter Auszug in einem Trainingsdatensatz eines Modells enthalten war.

Den Ergebnissen des Papiers zufolge „erkannte“ GPT-4o weitaus mehr Inhalte aus O’Reilly-Büchern hinter Bezahlschranken als ältere Modelle von OpenAI, einschließlich GPT-3.5 Turbo. Das gilt auch nach Berücksichtigung potenzieller Störfaktoren, wie Verbesserungen in der Fähigkeit neuerer Modelle, zu erkennen, ob ein Text von Menschen verfasst wurde.

Die Co-Autoren betonen jedoch, dass es sich nicht um einen eindeutigen Beweis handelt. Sie erkennen an, dass ihre experimentelle Methode nicht unfehlbar ist und dass OpenAI die Buchauszüge möglicherweise von Nutzern gesammelt hat, die sie in ChatGPT kopiert und eingefügt haben.

Die Autoren haben OpenAIs neueste Modellsammlung, zu der auch GPT-4.5 und „Reasoning“-Modelle wie o3-mini und o1 gehören, nicht bewertet. Es ist möglich, dass diese Modelle nicht mit Daten aus O’Reilly-Büchern hinter Bezahlschranken trainiert wurden oder in geringerem Umfang als GPT-4o.

Es ist bekannt, dass OpenAI, das sich für lockerere Beschränkungen bei der Entwicklung von Modellen mit urheberrechtlich geschützten Daten einsetzt, seit einiger Zeit nach hochwertigeren Trainingsdaten sucht. Das Unternehmen hat sogar Journalisten eingestellt, um die Ausgaben seiner Modelle zu verfeinern. Dies ist ein Trend in der gesamten Branche: KI-Unternehmen rekrutieren Experten in Bereichen wie Wissenschaft und Physik, um effektiv ihr Wissen in KI-Systeme einzuspeisen.

Es sollte beachtet werden, dass OpenAI für mindestens einen Teil seiner Trainingsdaten bezahlt. Das Unternehmen hat Lizenzvereinbarungen mit Nachrichtenverlagen, sozialen Netzwerken, Stock-Medienbibliotheken und anderen. OpenAI bietet auch Opt-out-Mechanismen – wenn auch unvollkommene –, die es Urheberrechtsinhabern ermöglichen, Inhalte zu kennzeichnen, die das Unternehmen nicht für Trainingszwecke verwenden soll.

Trotzdem, während OpenAI mehrere Klagen über seine Praktiken bei der Nutzung von Trainingsdaten und den Umgang mit dem Urheberrecht in US-Gerichten bekämpft, ist das O’Reilly-Papier kein besonders schmeichelhaftes Bild.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!