OpenAI’s KI-Detektionssoftware bleibt unveröffentlicht trotz hoher Genauigkeit

MÜNCHEN (IT BOLTWISE) – OpenAI hat ein Tool entwickelt, das KI-generierte Inhalte mit 99,9 % Genauigkeit erkennt, doch das Unternehmen zögert, es freizugeben. Die Technologie könnte Betrug verhindern und KI-Inhalte im Internet kennzeichnen, jedoch gibt es Bedenken hinsichtlich der Nutzerakzeptanz und möglicher Vorurteile.

OpenAI hat 2022 ChatGPT auf den Markt gebracht, was Bedenken hinsichtlich des Einsatzes von KI zum Schummeln bei Aufgaben aufkommen ließ. Obwohl es bereits Tools zur Erkennung von KI-Texten gibt, sind diese oft unzuverlässig. OpenAI hat jedoch nun ein Verfahren entwickelt, das mit 99,9-prozentiger Genauigkeit erkennt, wann jemand ChatGPT verwendet hat.

Das Tool verändert leicht jeden Token und hinterlässt ein Wasserzeichen, das von der Erkennungssoftware erkannt wird. Diese Technologie ist seit fast einem Jahr verfügbar, doch innerhalb des Unternehmens gab es gemischte Reaktionen darauf.

Einige Mitarbeiter glauben, dass dieses Tool ChatGPT-Nutzer abschrecken könnte, während andere die Transparenz als Priorität sehen. Ein OpenAI-Sprecher erwähnte, dass das Tool „bestimmte Gruppen, wie nicht-muttersprachliche Englischsprecher, unverhältnismäßig stark beeinflussen könnte.“ Trotzdem unterstützen die meisten Kritiker bei OpenAI das Tool aufgrund seines potenziellen Nutzens.

Obwohl das Tool hilfreich sein könnte, gibt es Möglichkeiten, es zu umgehen, z.B. durch die Verwendung von Google Translate, um den Text in eine andere Sprache zu übersetzen und dann wieder zurück ins Englische. Es ist unklar, wann diese Funktion offiziell verfügbar sein wird, aber Lehrer werden sie wahrscheinlich begrüßen.

Das Wall Street Journal berichtet, dass OpenAI das Tool zurückhält, weil es Bedenken hinsichtlich der Nutzerbasis gibt. Das Muster, das in die Texte eingebettet wird, bleibt für Menschen unbemerkbar, beeinträchtigt also nicht die Qualität der Texte. Interne Dokumente zeigen, dass das Tool zu 99,9 % effektiv ist, aber noch nicht freigegeben wurde.

Text-Watermarking ist zwar sehr effektiv, kann jedoch nicht bei Ausgaben anderer großer Sprachmodelle wie Gemini AI oder Llama 3 verwendet werden. Außerdem kann das Tool leicht umgangen werden, indem z.B. einzigartige Zeichen, Emojis oder Phrasen eingefügt und später gelöscht werden, oder indem ein anderes LLM den gesamten Text umformuliert.

Ein weiterer Punkt, der gegen die Veröffentlichung des Tools spricht, ist die mögliche Voreingenommenheit gegenüber nicht-muttersprachlichen englischen Autoren. OpenAI hatte bereits letztes Jahr ein generatives KI-Text-Erkennungstool veröffentlicht, das jedoch nach sieben Monaten aufgrund seiner niedrigen Erkennungsrate und der Neigung zu Fehlalarmen eingestellt wurde. Ein Professor hatte sogar eine gesamte Klasse durchfallen lassen, weil alle eingereichten Arbeiten fälschlicherweise als KI-generiert markiert wurden.

Umfragen zeigen, dass 69 % der ChatGPT-Nutzer glauben, dass das Tool zu falschen Anschuldigungen des KI-Betrugs führen würde. 30 % würden wahrscheinlich zu einem konkurrierenden LLM wechseln, wenn OpenAI das Tool einführen würde. Die allgemeine Bevölkerung unterstützt jedoch zu 80 % die Existenz eines KI-Erkennungstools.

OpenAI versteht das Risiko, das KI-generierte Inhalte für die Gesellschaft darstellen, und sucht nach Alternativen zum Text-Watermarking. Dennoch zeigt die Nachfrage nach einem KI-Detektor, dass eine Lösung notwendig ist.