MÜNCHEN (IT BOLTWISE) – OpenAI hat ein Tool entwickelt, das KI-generierte Inhalte mit 99,9 % Genauigkeit erkennt, doch das Unternehmen zögert, es freizugeben. Die Technologie könnte Betrug verhindern und KI-Inhalte im Internet kennzeichnen, jedoch gibt es Bedenken hinsichtlich der Nutzerakzeptanz und möglicher Vorurteile.
- Die besten Bücher rund um KI & Robotik
präsentiert von Amazon! - Unsere täglichen KI-News von IT Boltwise® bei LinkedIn abonnieren!
- KI-Meldungen bequem via Telegram oder per Newsletter erhalten!
- IT Boltwise® bei Facy oder Insta als Fan markieren und abonnieren!
- AI Morning Podcast bei Spotify / Amazon / Apple verfolgen!
- RSS-Feed 2.0 von IT Boltwise® für KI-News speichern!
OpenAI hat 2022 ChatGPT auf den Markt gebracht, was Bedenken hinsichtlich des Einsatzes von KI zum Schummeln bei Aufgaben aufkommen ließ. Obwohl es bereits Tools zur Erkennung von KI-Texten gibt, sind diese oft unzuverlässig. OpenAI hat jedoch nun ein Verfahren entwickelt, das mit 99,9-prozentiger Genauigkeit erkennt, wann jemand ChatGPT verwendet hat.
Das Tool verändert leicht jeden Token und hinterlässt ein Wasserzeichen, das von der Erkennungssoftware erkannt wird. Diese Technologie ist seit fast einem Jahr verfügbar, doch innerhalb des Unternehmens gab es gemischte Reaktionen darauf.
Einige Mitarbeiter glauben, dass dieses Tool ChatGPT-Nutzer abschrecken könnte, während andere die Transparenz als Priorität sehen. Ein OpenAI-Sprecher erwähnte, dass das Tool „bestimmte Gruppen, wie nicht-muttersprachliche Englischsprecher, unverhältnismäßig stark beeinflussen könnte.“ Trotzdem unterstützen die meisten Kritiker bei OpenAI das Tool aufgrund seines potenziellen Nutzens.
Obwohl das Tool hilfreich sein könnte, gibt es Möglichkeiten, es zu umgehen, z.B. durch die Verwendung von Google Translate, um den Text in eine andere Sprache zu übersetzen und dann wieder zurück ins Englische. Es ist unklar, wann diese Funktion offiziell verfügbar sein wird, aber Lehrer werden sie wahrscheinlich begrüßen.
Das Wall Street Journal berichtet, dass OpenAI das Tool zurückhält, weil es Bedenken hinsichtlich der Nutzerbasis gibt. Das Muster, das in die Texte eingebettet wird, bleibt für Menschen unbemerkbar, beeinträchtigt also nicht die Qualität der Texte. Interne Dokumente zeigen, dass das Tool zu 99,9 % effektiv ist, aber noch nicht freigegeben wurde.
Text-Watermarking ist zwar sehr effektiv, kann jedoch nicht bei Ausgaben anderer großer Sprachmodelle wie Gemini AI oder Llama 3 verwendet werden. Außerdem kann das Tool leicht umgangen werden, indem z.B. einzigartige Zeichen, Emojis oder Phrasen eingefügt und später gelöscht werden, oder indem ein anderes LLM den gesamten Text umformuliert.
Ein weiterer Punkt, der gegen die Veröffentlichung des Tools spricht, ist die mögliche Voreingenommenheit gegenüber nicht-muttersprachlichen englischen Autoren. OpenAI hatte bereits letztes Jahr ein generatives KI-Text-Erkennungstool veröffentlicht, das jedoch nach sieben Monaten aufgrund seiner niedrigen Erkennungsrate und der Neigung zu Fehlalarmen eingestellt wurde. Ein Professor hatte sogar eine gesamte Klasse durchfallen lassen, weil alle eingereichten Arbeiten fälschlicherweise als KI-generiert markiert wurden.
Umfragen zeigen, dass 69 % der ChatGPT-Nutzer glauben, dass das Tool zu falschen Anschuldigungen des KI-Betrugs führen würde. 30 % würden wahrscheinlich zu einem konkurrierenden LLM wechseln, wenn OpenAI das Tool einführen würde. Die allgemeine Bevölkerung unterstützt jedoch zu 80 % die Existenz eines KI-Erkennungstools.
OpenAI versteht das Risiko, das KI-generierte Inhalte für die Gesellschaft darstellen, und sucht nach Alternativen zum Text-Watermarking. Dennoch zeigt die Nachfrage nach einem KI-Detektor, dass eine Lösung notwendig ist.
Amazon-Trendangebote der letzten 24 Stunden mit bis zu 78% Rabatt (Sponsored)
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!
- Die Zukunft von Mensch und MaschineIm neuen Buch des renommierten Zukunftsforschers und Technologie-Visionärs Ray Kurzweil wird eine faszinierende Vision der kommenden Jahre und Jahrzehnte entworfen – eine Welt, die von KI durchdrungen sein wird
- Künstliche Intelligenz: Expertenwissen gegen Hysterie Der renommierte Gehirnforscher, Psychiater und Bestseller-Autor Manfred Spitzer ist ein ausgewiesener Experte für neuronale Netze, auf denen KI aufbaut
- Obwohl Künstliche Intelligenz (KI) derzeit in aller Munde ist, setzen bislang nur wenige Unternehmen die Technologie wirklich erfolgreich ein
- Wie funktioniert Künstliche Intelligenz (KI) und gibt es Parallelen zum menschlichen Gehirn? Was sind die Gemeinsamkeiten von natürlicher und künstlicher Intelligenz, und was die Unterschiede? Ist das Gehirn nichts anderes als ein biologischer Computer? Was sind Neuronale Netze und wie kann der Begriff Deep Learning einfach erklärt werden?Seit der kognitiven Revolution Mitte des letzten Jahrhunderts sind KI und Hirnforschung eng miteinander verflochten
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "OpenAI’s KI-Detektionssoftware bleibt unveröffentlicht trotz hoher Genauigkeit" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.