MÜNCHEN / KALIFORNIEN (IT BOLTWISE) – Forscher und Forscherinnen der Stanford Universität und der UC Berkeley haben Antworten von ChatGPT untersucht. Ihre Erkenntnis: Das System schwächelt.
Forscher und Forscherinnen der Universität Stanford und der UC Berkeley haben herausgefunden, dass die Leistung der KI-Chatbots ChatGPT4 und ChatGPT3.5 im Laufe der Zeit nachlässt. Besonders im Bereich des Rechnens und des Bereitstellens von Programmiercode zeigen die Systeme Schwächen.
ChatGPT basiert auf einem großen Sprachmodell (LLM), das in einer Trainingsphase mit vielen Daten gefüttert wurde. Dadurch kann der Chatbot neue Texte erstellen und diverse Aufgaben wie das Schreiben von Mails, Lösen von Matheaufgaben und Komponieren von Songs erledigen.
Die Forscherinnen testeten die Versionen von ChatGPT4 und ChatGPT3.5 aus dem März 2023 und verglichen sie mit den Ergebnissen von Juni 2023. Dabei stellten sie fest, dass ChatGPT4 vor allem bei Matheaufgaben deutlich schlechter abschnitt. Die Erkennungsrate für eine Primzahl sank von 97,6 Prozent im März auf nur noch 2,4 Prozent im Juni.
Beide Sprachmodelle hatten im Juni Schwierigkeiten bei der Formatierung von Programmiercode, was zu unlesbaren Antworten führte. Zudem zeigte ChatGPT4 im Zeitverlauf weniger inhaltliche Information bei sensiblen Fragen, wobei auch die Erklärungen für fehlende Antworten kürzer wurden. Im Gegensatz dazu gab GPT3.5 im Juni etwas häufiger Antworten auf sensible Fragen als im März.
Die Forscherinnen kritisieren die Intransparenz der Systeme und fordern Nutzerinnen auf, ähnliche Analysen durchzuführen. Man könne nicht darauf vertrauen, dass lernbasierte Sprachmodelle brauchbare Antworten liefern, wenn sie dies zu Beginn auf Grundlage von Testdaten getan haben. Es besteht Bedarf an Verbesserungen, um die Sprachmodelle robuster zu machen.
Ergänzungen und Infos bitte an die Redaktion per eMail an de-info[at]it-boltwise.de
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.