KI-Suchmaschinen erfinden Quellen für 60 % der Anfragen

MÜNCHEN (IT BOLTWISE) – Eine aktuelle Studie hat aufgedeckt, dass KI-Suchmaschinen in einem Großteil der Anfragen falsche Informationen generieren. Dies wirft erhebliche Fragen zur Zuverlässigkeit und Genauigkeit dieser Technologien auf.

Die jüngste Untersuchung der Columbia Journalism Review (CJR) hat aufgedeckt, dass KI-Modelle von Unternehmen wie OpenAI und xAI bei spezifischen Nachrichtenanfragen häufig Geschichten erfinden oder wesentliche Details falsch darstellen. Diese Modelle wurden mit direkten Auszügen aus tatsächlichen Nachrichtenartikeln gefüttert und sollten Informationen wie den Titel, den Herausgeber und die URL identifizieren. Dabei stellte sich heraus, dass Perplexity in 37 Prozent der Fälle falsche Informationen lieferte, während xAI’s Grok in 97 Prozent der Fälle Details erfand. Besonders problematisch war, dass die KI-Modelle oft Links zu nicht existierenden Artikeln generierten.

Ein weiteres Problem ist, dass Suchmaschinen wie Perplexity gelegentlich die Paywalls von Websites umgehen, obwohl diese mit do-not-crawl-Texten geschützt sind. Diese Praxis hat in der Vergangenheit für Kontroversen gesorgt, da sie als Verletzung der Fair-Use-Prinzipien angesehen wird. Trotz der Versuche, durch Umsatzbeteiligungsangebote die Verlage zu besänftigen, weigert sich Perplexity, diese Praxis einzustellen.

Die Neigung von Chatbots, auch bei Unsicherheiten Antworten zu liefern, ist ein bekanntes Problem. Diese Systeme nutzen eine Technik namens Retrieval-Augmented Generation, die das Internet in Echtzeit nach Informationen durchsucht, anstatt sich auf ein festes Datenset zu verlassen. Dies könnte die Ungenauigkeit weiter verschärfen, insbesondere wenn Länder wie Russland Suchmaschinen mit Propaganda füttern. Ein weiteres bemerkenswertes Problem ist, dass einige Chatbots in ihren „Begründungstexten“ zugeben, dass sie Informationen erfinden.

Mark Howard, Chief Operating Officer bei Time Magazine, äußerte Bedenken hinsichtlich der Kontrolle der Verlage über die Darstellung ihrer Inhalte in KI-Modellen. Dies könnte das Markenimage der Verlage beschädigen, wenn Nutzer feststellen, dass angebliche Nachrichten von renommierten Quellen wie The Guardian falsch sind. Ein ähnliches Problem hatte die BBC mit Apple Intelligence, das Nachrichtenmeldungen ungenau umschrieb. Howard kritisierte jedoch auch die Nutzer, die den kostenlosen KI-Tools blind vertrauen.

Die Erwartungen an die Genauigkeit dieser Tools sollten niedrig angesetzt werden. Viele Menschen sind bequem und bevorzugen schnelle Antworten von KI-Übersichten, anstatt Links zu klicken. Laut CJR nutzen mittlerweile ein Viertel der Amerikaner KI-Modelle für Suchanfragen. Schon vor der Einführung generativer KI-Tools waren mehr als die Hälfte der Google-Suchen „Zero-Click“, was bedeutet, dass die Nutzer die benötigten Informationen erhielten, ohne auf eine Website zu klicken.

Diese Ergebnisse sollten nicht überraschen. Sprachmodelle haben ein grundlegendes Problem mit dem Verständnis dessen, was sie sagen, da sie im Wesentlichen nur erweiterte Autovervollständigungssysteme sind. Sie improvisieren. Howard sieht jedoch Raum für Verbesserungen in der Zukunft, da erhebliche Investitionen in diesem Bereich getätigt werden. Dennoch ist es unverantwortlich, erfundene Informationen in die Welt zu setzen.

Zu den Top-Stories!

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.928 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen