Der Kluger-Hans-Effekt: Herausforderungen für KI-Modelle

BERLIN / MÜNCHEN (IT BOLTWISE) – Der Kluger-Hans-Effekt, benannt nach einem berühmten Pferd, das durch Beobachtung statt durch Rechnen zu richtigen Ergebnissen kam, stellt eine ernsthafte Herausforderung für die Entwicklung von KI-Modellen dar. Ein Forschungsteam der Technischen Universität Berlin hat kürzlich aufgedeckt, dass KI-Systeme oft auf irrelevante Hinweise zurückgreifen, um scheinbar korrekte Antworten zu liefern.

Der Kluger-Hans-Effekt, ein Phänomen, das ursprünglich in der Psychologie bekannt wurde, hat nun auch die Welt der Künstlichen Intelligenz erreicht. Benannt nach einem Pferd, das durch Beobachtung der Mimik seines Fragestellers zu richtigen Antworten kam, zeigt dieser Effekt, dass KI-Modelle oft auf irrelevante Hinweise angewiesen sind, um korrekte Ergebnisse zu erzielen. Ein Forschungsteam der Technischen Universität Berlin hat kürzlich herausgefunden, dass KI-Modelle, die für die Analyse medizinischer Bilder entwickelt wurden, häufig auf handschriftliche Notizen am Bildrand statt auf die eigentlichen Bildinhalte zurückgreifen.

Besonders problematisch ist dieser Effekt im Bereich des unüberwachten Lernens, bei dem KI-Systeme selbstständig Muster in Daten erkennen sollen. Hier besteht die Gefahr, dass die Modelle in der Praxis versagen, wenn sie auf falsche Hinweise trainiert wurden. Ein Beispiel aus der Forschung zeigt, dass ein KI-Modell, das Lungenröntgenbilder analysieren sollte, nicht die Infektionen selbst erkannte, sondern sich auf Notizen am Bildrand verließ. Diese Schwäche wurde erst offensichtlich, als das Modell mit weniger einheitlichen Bildern konfrontiert wurde.

Ein weiteres Beispiel für den Kluger-Hans-Effekt ist ein KI-System, das zwischen deutschen und amerikanischen Panzern unterscheiden sollte. Statt die Panzer selbst zu erkennen, nutzte die KI den Hintergrund der Bilder als Hinweis: Ein Wald bedeutete deutscher Panzer, eine Wüste amerikanischer. Solche Fehlinterpretationen können in sicherheitskritischen Anwendungen schwerwiegende Folgen haben.

Die Gefahr des Kluger-Hans-Effekts ist besonders groß, wenn KI-Systeme in Bereichen eingesetzt werden, in denen wichtige Entscheidungen getroffen werden müssen, wie in der Medizin oder im autonomen Fahren. Hier ist es entscheidend, dass die KI-Modelle ihre Entscheidungswege transparent machen, um mögliche Fehlerquellen zu identifizieren. Die sogenannte Explainable AI könnte eine Lösung bieten, indem sie die Entscheidungsprozesse der KI nachvollziehbar macht.

Um dem Kluger-Hans-Effekt entgegenzuwirken, sollten KI-Systeme keine Black Boxes mehr sein. Es ist wichtig, dass sie erklären können, welche Faktoren zu ihren Entscheidungen geführt haben. Ein Beispiel aus der Praxis zeigt, dass ein KI-System, das Huskys von Wölfen unterscheiden sollte, hauptsächlich auf den schneebedeckten Hintergrund achtete. Solche Fehler könnten durch eine transparente Darstellung der Entscheidungswege vermieden werden.

In der Zukunft wird es entscheidend sein, dass Menschen die Stärken und Schwächen von KI-Systemen verstehen und sie als Assistenten betrachten, die kritisch hinterfragt werden müssen. In bestimmten Bereichen, wie der medizinischen Diagnostik, können KI-Systeme bereits präzisere Ergebnisse liefern als Menschen. Dennoch bleibt es wichtig, dass ein Arzt die Diagnose überprüft und mögliche Fehlerquellen identifiziert.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!