Vertrauen in KI-Chatbots: Faktoren und Einflüsse

BASEL / MÜNCHEN (IT BOLTWISE) – Heutzutage sind Interaktionen mit KI-Chatbots allgegenwärtig, sei es auf der Website Ihrer Bank oder der Hotline Ihres Telefonanbieters. Doch wie sehr vertrauen wir diesen digitalen Assistenten wirklich? Forscher der Universität Basel haben sich dieser Frage angenommen und untersucht, welche Faktoren unser Vertrauen in KI-Chatbots beeinflussen.

Die Interaktion mit KI-Chatbots hat sich in den letzten Jahren stark verbreitet, insbesondere in Bereichen wie dem Kundenservice von Banken und Telekommunikationsanbietern. Doch das Vertrauen in diese Systeme ist ein entscheidender Faktor für ihre Akzeptanz und Nutzung. Forscher der Universität Basel haben kürzlich untersucht, welche Aspekte das Vertrauen in textbasierte KI-Chatbots wie ChatGPT beeinflussen.

Dr. Fanny Lalot und Anna-Marie Betram von der Fakultät für Psychologie der Universität Basel führten eine Studie durch, um zu verstehen, wie Menschen KI-Chatbots wahrnehmen und welche Eigenschaften diese Systeme als vertrauenswürdig erscheinen lassen. Dabei konzentrierten sie sich auf textbasierte Systeme und nicht auf Sprachassistenten wie Siri oder Alexa.

In der Studie wurden Probanden mit Beispielen von Interaktionen mit einem speziell für die Untersuchung entwickelten Chatbot namens Conversea konfrontiert. Die Teilnehmer sollten sich vorstellen, selbst mit Conversea zu interagieren. Die Ergebnisse der Studie wurden im Journal of Experimental Psychology: General veröffentlicht.

Ein zentrales Ergebnis der Studie ist, dass Menschen KI-Chatbots ähnlich wie andere Menschen wahrnehmen, wobei Kompetenz und Integrität als entscheidende Faktoren für das Vertrauen gelten. Interessanterweise spielt die Wahrnehmung von Wohlwollen eine geringere Rolle, solange die anderen beiden Eigenschaften vorhanden sind.

Die Forscher stellten fest, dass personalisierte Chatbots, die den Benutzer mit Namen ansprechen und auf frühere Gespräche Bezug nehmen, als besonders kompetent und wohlwollend wahrgenommen werden. Dies führt dazu, dass Benutzer eher bereit sind, persönliche Informationen zu teilen. Allerdings wurde der personalisierten Variante nicht signifikant mehr Integrität zugeschrieben als der unpersönlichen.

Die Studie legt nahe, dass Integrität bei der Entwicklung von KI-Technologien oberste Priorität haben sollte. Die Wahrnehmung von KI als unabhängige Entität zeigt, dass Benutzer mehr in diese Systeme projizieren, als tatsächlich vorhanden ist. Daher ist es wichtig, dass KI-Systeme zuverlässig sind und nicht einfach alles unkritisch bestätigen, was der Benutzer sagt.

Ein weiteres Thema, das die Studie aufwirft, ist die Frage, ob gebrochenes Vertrauen in KI-Chatbots ähnliche Konsequenzen haben könnte wie in zwischenmenschlichen Beziehungen. Dr. Lalot betont, dass weitere Forschung notwendig ist, um diese Frage zu beantworten, aber sie kann sich vorstellen, dass Benutzer sich betrogen fühlen könnten, wenn Ratschläge von einem KI-Chatbot negative Folgen haben.

Die Forscher empfehlen, dass Entwickler von KI-Plattformen Transparenz über die Quellen ihrer Informationen schaffen und klar kommunizieren, wenn sie etwas nicht wissen, anstatt Antworten zu erfinden. Dies könnte dazu beitragen, das Vertrauen der Benutzer in diese Technologien zu stärken.