Mensch-Maschine-Interaktion: Mehr als nur Vertrauen

MÜNCHEN (IT BOLTWISE) – Der Ingenieur Matthew L. Bolton fordert in seinem Artikel eine Neubewertung der Rolle von Vertrauen in der Mensch-Maschine-Interaktion. Stattdessen sollen Ingenieure den Fokus auf Zuverlässigkeit, Transparenz und Benutzerfreundlichkeit legen.

In seinem Artikel „Trust is Not a Virtue: Why We Should Not Trust“, veröffentlicht im Fachjournal *Ergonomics in Design*, kritisiert Matthew L. Bolton, Professor für System- und Informationsingenieurwesen an der University of Virginia, das weitverbreitete Bestreben, Vertrauen in der Mensch-Maschine-Interaktion zu fördern. Besonders in Systemen, die auf Künstlicher Intelligenz, maschinellem Lernen und Automatisierung basieren, sieht Bolton Vertrauen als problematischen und ungenauen Maßstab.

Bolton argumentiert, dass Vertrauen schwer zu definieren und stark vom Kontext abhängig sei. Es werde oft mit verwandten Konzepten wie Vertrauen in die Zuverlässigkeit oder wahrgenommenem Risiko verwechselt. Diese Unsicherheiten machen Vertrauen als Messgröße für menschliches Verhalten ungeeignet.

Statt auf Vertrauen zu setzen, sollten Ingenieure laut Bolton auf objektive Kriterien wie Systemzuverlässigkeit, Transparenz und Benutzerfreundlichkeit achten – Faktoren, die die tatsächliche Nutzererfahrung und Leistung direkt beeinflussen. Ein übermäßiger Fokus auf Vertrauen könnte sogar das Gegenteil bewirken und die Grundlagen einer soliden, menschenzentrierten Systemgestaltung untergraben.

Vertrauen sei zudem kein menschlicher Wert, warnt Bolton. Es könne manipuliert werden, um Nutzer zu entmündigen und ihre Autonomie zu verringern. Dies diene oft den Interessen großer Organisationen, die eher blindes Vertrauen in ihre Technologien fördern, anstatt auf Zuverlässigkeit und Transparenz zu setzen.

„Es gibt einen Widerspruch in der Vertrauensforschung“, erklärt Bolton. „Wir integrieren Menschen in Systeme, weil sie Erfahrung, Expertise und Kreativität einbringen, die Systeme resilienter machen. Wenn Ingenieure jedoch Menschen manipulieren, damit sie vertrauen, wie es ihnen vorgeschrieben wird, verlieren wir den Vorteil menschlicher Operatoren.“

Abschließend fordert Bolton ein Umdenken: Ingenieure sollten sich von einer auf Vertrauen fokussierten Forschung verabschieden und stattdessen auf konkrete, ethische Prinzipien im Systemdesign setzen. Technologien sollten Menschen mehr Autonomie geben, indem sie auf Zuverlässigkeit, Transparenz und eine benutzerfreundliche Gestaltung setzen.