Die Zukunft der KI: Intentionen erkennen, bevor sie entstehen

CAMBRIDGE / MÜNCHEN (IT BOLTWISE) – Die nächste große Herausforderung für die Künstliche Intelligenz (KI) könnte darin bestehen, unsere Absichten zu erkennen und zu beeinflussen, bevor wir selbst sie vollständig verstehen. Diese Entwicklung könnte eine neue, lukrative Marktwirtschaft schaffen, die auf digitalen Signalen von Absichten basiert.

Die Vorstellung, dass KI-Assistenten unsere Entscheidungen vorhersagen und beeinflussen könnten, bevor wir sie selbst treffen, klingt wie Science-Fiction. Doch Forscher der Universität Cambridge warnen, dass wir uns am Beginn einer solchen Entwicklung befinden. Diese neue Form der Wirtschaft, die sie als ‘Intention Economy’ bezeichnen, könnte weitreichende Auswirkungen auf unser tägliches Leben haben, von der Wahl des nächsten Films bis hin zu politischen Entscheidungen.

Im Zentrum dieser Entwicklung stehen anthropomorphe KI-Agenten, die durch den Einsatz von generativer KI und Chatbots immer vertrauter werden. Diese Agenten könnten in der Lage sein, intime psychologische und Verhaltensdaten zu sammeln, die aus informellen Gesprächen gewonnen werden. Mit diesem Wissen könnten sie unsere Online-Gewohnheiten analysieren und auf eine Weise auf uns eingehen, die Vertrauen schafft und Manipulation ermöglicht.

Dr. Yaqub Chaudhary, Gastwissenschaftler am Leverhulme Center for the Future of Intelligence (LCFI) in Cambridge, betont, dass erhebliche Ressourcen darauf verwendet werden, KI-Assistenten in allen Lebensbereichen zu positionieren. Dies wirft die Frage auf, wessen Interessen diese Assistenten tatsächlich dienen. Die Art und Weise, wie Menschen in Gesprächen kommunizieren, und die daraus in Echtzeit abgeleiteten Schlussfolgerungen sind weitaus intimer als bloße Online-Interaktionen.

Die Forscher warnen, dass KI-Tools bereits entwickelt werden, um menschliche Pläne und Absichten zu erfassen, zu verstehen und letztlich zu manipulieren und zu kommerzialisieren. Dr. Jonnie Penn, ein Historiker der Technologie am LCFI, erklärt, dass die Aufmerksamkeit bisher die Währung des Internets war. Doch in einer nicht regulierten Intention Economy könnten unsere Motivationen zur neuen Währung werden.

In einem Artikel der Harvard Data Science Review beschreiben Penn und Chaudhary, dass die Intention Economy die Aufmerksamkeit des Nutzers über die Zeit hinweg profiliert und analysiert, wie diese mit Verhaltensmustern und Entscheidungen verknüpft ist. Während einige Absichten flüchtig sind, könnten die Klassifizierung und das gezielte Ansprechen beständiger Absichten für Werbetreibende äußerst profitabel sein.

In einer Intention Economy könnten große Sprachmodelle (LLMs) genutzt werden, um kostengünstig die Sprachgewohnheiten, politischen Ansichten, das Vokabular, Alter, Geschlecht, Online-Geschichte und sogar Vorlieben für Schmeichelei und Anbiederung eines Nutzers zu analysieren. Diese Informationen könnten mit Auktionsnetzwerken verknüpft werden, um die Wahrscheinlichkeit zu maximieren, ein bestimmtes Ziel zu erreichen, wie etwa den Verkauf eines Kinobesuchs.

Obwohl die Intention Economy derzeit noch ein Ziel der Tech-Industrie ist, beobachten die Forscher erste Anzeichen dieses Trends in veröffentlichten Forschungen und Andeutungen großer Technologieunternehmen. Dazu gehören Aufrufe zur Sammlung von Daten, die menschliche Absichten ausdrücken, sowie die Entwicklung von KI-Agenten, die menschliche Absichten erkennen und vorhersagen können.

Diese Entwicklungen sind nicht unbedingt negativ, haben jedoch das Potenzial, destruktiv zu sein. Öffentliche Aufmerksamkeit und Bewusstsein sind entscheidend, um sicherzustellen, dass wir nicht den falschen Weg einschlagen, so Penn.