MÜNCHEN (IT BOLTWISE) – Die Kehrseite Künstlicher Intelligenz: Fehlprognosen und ihre Folgen
Künstliche Intelligenz (KI) findet zunehmend Anwendung in der Vorhersage zukünftiger Ereignisse. Banken nutzen sie, um die Rückzahlungswahrscheinlichkeit von Krediten zu prognostizieren, Krankenhäuser setzen sie ein, um zu ermitteln, welche Patienten ein hohes Krankheitsrisiko haben, und Auto-Versicherungen verwenden sie, um Versicherungstarife basierend auf der Unfallwahrscheinlichkeit der Kunden festzulegen.
„Algorithmen wurden oft als Wundermittel dargestellt, die viele gesellschaftliche Probleme lösen können“, erklärt Sayash Kapoor, Forscher und Doktorand am Center for Information Technology Policy der Princeton University. „Daher erscheint es manchmal unwahrscheinlich, dass Algorithmen in der realen Welt so katastrophal versagen können.“
Doch genau das passiert. Probleme wie Datenlecks und Stichprobenverzerrungen können dazu führen, dass KI fehlerhafte Vorhersagen trifft, manchmal mit verheerenden Folgen.
Kapoor verweist auf Fälle mit hohen Einsätzen: Ein Algorithmus beschuldigte fälschlicherweise Zehntausende niederländische Eltern des Betrugs; ein anderer sollte voraussagen, welche Krankenhauspatienten ein hohes Risiko für eine Sepsis haben, löste aber häufig Fehlalarme aus und übersah Fälle.
Nachdem er Zehntausende von Zeilen maschinellen Lerncodes in Fachartikeln durchforstet hatte, stellte er fest, dass solche Beispiele auch in der wissenschaftlichen Forschung weit verbreitet sind.
„Wir haben dies in Hunderten von Artikeln und quer durch verschiedene Forschungsfelder gesehen“, sagt er. „Oft reicht maschinelles Lernen aus, um einen Artikel zu veröffentlichen, aber dieser führt nicht oft zu realen Fortschritten in wissenschaftlichen Bereichen.“
Ergänzungen und Infos bitte an die Redaktion per eMail an de-info[at]it-boltwise.de
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.