MIT veröffentlicht umfangreiches Repository für KI-Risiken

MÜNCHEN (IT BOLTWISE) – MIT-Forscher haben ein umfassendes Repository für KI-Risiken veröffentlicht, das als Leitfaden für Regierungen, Unternehmen und andere Stakeholder dienen soll.

Welche spezifischen Risiken sollten Personen, Unternehmen oder Regierungen berücksichtigen, wenn sie ein KI-System verwenden oder Vorschriften für dessen Nutzung erstellen? Diese Frage ist schwer zu beantworten, da KI-Anwendungen unterschiedlichste Risiken bergen. Beispielsweise könnte eine KI, die kritische Infrastrukturen steuert, eine offensichtliche Gefahr für die menschliche Sicherheit darstellen. Aber was ist mit einer KI, die Prüfungen bewertet, Lebensläufe sortiert oder Reisedokumente bei der Einwanderungskontrolle überprüft? Diese Aufgaben bergen jeweils eigene, kategorisch verschiedene Risiken, die jedoch nicht weniger gravierend sind.

Bei der Entwicklung von Gesetzen zur Regulierung von KI, wie dem EU AI Act oder dem kalifornischen Gesetz SB 1047, haben politische Entscheidungsträger Schwierigkeiten, sich auf die zu berücksichtigenden Risiken zu einigen. Um ihnen, aber auch Stakeholdern in der KI-Branche und Wissenschaft, eine Orientierung zu bieten, haben MIT-Forscher ein sogenanntes „AI-Risiko-Repository“ entwickelt – eine Art Datenbank für KI-Risiken.

„Dies ist ein Versuch, KI-Risiken systematisch zu kuratieren und in einer öffentlich zugänglichen, umfassenden, erweiterbaren und kategorisierten Risikodatenbank zusammenzuführen, die jeder kopieren und verwenden kann und die im Laufe der Zeit aktualisiert wird“, sagte Peter Slattery, ein Forscher der MIT FutureTech-Gruppe und Leiter des AI-Risiko-Repository-Projekts, in einem Interview. „Wir haben es jetzt erstellt, weil wir es für unser Projekt brauchten und erkannt haben, dass viele andere es ebenfalls benötigen.“

Slattery erklärt, dass das AI-Risiko-Repository, das über 700 KI-Risiken umfasst und nach Kausalitätsfaktoren (z. B. Absicht), Domänen (z. B. Diskriminierung) und Subdomänen (z. B. Desinformation und Cyberangriffe) gruppiert ist, aus dem Wunsch heraus entstanden ist, die Überschneidungen und Diskrepanzen in der KI-Sicherheitsforschung besser zu verstehen. Zwar existieren andere Risikorahmenwerke, aber sie decken laut Slattery nur einen Bruchteil der im Repository identifizierten Risiken ab, und diese Auslassungen könnten schwerwiegende Folgen für die KI-Entwicklung, -Nutzung und -Regulierung haben.

„Die Menschen nehmen vielleicht an, dass es einen Konsens über KI-Risiken gibt, aber unsere Ergebnisse deuten auf etwas anderes hin“, fügte Slattery hinzu. „Wir haben festgestellt, dass die durchschnittlichen Rahmenwerke nur 34 % der 23 von uns identifizierten Risikosubdomänen erwähnten, und fast ein Viertel deckte weniger als 20 % ab. Kein Dokument oder Überblick erwähnte alle 23 Risikosubdomänen, und das umfassendste deckte nur 70 % ab. Wenn die Literatur so fragmentiert ist, sollten wir nicht davon ausgehen, dass wir alle dieselbe Auffassung über diese Risiken haben.“

Um das Repository aufzubauen, arbeiteten die MIT-Forscher mit Kollegen der University of Queensland, dem gemeinnützigen Future of Life Institute, KU Leuven und dem KI-Startup Harmony Intelligence zusammen, um akademische Datenbanken zu durchforsten und Tausende von Dokumenten zur Bewertung von KI-Risiken zu sammeln.

Die Forscher stellten fest, dass die von ihnen erfassten Drittanbieter-Rahmenwerke bestimmte Risiken häufiger als andere erwähnten. So enthalten beispielsweise über 70 % der Rahmenwerke die Auswirkungen von KI auf Datenschutz und Sicherheit, während nur 44 % Desinformation behandeln. Und während über 50 % über Formen der Diskriminierung und Falschdarstellung sprachen, die KI fördern könnte, erwähnten nur 12 % die „Verschmutzung des Informationsökosystems“ – also die zunehmende Menge an KI-generiertem Spam.

„Eine Lehre für Forscher und politische Entscheidungsträger sowie alle, die mit Risiken arbeiten, ist, dass diese Datenbank eine Grundlage für spezifischere Arbeiten bieten könnte“, sagte Slattery. „Früher hatten Menschen wie wir zwei Möglichkeiten. Sie konnten erheblich Zeit investieren, um die verstreute Literatur zu überprüfen und einen umfassenden Überblick zu erhalten, oder sie konnten eine begrenzte Anzahl bestehender Rahmenwerke verwenden, die möglicherweise relevante Risiken übersehen. Jetzt haben sie eine umfassendere Datenbank, die hoffentlich Zeit spart und die Aufsicht verbessert.“

Aber wird es tatsächlich genutzt werden? Es stimmt, dass die KI-Regulierung weltweit derzeit bestenfalls ein Flickenteppich ist: ein Spektrum unterschiedlicher Ansätze, die in ihren Zielen uneinheitlich sind. Hätte ein KI-Risiko-Repository wie das des MIT früher existiert, hätte es etwas geändert? Könnte es? Das ist schwer zu sagen.

Eine weitere berechtigte Frage ist, ob es ausreicht, sich auf die von der KI ausgehenden Risiken zu einigen, um kompetente Regulierungen anzuregen. Viele Sicherheitsbewertungen für KI-Systeme haben erhebliche Einschränkungen, und eine Datenbank mit Risiken wird dieses Problem nicht unbedingt lösen.

Die MIT-Forscher planen jedoch, es zu versuchen. Neil Thompson, Leiter des FutureTech Lab, erklärte, dass die Gruppe in der nächsten Phase ihrer Forschung plant, das Repository zu verwenden, um zu bewerten, wie gut verschiedene KI-Risiken adressiert werden.

„Unser Repository wird uns beim nächsten Schritt unserer Forschung helfen, wenn wir evaluieren, wie gut verschiedene Risiken adressiert werden“, sagte Thompson. „Wir planen, dies zu nutzen, um Mängel in den organisatorischen Reaktionen zu identifizieren. Wenn sich beispielsweise alle auf eine Art von Risiko konzentrieren, während andere von ähnlicher Bedeutung übersehen werden, ist das etwas, das wir bemerken und angehen sollten.“