Die EU erzielt historische Einigung zur Regulierung der KI-Entwicklung

BRÜSSEL / MÜNCHEN (IT Boltwise) – Nach einer intensiven 72-stündigen Debatte haben die Gesetzgeber der Europäischen Union eine historische Vereinbarung über das weitreichende KI-Entwicklungssicherheitsgesetz erzielt, welches bisher seinesgleichen sucht.

Nach einer Marathon-Debatte von 72 Stunden haben die Gesetzgeber der Europäischen Union letzten Freitag eine historische Vereinbarung über das umfassende KI-Act-Sicherheitsentwicklungsgesetz erzielt, das bisher am breitesten angelegte und am weitesten reichende seiner Art, berichtet The Washington Post. Details der Vereinbarung selbst waren nicht sofort verfügbar.

„Diese Gesetzgebung wird einen Standard, ein Modell für viele andere Rechtsordnungen darstellen“, sagte der rumänische Abgeordnete Dragoș Tudorache, der die KI-Gesetzgebung mitverhandelt, der Washington Post. „Das bedeutet, dass wir eine zusätzliche Sorgfaltspflicht haben müssen, wenn wir sie formulieren, weil sie viele andere beeinflussen wird.“

Die vorgeschlagenen Vorschriften würden die Art und Weise diktieren, wie zukünftige Machine-Learning-Modelle innerhalb des Handelsblocks entwickelt und verteilt werden könnten. Sie würden ihre Verwendung in Anwendungen von der Bildung über die Beschäftigung bis zur Gesundheitsversorgung beeinflussen. Die KI-Entwicklung würde zwischen vier Kategorien aufgeteilt, je nachdem, wie viel gesellschaftliches Risiko jede potenziell birgt – minimal, begrenzt, hoch und verboten.

Zu den verbotenen Anwendungen gehören alle, die den Willen des Benutzers umgehen, geschützte soziale Gruppen ins Visier nehmen oder eine Echtzeit-Biometrie-Tracking ermöglichen (wie Gesichtserkennung). Zu den Hochrisiko-Anwendungen gehören alle, die „dazu bestimmt sind, als Sicherheitskomponente eines Produkts verwendet zu werden“, oder die in definierten Anwendungen wie kritischer Infrastruktur, Bildung, Rechts-/Justizangelegenheiten und Mitarbeiterrekrutierung eingesetzt werden sollen. Chatbots wie ChatGPT, Bard und Bing würden unter die „begrenzten Risiko“-Metriken fallen.

„Die Europäische Kommission ist erneut in kühner Weise vorgegangen, um sich mit aufkommenden Technologien zu befassen, so wie sie es bereits mit dem Datenschutz durch die DSGVO getan hat“, sagte Dr. Brandie Nonnecke, Direktorin des CITRIS Policy Lab an der UC Berkeley, 2021 gegenüber Engadget. „Die vorgeschlagene Verordnung ist insofern sehr interessant, als sie das Problem aus einem risikobasierten Ansatz angeht“, ähnlich dem, was im vorgeschlagenen KI-Regulierungsrahmen Kanadas vorgeschlagen wurde.

Die laufenden Verhandlungen über die geplanten Regeln waren in den letzten Wochen durch Frankreich, Deutschland und Italien gestört worden. Sie blockierten die Gespräche über die Regeln für die Entwicklung grundlegender Modelle, generalisierter KIs, von denen spezialisiertere Anwendungen fein abgestimmt werden können. OpenAIs GPT-4 ist ein solches Grundlagenmodell, da ChatGPT, GPTs und andere Drittanbieteranwendungen alle von seiner Basisfunktionalität trainiert werden. Das Trio der Länder befürchtete, dass strenge EU-Vorschriften für generative KI-Modelle die Bemühungen der Mitgliedsstaaten behindern könnten, sie wettbewerbsfähig zu entwickeln.

Die EK hatte die wachsenden Herausforderungen des Managements aufkommender KI-Technologien bereits durch eine Vielzahl von Bemühungen angegangen: Veröffentlichung der ersten Europäischen Strategie für KI und des Koordinierten Plans für KI im Jahr 2018, gefolgt von den Leitlinien für eine vertrauenswürdige KI im Jahr 2019. Im folgenden Jahr veröffentlichte die Kommission ein Weißbuch über KI und einen Bericht über die Sicherheits- und Haftungsimplikationen von Künstlicher Intelligenz, dem Internet der Dinge und Robotik.

„Künstliche Intelligenz sollte kein Selbstzweck sein, sondern ein Werkzeug, das den Menschen dienen muss, mit dem letztendlichen Ziel, das menschliche Wohlergehen zu steigern“, schrieb die Europäische Kommission in ihrem Entwurf der KI-Verordnung. „Vorschriften für künstliche Intelligenz, die auf dem Binnenmarkt der Union erhältlich sind oder die Unionsbürger anderweitig betreffen, sollten daher den Menschen in den Mittelpunkt stellen (menschzentriert sein), damit sie darauf vertrauen können, dass die Technologie auf eine sichere, gesetzeskonforme Weise einschließlich der Achtung der Grundrechte eingesetzt wird.“

„Gleichzeitig sollten solche Vorschriften für künstliche Intelligenz ausgewogen, verhältnismäßig sein und die technologische Entwicklung nicht unnötig einschränken oder behindern“, hieß es weiter. „Dies ist besonders wichtig, da künstliche Intelligenz zwar bereits in viele Aspekte des täglichen Lebens der Menschen integriert ist, es aber nicht möglich ist, alle möglichen künftigen Verwendungen oder Anwendungen vorherzusehen.“

In jüngster Zeit hat die EK begonnen, mit Branchenmitgliedern auf freiwilliger Basis zusammenzuarbeiten, um interne Regeln zu entwickeln, die es Unternehmen und Regulierungsbehörden ermöglichen würden, unter denselben vereinbarten Grundregeln zu operieren. „[Google-CEO Sundar Pichai] und ich stimmten darin überein, dass wir uns keinen Aufschub leisten können, bis die KI-Regulierung tatsächlich anwendbar wird, und mit allen KI-Entwicklern zusammenarbeiten, um bereits vor dem gesetzlichen Termin freiwillig einen KI-Pakt zu entwickeln“, sagte der europäische Industriekommissar Thierry Breton in einer Erklärung vom Mai. Die EK ist auch mit US-amerikanischen Unternehmen in ähnliche Diskussionen eingetreten.

Hinweis: Teile dieses Textes könnten mithilfe einer Künstlichen Intelligenz generiert worden sein.