EU-Parlament berät über Künstliche Intelligenz und Diskriminierung: Verbraucher- und Datenschutz versus Innovationskraft und Wettbewerb

MÜNCHEN/STRAßBURG (IT BOLTWISE) – Was müssen Verbraucher bzw. Nutzer über die Funktionsweisen von Algorithmen und ihre Hintergründe erfahren? Wie lässt sich verhindern, dass Künstliche Intelligenz diskriminierende oder parteiische Entscheidungen fällt? Und wer haftet für Fehler oder falsche Entscheidungen? Es hört sich nach Science Fiction in ferner Zukunft an, aber solche Fragen müssen nun getroffen werden. In der Europäischen Union geht es deshalb darum, einen Standpunkt dazu zu entwickeln.

Noch bevor die EU-Kommission ihre Digitalpläne vorstellt, legt das EU-Parlament seine eigenen Ideen vor. Heute, am 12. Februar 2020, stimmen die Abgeordneten in Straßburg über eine Resolution zu automatisierten Entscheidungen von Künstlicher Intelligenz ab. Die Resolution geht auf die Grünen-Politikerin Alexandra Geese zurück, welche in dem Segment der Künstlichen Intelligenz auf eine Vorbildrolle der Europäischen Union hofft, einen künftigen Standortvorteil im wirtschaftlichen Wettbewerb.

„Unregulierte künstliche Intelligenzprodukte haben wir in China. Wir wissen wie das aussieht. Wir haben sie in Amerika, in China mit Totalüberwachung der Verbraucher, in Amerika mit einer kompletten Macht der Konzerne, wo die Verbraucher fast gar nichts zu sagen haben. Wir haben in Europa gerade die Chance, dass wir algorithmische Systeme entwickeln, denen die Menschen Vertrauen wirklich geben, wo Frauen oder nicht-weiße Menschen wissen, sie werden nicht diskriminiert.“

Fälle, wie in Amerika, dass farbige Menschen keine Wohnungsinserate im Netz präsentiert bekommen oder dass Frauen als geeignete Bewerberinnen für den Traumjob von Künstlicher Intelligenz ignoriert werden: Solche Zustände will die Grünen-Abgeordnete Alexandra Geese verhindern. Noch sei es nicht zu spät meint sie, dass Algorithmen auf Grundlage veralteter Daten Diskriminierungen in die Zukunft fortschreiben.

„Je weiter man in die Vergangenheit geht, desto schlimmer wird es und wenn der Algorithmus sieht, Frauen haben immer deutlich weniger verdient. Dann ist das natürlich ein Faktor, der später in die Kreditrahmenrechnung einfließt und dann geht der Algorithmus davon aus, dass Frauen auch weniger Geld ausgeben können, wenn sie immer weniger verdient haben.“

Prüfbehörden sollen Algorithmen freigeben müssen

Die Resolution sieht unter anderem vor, dass Algorithmen gegenüber Behörden bzw. Prüfstellen offengelegt werden und freigegeben werden müssen, damit diskriminierende Software nicht zur Anwendung kommt. Das EU-Parlament stellt Verbrauchern auch ein Recht auf Entschädigung in Aussicht, falls sich Algorithmen als diskriminierend herausstellen und Menschen nachweislich benachteiligt haben.

CDU will Innovationen dadurch nicht behindern

Wie viel davon tatsächlich mal schwarz auf weiß in einem Gesetz umgesetzt wird, ist derzeit noch unklar. Fest steht, die Diskussionen um Künstliche Intelligenz und deren Funktionsweisen wird sich in einem Spannungsfeld bewegen: Verbraucher- und Datenschutz versus Innovationskraft und Wettbewerb und wie sich diese Positionen vielleicht auch vereinen lassen. Der CDU-Europaabgeordnete Axel Voss befürchtet jedoch, dass das Parlament bisher einen zu starken Fokus auf die Verbraucherrechte legt.

„Das ist ja nur eine Anregung wie man damit umgehen soll und auch da müssen wir einfach gucken, dass wir auch da nicht Innovationen wieder behindern durch einen übertriebenen Schutz des Einzelnen. Das kann man alles gewährleisten, aber muss man auch den Willen haben, beides erreichen zu wollen.“

Ein Schwerpunkt der Digitalpläne der EU-Kommission wird sein, wie der Umgang mit Industriedaten europäischer Unternehmen in Zukunft aussehen soll: Dazu werden in den kommenden Wochen genauere Details erwartet.