Amnesty International warnt vor zunehmenden Menschenrechtsverletzungen durch KI

MÜNCHEN (IT BOLTWISE) – Amnesty International hat vor zunehmenden Menschenrechtsverletzungen durch den Einsatz Künstlicher Intelligenz gewarnt.

Die Menschenrechtsorganisation Amnesty International äußert ernsthafte Bedenken hinsichtlich des Einsatzes von Künstlicher Intelligenz (KI) und dessen Auswirkungen auf die Menschenrechte. “KI kann instrumentalisiert werden, um zu diskriminieren, zu desinformieren und zu spalten”, erklärte Lena Rohrbach, eine Expertin für Menschenrechte im digitalen Zeitalter, während der Präsentation des Jahresberichts in Berlin. Programme wie ChatGPT, die automatisch Texte generieren, könnten zur massenhaften Verbreitung von Hassreden gegenüber Frauen und Homosexuellen eingesetzt werden.

Ein besonderes Augenmerk legt Amnesty auf den Einsatz von Gesichtserkennungstechnologien. Die Bundesregierung hat bisher nicht ihr Versprechen eingelöst, den Einsatz dieser Technologie im öffentlichen Raum zu verbieten. Die Debatten über die Verwendung von KI bei großen Sportveranstaltungen wie der Fußball-Europameisterschaft in Deutschland und den Olympischen Spielen in Paris intensivieren sich, mit der Befürchtung, dass solche Maßnahmen dauerhaft erweitert werden könnten.

In Ländern wie Russland werden Kameras mit Gesichtserkennung bereits verwendet, um Teilnehmer an regierungskritischen Demonstrationen zu identifizieren. Im Iran wird solche Technologie eingesetzt, um Frauen zu erkennen, die sich dem Schleierzwang widersetzen. Auch die New Yorker Polizei hat nach einer Klage von Amnesty International zugegeben, Gesichtserkennung zur Überwachung von Black-Lives-Matter-Protesten eingesetzt zu haben.

Die Erstellung von Deepfake-Pornographie, die hauptsächlich Frauen betrifft, ist ein weiterer schwerwiegender Missbrauch der KI. Eine 17-jährige Ägypterin nahm sich das Leben, nachdem gefälschte Nacktbilder von ihr verbreitet wurden. Zudem kritisiert Amnesty die Einschränkung von Informationen zu Schwangerschaftsabbrüchen auf verschiedenen Internetplattformen.

Besonders problematisch ist auch der Einsatz von Spionagesoftware wie Pegasus oder Predator, die ein neues Niveau transnationaler Repression ermöglichen. Länder wie Armenien, Indien und Serbien haben im letzten Jahr solche Software verwendet, um Medien und Zivilgesellschaft zu überwachen. In Berlin wurde Predator gegen einen vietnamesischen Journalisten eingesetzt.

In einigen Fällen führen Algorithmen, die von Behörden eingesetzt werden, versehentlich zu Menschenrechtsverletzungen. In Serbien führte die Einführung eines automatisierten Systems dazu, dass Tausende Familien zu Unrecht den Zugang zur Sozialhilfe verloren. “Eigentlich gibt es eine Frist zur Überprüfung der Urteile, aber de facto trifft die Entscheidung ein Algorithmus”, fügte Rohrbach hinzu.

Amnesty International fordert sowohl ein umfassendes Verbot von besonders invasiver Spionagesoftware als auch ein Moratorium für den Handel mit anderen Überwachungstechnologien, bis internationale Regelungen etabliert sind. Die europäische KI-Verordnung, die vor Kurzem initiiert wurde, ist zwar ein positiver Schritt vorwärts, aber sie öffnet auch potenzielle Einfallstore für Menschenrechtsverletzungen in besonders sensiblen Bereichen wie Migration und öffentliche Sicherheit. Es ist dringend erforderlich, dass die Bundesregierung hier national nachsteuert und gesetzliche Maßnahmen ergreift, um diese Schwachstellen zu adressieren, so Rohrbach weiter.

Die Diskussionen und Maßnahmen rund um den Einsatz von KI müssen transparent und unter aktiver Beteiligung der Öffentlichkeit erfolgen. Nur so kann sichergestellt werden, dass Technologie zum Nutzen aller eingesetzt wird und nicht als Werkzeug zur Unterdrückung oder Diskriminierung missbraucht wird. Die Zusammenarbeit zwischen Regierungen, zivilgesellschaftlichen Organisationen und der Technologiebranche ist entscheidend, um einen verantwortungsbewussten Umgang mit KI-Technologien zu fördern und Menschenrechte zu schützen.

Diese Herausforderungen zeigen deutlich, wie wichtig es ist, ethische Überlegungen in den Mittelpunkt der technologischen Entwicklung und politischen Regelungen zu stellen. Der Schutz der Privatsphäre, die Wahrung der Menschenwürde und die Sicherung der Grundrechte müssen oberste Priorität haben, wenn wir in eine zunehmend digitalisierte Zukunft blicken.