Google erlaubt KI-gestützte Entscheidungen unter strenger Aufsicht

MÜNCHEN (IT BOLTWISE) – Google hat kürzlich seine Richtlinien für den Einsatz von generativen KI-Tools in Hochrisikobereichen aktualisiert. Diese Entscheidung, die den Einsatz von KI für automatisierte Entscheidungen unter menschlicher Aufsicht erlaubt, hat in der Branche für gemischte Reaktionen gesorgt.

Google hat seine Nutzungsrichtlinien für generative KI-Tools überarbeitet und erlaubt nun deren Einsatz in sogenannten Hochrisikobereichen, solange eine menschliche Aufsicht gewährleistet ist. Diese Bereiche umfassen unter anderem das Gesundheitswesen, die Kreditvergabe und das Versicherungswesen. Die Entscheidung, KI in diesen sensiblen Bereichen einzusetzen, wird von einigen als Fortschritt in der Automatisierung gesehen, während andere Bedenken hinsichtlich Diskriminierung und Datenschutz äußern.

Die neue Richtlinie, die in der Generative AI Prohibited Use Policy festgehalten ist, hebt hervor, dass menschliche Kontrolle ein zentraler Bestandteil bei der Nutzung von KI in kritischen Bereichen sein muss. Dies soll sicherstellen, dass Entscheidungen, die erhebliche Auswirkungen auf individuelle Rechte haben könnten, nicht ausschließlich von Maschinen getroffen werden.

Im Vergleich zu Google verfolgen andere große Akteure im KI-Bereich, wie OpenAI und Anthropic, strengere Richtlinien. OpenAI verbietet den Einsatz seiner KI-Dienste für automatisierte Entscheidungen in Bereichen wie Kreditvergabe und Beschäftigung vollständig. Anthropic erlaubt die Nutzung nur in Anwesenheit eines qualifizierten Experten und fordert Transparenz bei der KI-Nutzung.

Diese Entwicklungen haben auch die Aufmerksamkeit von Regulierungsbehörden auf sich gezogen, die Bedenken hinsichtlich der Verzerrungen durch KI-Technologien äußern. Studien deuten darauf hin, dass KI-gestützte Entscheidungen, wie bei der Kreditvergabe, bestehende Diskriminierungsmuster verstärken könnten. Menschenrechtsorganisationen fordern daher ein Verbot von Sozialbewertungssystemen, die die Privatsphäre gefährden und den Zugang zu sozialen Sicherungssystemen beeinträchtigen könnten.

Google betont, dass die neuen Richtlinien mehr Klarheit für Anwender schaffen sollen, indem sie die Bedingungen für den Einsatz von KI in Hochrisikobereichen explizit hervorheben. Diese Klarstellung soll Unternehmen helfen, die Vorteile der KI-Technologie zu nutzen, ohne die ethischen und rechtlichen Standards zu verletzen.

Die Diskussion über den Einsatz von KI in sensiblen Bereichen wird voraussichtlich weiter an Intensität gewinnen, da Unternehmen und Regulierungsbehörden nach einem Gleichgewicht zwischen Innovation und Schutz der individuellen Rechte suchen. Die Zukunft der KI in Hochrisikobereichen bleibt ungewiss, doch die aktuellen Entwicklungen zeigen, dass menschliche Aufsicht ein unverzichtbarer Bestandteil der KI-gestützten Entscheidungsfindung bleiben wird.