Kalifornien setzt mit Gesetz „SB 1047“ neue KI-Regulierungen durch

Kalifornien / MÜNCHEN (IT BOLTWISE) – Das kalifornische Gesetz SB 1047, bekannt als Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, geht in die nächste legislative Runde. Trotz Kontroversen in der Tech-Branche soll das Gesetz die Balance zwischen Innovation und Sicherheit gewährleisten.

Das kalifornische SB 1047 zielt darauf ab, die Entwicklung von sogenannten „Frontier“ KI-Modellen, deren Trainingskosten mindestens 100 Millionen US-Dollar betragen, stärker zu regulieren. Das Gesetz sieht vor, dass Entwickler dieser Modelle Sicherheitsmaßnahmen ergreifen, Audits durchführen und sicherstellen, dass ihre Modelle keinen erheblichen Schaden verursachen. Gleichzeitig bietet es Whistleblower-Schutz für KI-Arbeiter und gibt dem Generalstaatsanwalt die Möglichkeit, gegen Unternehmen vorzugehen, deren KI-Modelle große Risiken für die Öffentlichkeit darstellen.

Trotz dieser strikten Maßnahmen wurde der Gesetzentwurf vor allem in der Tech-Industrie, besonders im Silicon Valley, stark kritisiert. Zu den Kritikern gehören prominente Tech-Repräsentanten wie Anna Eshoo, Zoe Lofgren und Ro Khanna, die den kalifornischen Gouverneur Gavin Newsom in einem Brief aufforderten, das Gesetz zu stoppen. Sie argumentieren, dass SB 1047 zu sehr auf potenzielle Missbräuche fokussiere und drängendere Themen wie Fehlinformationen, Umweltfolgen oder Arbeitsplatzverluste vernachlässige.

Als Reaktion auf die Kritik wurden wesentliche Änderungen am Gesetz vorgenommen. So wurden die strafrechtlichen Sanktionen aus dem Entwurf entfernt, ebenso die ursprünglich geplante Einrichtung einer neuen Regulierungsbehörde namens Frontier Model Division. Diese Anpassungen sollen die Befürchtungen der Industrie entschärfen und einen Ausgleich zwischen Sicherheitsanforderungen und Innovation schaffen.

Einer der wichtigsten Befürworter des Gesetzes, Senator Scott Wiener, betont, dass Sicherheit und Fortschritt Hand in Hand gehen können. Seiner Ansicht nach sollte Sicherheit nicht als Hindernis, sondern als notwendiger Bestandteil des technologischen Fortschritts betrachtet werden.

Das Gesetz sieht zudem die Einrichtung einer öffentlichen Cloud-Computing-Infrastruktur, CalCompute, vor, um die KI-Infrastruktur des Bundesstaates zu unterstützen. Dies könnte insbesondere im Hinblick auf die nächste Generation von Metas Llama-Modellen relevant werden, die laut Mark Zuckerberg eine zehnfach höhere Rechenleistung benötigen.

Obwohl das Gesetz die Tech-Industrie gespalten hat, erhält es auch Unterstützung von renommierten KI-Forschern wie Geoffrey Hinton und Yoshua Bengio, die die Notwendigkeit strengerer Vorschriften betonen.

Nun steht das Gesetz kurz vor der finalen Abstimmung in der kalifornischen Legislative. Sollte es das Parlament passieren, wird es dem Gouverneur zur Unterzeichnung vorgelegt. Sollte das Gesetz in Kraft treten, wird es ab 2026 gültig sein, um genügend Zeit für die Implementierung der vorgeschlagenen Änderungen zu geben.