San Francisco verwendet KI-Tool zur vorurteilsfreien Beurteilung von Ermittlungen

SAN FRANCISCO (IT BOLTWISE) – Die Staatsanwaltschaft von San Francisco verwendet zukünftig eine von der Universität Stanford entwickelte Software, die aus Dokumenten Hinweise auf die Rasse von Verdächtigen entfernt. Das soll einem „Racial Bias“ entgegenwirken.

In den USA gilt der „Racial Bias“ als ein Problem bei der Strafverfolgung: Weil Farbige und Latinos mehr Straftaten begehen als Weiße, werden sie möglicherweise häufiger kontrolliert und schneller verdächtigt. Dieser Ungleichbehandlung will die Staatsanwaltschaft von San Francisco nun auf technischem Weg entgegentreten.

Am 12. Juni 2019 kündigte der District-Staatsanwalt George Gascon an, das in San Francisco zukünftig ein „Bias Mitigation Tool“ verwendet wird. Diese KI-gestützt Software wurde am „Stanford Computational Policy Lab“ entwickelt und steht den US-Behörden kostenlos zur Verfügung.

Aufgabe der Software ist, alle Hinweise auf die Rasse der Verdächtigen aus Dokumenten automatisch zu entfernen und durch neutrale Passagen zu ersetzen. Neben Personennamen können dazu zum Beispiel Stadteile als Orte des Geschehens gehören. Die Staatsanwälte sollen diese neutralisierte Version für erste Beurteilungen verwenden. Später können sie sich entscheiden, die Originalversion anzusehen. Dazu gehören auch eventuell vorhandene Videos. Denn das Tool aus Stanford kann nur Bezeichnungen in Dokumenten austauschen, aber keine Bilder oder Videos ändern.