Künstliche Intelligenz in der Medizin: Chancen und Risiken für Frauen und Minderheiten

NEW YORK / MÜNCHEN (IT BOLTWISE) – Der Einsatz von Künstlicher Intelligenz (KI) in der Medizin verspricht erhebliche Fortschritte, birgt jedoch auch Risiken, insbesondere für Frauen und Minderheiten. Eine aktuelle Studie der Icahn School of Medicine at Mount Sinai in New York zeigt, dass KI-Modelle unterschiedliche Behandlungen empfehlen können, je nach demografischem und sozioökonomischem Hintergrund der Patienten.

Die Künstliche Intelligenz hat in der Medizin das Potenzial, die Gesundheitsversorgung zu revolutionieren. Doch eine neue Studie zeigt, dass diese Technologie auch Gefahren birgt, insbesondere für Frauen und Minderheiten. Die Untersuchung, die in der Fachzeitschrift „Nature Medicine“ veröffentlicht wurde, analysierte neun große KI-Sprachmodelle in der Notaufnahme. Dabei wurden 1000 Fälle mit 32 verschiedenen Patientenhintergründen simuliert, um die Empfehlungen der KI zu testen.

Die Ergebnisse sind alarmierend: Trotz identischer klinischer Details variieren die Empfehlungen der KI-Modelle je nach sozioökonomischem und demografischem Profil der Patienten. So erhielten Patienten mit hohem Einkommen häufiger Empfehlungen für fortgeschrittene diagnostische Untersuchungen wie CT-Scans oder MRTs, während Patienten mit niedrigem Einkommen oft von weiteren Untersuchungen abgeraten wurde.

Besonders benachteiligt waren Patienten, die als „schwarz“, „obdachlos“ oder queer beschrieben wurden. Diese Gruppen erhielten häufiger Empfehlungen für psychologische Beurteilungen oder stationäre Aufnahmen, unabhängig von der klinischen Notwendigkeit. Solche Verzerrungen könnten bestehende gesundheitliche Ungleichheiten nicht nur abbilden, sondern sogar verschärfen, warnt Mitautor Eyal Klang.

Die Forscher betonen, dass diese Unterschiede nicht durch medizinische Richtlinien gedeckt sind und auf diskriminierende Tendenzen in den Modellen hindeuten. Wenn KI-Modelle unreflektiert in medizinische Entscheidungsprozesse eingebunden werden, riskieren wir neue Formen der Diskriminierung mit realen Folgen für Patienten.

Die Studie unterstreicht die Notwendigkeit, KI-Systeme verantwortungsvoll zu entwickeln und einzusetzen. Mahmud Omar, Arzt und Wissenschaftler, betont die Bedeutung solcher Forschungen, um den Einsatz von KI in der Medizin gerechter zu gestalten. Auch Co-Seniorautor Girish N. Nadkarni sieht in der verantwortungsvollen Entwicklung von KI ein großes Potenzial für die Gesundheitsversorgung.

Frauen sind eine besonders große benachteiligte Gruppe, da sie in den Trainingsdaten oft unterrepräsentiert sind. Dies führt dazu, dass Algorithmen bei der Diagnose von Frauen unzuverlässiger sein können. Sylvia Thun, Professorin für Digitale Medizin, betont die Notwendigkeit von Diversität in den Trainingsdaten und regelmäßigen Überprüfungen, um Verzerrungen frühzeitig zu erkennen und zu korrigieren.

Die Verantwortung für den Einsatz von KI in der Medizin liegt letztlich beim Menschen. Christiane Woopen, Direktorin des Center for Life Ethics, fordert, ethische Erwägungen bei KI-Modellen von Anfang an zu berücksichtigen. Dazu gehört die Auswahl der Trainingsdaten, das Überprüfen auf Fehler und Diskriminierung sowie der Schutz der Privatheit.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!