WHO veröffentlicht ethische Richtlinien für KI im Gesundheitswesen

GENF / MÜNCHEN (IT BOLTWISE) – Die Weltgesundheitsorganisation (WHO) hat umfassende Richtlinien für den ethischen Einsatz von Künstlicher Intelligenz im Gesundheitswesen herausgegeben, um den rasanten Fortschritt in diesem Bereich zu steuern.

Als Antwort auf die rasche Entwicklung generativer Künstlicher Intelligenz (KI) im Gesundheitswesen hat die Weltgesundheitsorganisation (WHO) einen umfassenden Leitfaden herausgegeben. Dieser zielt darauf ab, den ethischen Gebrauch von Großen Multi-Modalen Modellen (LMMs) im Gesundheitssektor zu lenken.

Die neue WHO-Richtlinie umfasst über 40 Empfehlungen und richtet sich an eine breite Palette von Interessengruppen, einschließlich Regierungen, Technologieunternehmen und Gesundheitsdienstleistern. Das Hauptziel ist es, sicherzustellen, dass LMMs, die vielfältige Datentypen wie Text, Bilder und Videos verarbeiten können, verantwortungsvoll im Gesundheitswesen eingesetzt werden, um die öffentliche Gesundheit zu fördern und zu schützen.

Dr. Jeremy Farrar, Chef-Wissenschaftler der WHO, betonte das transformative Potenzial generativer KI-Technologien im Gesundheitswesen. Er hob jedoch auch die kritische Notwendigkeit transparenter Informationen und Richtlinien hervor, um die damit verbundenen Risiken effektiv zu managen.

LMMs sind insbesondere für ihre Fähigkeit bekannt, menschliche Kommunikation nachzuahmen und Aufgaben über ihre explizite Programmierung hinaus auszuführen. Die WHO hat fünf Schlüsselanwendungen dieser Modelle im Gesundheitswesen identifiziert: Diagnose und klinische Versorgung, von Patienten geleitete Symptom- und Behandlungsuntersuchungen, administrative Aufgaben in elektronischen Patientenakten, medizinische und pflegerische Ausbildung durch simulierte Patientenbegegnungen sowie wissenschaftliche Forschung und Arzneimittelentwicklung.

Die WHO-Richtlinien unterstreichen die Risiken, die mit LMMs verbunden sind, wie die Erzeugung falscher, ungenauer oder voreingenommener Informationen. Diese Fehlinformationen können zu schädlichen Gesundheitsentscheidungen führen. Die Qualität und Voreingenommenheit der Trainingsdaten, die Faktoren wie Rasse, Ethnizität und Geschlechtsidentität widerspiegeln, sind entscheidende Bedenken, die die Integrität der LMM-Ergebnisse beeinflussen könnten.

Darüber hinaus erkennen die Richtlinien umfassendere Herausforderungen für Gesundheitssysteme an, die durch LMMs entstehen. Dazu gehören die Zugänglichkeit und Bezahlbarkeit fortschrittlicher LMMs, das Potenzial für einen ‚Automatisierungsbias‘ bei Gesundheitsfachkräften und Patienten sowie Cybersicherheitsrisiken, die Patienteninformationen und die Vertrauenswürdigkeit von KI-Algorithmen im Gesundheitswesen gefährden könnten.

Die WHO betont die Bedeutung der Einbeziehung von Stakeholdern bei der Entwicklung und Implementierung von LMMs. Eine aktive Teilnahme von Regierungen, Technologieunternehmen, Gesundheitsdienstleistern, Patienten und der Zivilgesellschaft ist für den verantwortungsvollen Einsatz von KI unerlässlich.

Regierungen tragen die Hauptverantwortung für die Festlegung von Standards für die Entwicklung, Implementierung und Integration von LMMs in Gesundheits- und medizinische Praktiken. Die Richtlinien fordern Regierungen auf, in Infrastruktur wie Rechenleistung und öffentliche Datensätze zu investieren oder diese bereitzustellen, sofern sie sich an ethische Grundsätze halten. Darüber hinaus ist die Schaffung von Gesetzen, Richtlinien und Vorschriften entscheidend, um sicherzustellen, dass LMMs im Gesundheitswesen ethischen Verpflichtungen und Menschenrechtsstandards entsprechen.

Die Richtlinien empfehlen, dass Regierungen Regulierungsbehörden beauftragen, LMMs für den Einsatz im Gesundheitswesen zu bewerten und zu genehmigen. Verpflichtende Nachkontrollen und Wirkungsbeurteilungen durch unabhängige Parteien werden ebenfalls für groß angelegte LMM-Implementierungen empfohlen. Diese Bewertungen sollten sich auf Datenschutz und Menschenrechte konzentrieren, wobei die Ergebnisse nach Benutzermerkmalen wie Alter, Rasse oder Behinderung aufgeschlüsselt werden.

Entwickler von LMMs sind dafür verantwortlich, die Beteiligung von Stakeholdern von den frühen Stadien der KI-Entwicklung an zu gewährleisten. Der Gestaltungsprozess sollte transparent, inklusiv und strukturiert sein, um Stakeholdern zu ermöglichen, ethische Fragen zu stellen und Beiträge zu leisten.

LMMs sollten so konzipiert sein, dass sie klar definierte Aufgaben mit der erforderlichen Genauigkeit und Zuverlässigkeit ausführen können, um Gesundheitssysteme zu verbessern und Patienten zu nutzen. Entwickler müssen auch potenzielle sekundäre Auswirkungen ihrer KI-Anwendungen antizipieren und verstehen.

Die Richtlinien der WHO stellen einen bedeutenden Schritt dar, um sicherzustellen, dass die Integration von KI im Gesundheitswesen von ethischen Prinzipien geleitet wird. Indem sie Risiken ansprechen und Standards für die Einbeziehung von Stakeholdern und Regierungsverantwortung setzen, zielt die WHO darauf ab, die Vorteile der KI im Gesundheitswesen zu nutzen und gleichzeitig ihre potenziellen Schäden zu mildern.

Hinweis: Teile dieses Textes könnten mithilfe einer Künstlichen Intelligenz generiert worden sein.