Vatikan und KI: Der Top-Ethikexperte des Papstes, der Vereinten Nationen und des Silicon Valley

MÜNCHEN (IT BOLTWISE) – Die Verbindung von mittelalterlicher Ordensgemeinschaft und modernster Technologie mag wie ein Widerspruch klingen, doch der bedeutendste KI-Experte des Vatikans entstammt genau diesem Umfeld.

Ein Franziskanermönch als Spitzenberater in Sachen Künstlicher Intelligenz (KI) – was zunächst wie ein Oxymoron klingen mag, ist im Vatikan Realität. Bruder Paolo Benanti, Mitglied des mittelalterlichen Franziskanerordens, widmet sich einer der drängendsten Fragen unserer Zeit: der Regulierung der KI, damit sie das Leben der Menschen bereichert und nicht ausnutzt.

Benanti, der ein Ingenieurstudium absolviert hat, promoviert in Moraltheologie ist und sich leidenschaftlich für die „Ethik der Technologie“ einsetzt, ist mit seinen 50 Jahren im Vatikan der führende Ansprechpartner in Sachen KI. Er hat das Ohr von Papst Franziskus sowie führender Ingenieure und Führungskräfte im Silicon Valley.

Im Zuge seiner Mission, die er mit Papst Franziskus teilt, setzt sich Benanti für einen internationalen Vertrag zur ethischen Nutzung von KI-Technologie ein. Dies betonte der Papst auch in seiner Friedensbotschaft für das Jahr 2024. Benanti stellt dabei die Frage: „Was ist der Unterschied zwischen einem Menschen, der existiert, und einer Maschine, die funktioniert?“ Eine Frage, die in Zeiten, in denen Maschinen zunehmend menschenähnliche Züge annehmen, immer dringlicher wird.

Als Berater für Künstliche Intelligenz ist Benanti Mitglied des Beratungsgremiums der Vereinten Nationen für KI sowie Leiter einer italienischen Regierungskommission, die Empfehlungen zur Bewahrung des Journalismus vor Fake News und anderen Desinformationen erarbeitet. Zudem ist er Berater der Päpstlichen Akademie für das Leben im Vatikan.

In einem Interview mit der Associated Press an der Päpstlichen Universität Gregoriana, wo er Kurse wie Moraltheologie und Bioethik lehrt, erläutert Benanti, wie er dem Heiligen Vater hilft, die technischen Begriffe besser zu verstehen.

Sein Wissen war besonders gefragt beim Treffen des Papstes mit Brad Smith, dem Präsidenten von Microsoft, im Jahr 2023 im Vatikan. Dort diskutierten sie, wie KI der Menschheit helfen oder schaden könnte. Auch in früheren Gesprächen mit dem Vatikan ging es um KI „im Dienste des Gemeinwohls“.

Unter Papst Franziskus, der sich besonders für die Randgruppen der Gesellschaft einsetzt, ist die Sorge groß, dass KI-Technologie die Menschenrechte einschränken könnte, beispielsweise bei der Beurteilung von Hypothekenanträgen, Asylanträgen oder der Einschätzung der Rückfallwahrscheinlichkeit von Straftätern. Benanti betont: „Es ist klar, dass wir, wenn wir Daten wählen, die nicht ausreichend inklusiv sind, Entscheidungen treffen werden, die ebenso wenig inklusiv sind.“

Microsoft hatte sich vor einigen Jahren erstmals an Benanti gewandt, um seine Gedanken zur Technologie zu erfahren. Im Jahr 2023 führte Smith sogar einen Podcast mit Benanti in Rom, in dem er den Mönch als jemanden beschrieb, der „eine der faszinierendsten Kombinationen der Welt“ in Bezug auf seine Erfahrungen in Ingenieurwesen, Ethik und Technologie in die KI-Debatte einbringt.

Benanti, der kurz vor dem Abschluss seines Ingenieurstudiums an der Universität Sapienza in Rom stand, als er entschied, das Studium – und auch seine Freundin – zu verlassen, um sich in seinen 20ern den Franziskanern anzuschließen, beschreibt KI als „ein wirklich mächtiges Werkzeug“, um beispielsweise die Kosten für Medikamente zu senken und Ärzten zu ermöglichen, mehr Menschen zu helfen. Er betont jedoch auch die ethischen Implikationen einer Technologie, die die gleichen Fähigkeiten wie ein Mensch – oder vielleicht sogar mehr – haben könnte.

Es geht dabei nicht nur um die Nutzung von KI, sondern um deren Regulierung. „Hier kommt die Ethik ins Spiel – das richtige Maß der Nutzung im sozialen Kontext zu finden“, so Benanti. Er weist darauf hin, dass viele der Daten, die KI-Systeme speisen, von Niedriglohnarbeitern stammen, viele davon in Entwicklungsländern mit einer Geschichte des Kolonialismus und ausgenutzter Arbeitskräfte.

„Ich möchte nicht, dass diese Ära als die Zeit in Erinnerung bleibt, in der wir kognitive Ressourcen aus dem globalen Süden abgeschöpft haben“, sagt er. Betrachtet man „die besten Werkzeuge, die wir im Westen in Bezug auf KI entwickeln“, so sieht man, dass diese „mit unterbezahlten Arbeitern aus englischsprachigen ehemaligen Kolonien trainiert werden“.

Die Frage, wie KI zu regieren ist, beschäftigt Länder auf der ganzen Welt. Die Europäische Union wurde Ende letzten Jahres zum Vorreiter, als Verhandlungen zu einer rechtlichen Aufsicht über KI-Technologie führten.

In Italien wird Premierministerin Giorgia Meloni, die befürchtet, dass KI zu Arbeitsplatzverlusten führen könnte, die Technologie in den Mittelpunkt des diesjährigen G7-Gipfels rücken, der von Italien ausgerichtet wird. Im Rahmen dieser Bemühungen traf Meloni am Donnerstag in Rom mit dem Microsoft-Gründer Bill Gates zusammen, ein Treffen, an dem auch Benanti teilnahm.

Benanti betonte gegenüber der AP, dass die Regulierung von Künstlicher Intelligenz nicht deren Entwicklung einschränken sollte. „Es bedeutet, sie mit diesem fragilen System, das Demokratie ist und heute als das beste System erscheint, kompatibel zu halten“, so Benanti.

Hinweis: Teile dieses Textes könnten mithilfe einer Künstlichen Intelligenz generiert worden sein.