Apple zieht Kritik für fehlerhafte KI-Funktion auf sich

LONDON / MÜNCHEN (IT BOLTWISE) – Apple steht unter Druck, seine umstrittene KI-Funktion zurückzuziehen, die auf den neuesten iPhones fehlerhafte Nachrichtenmeldungen generiert hat.

Apple sieht sich mit wachsender Kritik konfrontiert, nachdem seine neueste KI-Funktion auf den iPhones falsche Nachrichtenmeldungen generiert hat. Diese Funktion, die eigentlich dazu gedacht ist, aktuelle Nachrichten zusammenzufassen, hat in einigen Fällen völlig falsche Behauptungen aufgestellt. Die BBC hatte bereits im Dezember Apple auf die fehlerhafte Darstellung ihrer Berichterstattung hingewiesen, doch erst kürzlich reagierte der Technologieriese mit der Ankündigung, die KI-generierten Zusammenfassungen klarer zu kennzeichnen.

Alan Rusbridger, ehemaliger Chefredakteur des Guardian, forderte Apple auf, das Produkt zurückzuziehen, da es seiner Meinung nach „offensichtlich nicht bereit“ sei. Er betonte, dass die Technologie „außer Kontrolle“ sei und ein erhebliches Risiko für Fehlinformationen darstelle. Angesichts des ohnehin schon geringen Vertrauens in Nachrichten sei es unverantwortlich, dass große amerikanische Konzerne diese als Testprodukte nutzen, sagte er im BBC-Radio.

Die BBC beschwerte sich letzten Monat, nachdem eine KI-generierte Zusammenfassung ihrer Schlagzeile fälschlicherweise behauptete, Luigi Mangione, der des Mordes an UnitedHealthcare-CEO Brian Thompson beschuldigt wird, habe sich selbst erschossen. Weitere Fehler traten auf, als die KI behauptete, Luke Littler habe die PDC World Darts Championship gewonnen, bevor das Turnier überhaupt begonnen hatte, und dass der spanische Tennisstar Rafael Nadal sich als homosexuell geoutet habe.

Dies ist das erste Mal, dass Apple offiziell auf die von der BBC geäußerten Bedenken hinsichtlich der Fehler reagiert hat, die den Anschein erwecken, als kämen sie aus der App der Organisation. Die BBC erklärte, dass diese KI-Zusammenfassungen von Apple in einigen Fällen die ursprünglichen Inhalte der BBC nicht nur nicht widerspiegeln, sondern sogar völlig widersprechen. Es sei entscheidend, dass Apple diese Probleme dringend angeht, da die Genauigkeit ihrer Nachrichten für das Vertrauen unerlässlich sei.

Auch andere Nachrichtenorganisationen sind betroffen. Ein Journalist von ProPublica wies im November auf fehlerhafte Apple-KI-Zusammenfassungen von Benachrichtigungen der New York Times hin, die suggerierten, dass Israels Premierminister Benjamin Netanyahu verhaftet worden sei. Ein weiterer fehlerhafter Bericht der New York Times scheint am 6. Januar veröffentlicht worden zu sein, der sich auf den vierten Jahrestag der Kapitol-Unruhen bezog.

Reporter ohne Grenzen, eine Organisation, die die Rechte und Interessen von Journalisten vertritt, forderte Apple im Dezember auf, die Funktion zu deaktivieren. Sie erklärte, dass die Zuschreibung einer falschen Schlagzeile über Herrn Mangione an die BBC zeige, dass generative KI-Dienste noch zu unausgereift seien, um zuverlässige Informationen für die Öffentlichkeit zu liefern.

Apple kündigte an, dass ein Update „in den kommenden Wochen“ erscheinen werde. Das Unternehmen erklärte, dass seine Benachrichtigungszusammenfassungen, die Vorschauen mehrerer kürzlicher App-Benachrichtigungen zu einer einzigen Warnung auf den Sperrbildschirmen der Nutzer zusammenfassen und umschreiben, es den Nutzern ermöglichen sollen, „wichtige Details zu überfliegen“. Apple betonte, dass die KI-Funktionen sich noch in der Beta-Phase befinden und kontinuierlich mit Hilfe von Nutzerfeedback verbessert werden.

Die Funktion wurde im Dezember in Großbritannien eingeführt und ist nur auf den iPhone 16-Modellen, iPhone 15 Pro und Pro Max-Geräten mit iOS 18.1 und höher sowie auf einigen iPads und Macs verfügbar. Apple ist nicht das einzige Unternehmen, das generative KI-Tools eingeführt hat, die Texte, Bilder und mehr auf Anfrage der Nutzer erstellen können – jedoch mit unterschiedlichen Ergebnissen.