Sicherheitsbedenken verzögern Einführung von smarterem Siri

CUPERTINO / MÜNCHEN (IT BOLTWISE) – Die Einführung eines intelligenteren Siri könnte sich aufgrund erheblicher Sicherheitsbedenken weiter verzögern. Ursprünglich für iOS 18.4 geplant, könnten die neuen Funktionen nun erst mit iOS 19 erscheinen.

Die Verzögerung bei der Einführung eines intelligenteren Siri könnte länger dauern als erwartet. Ursprünglich sollten die neuen Funktionen in iOS 18.4 erscheinen, doch nun gibt es Hinweise darauf, dass sie erst mit iOS 19 verfügbar sein werden. Apple hat keine klare Erklärung geliefert, aber es gibt mehrere Theorien, warum sich die Einführung verzögert. Ein Entwickler und Datenanalyst hat nun vorgeschlagen, dass Sicherheitsbedenken eine wesentliche Rolle spielen könnten. Apple hatte auf der WWDC im Juni des letzten Jahres eine deutlich verbesserte Siri versprochen. Obwohl einige Apple-Intelligence-Funktionen bereits eingeführt wurden und Siri nun besser auf verbale Stolperer und komplexe Befehle reagieren kann, fehlen noch die drei wesentlichen Verbesserungen: Kontextbewusstsein, die Fähigkeit, den Bildschirm zu erkennen und darauf zu reagieren, sowie In-App-Aktionen. Diese Funktionen sollten ursprünglich in iOS 18.4 enthalten sein, während eine konversationsfähigere Siri erst im nächsten Jahr erwartet wurde. Apple hat jedoch mitgeteilt, dass es Probleme mit diesem Zeitplan gibt. Bloomberg berichtete, dass Apple Schwierigkeiten hat, diese Funktionen für den Start vorzubereiten, da es derzeit zu viele Fehler gibt. Innerhalb von Apple haben viele Mitarbeiter, die die neue Siri testen, festgestellt, dass diese Funktionen noch nicht konsistent funktionieren. Ein weiteres Problem könnte darin liegen, dass Apple derzeit zwei völlig separate Versionen von Siri hat, wobei eine auf der anderen aufbaut. Die ursprüngliche Version bearbeitet weiterhin Aufgaben, die Siri schon immer ausführen konnte, während die zweite Schicht komplexere Befehle abfängt. Apple hat Berichten zufolge Schwierigkeiten, alles in eine einzige Version von Siri zu integrieren. Entwickler Simon Willison, der das Open-Source-Datenanalysetool Datasette entwickelt hat, vermutet, dass Apple auch Schwierigkeiten hat, eine intelligentere Siri sicher zu halten. Insbesondere könnte sie anfällig für sogenannte Prompt-Injection-Angriffe sein. Diese Angriffe sind ein bekanntes Problem bei allen generativen KI-Systemen. Im Wesentlichen versucht ein Angreifer, die eingebauten Sicherheitsmaßnahmen in einem großen Sprachmodell zu umgehen, indem er es dazu bringt, die Sicherheitsvorkehrungen durch neue Anweisungen zu ersetzen. Willison sagt, dass dies ein potenziell massives Risiko für eine neue Siri darstellt. Diese neuen Apple-Intelligence-Funktionen beinhalten, dass Siri auf Anfragen reagiert, um Informationen in Anwendungen abzurufen und dann im Namen des Benutzers Aktionen durchzuführen. Dies ist die denkbar schlechteste Kombination für Prompt-Injection-Angriffe! Jedes Mal, wenn ein auf einem LLM basierendes System Zugang zu privaten Daten, Werkzeugen, die es aufrufen kann, und potenziell bösartigen Anweisungen (wie E-Mails und Textnachrichten von unbekannten Absendern) hat, besteht ein erhebliches Risiko, dass ein Angreifer diese Werkzeuge untergräbt und sie dazu verwendet, die Daten eines Benutzers zu beschädigen oder zu exfiltrieren. Apple-Kommentator John Gruber hält diese Theorie für glaubwürdig und sagt, dass es bisher niemandem gelungen ist, Prompt-Injection-Angriffe zu stoppen. Eine pessimistische Sichtweise auf dieses personalisierte Siri-Problem ist, dass Apple es sich nicht leisten kann, hier Fehler zu machen, aber die Anfälligkeit von LLMs für Prompt-Injection-Angriffe könnte bedeuten, dass es unmöglich ist, dies jemals richtig zu machen. Und wenn es möglich ist, wird es bahnbrechende Errungenschaften erfordern. Es reicht nicht aus, dass Apple ‘aufholt’. Sie müssen ein schwieriges Problem lösen, das bisher weder von OpenAI, Google noch einem anderen führenden KI-Labor gelöst wurde, um das zu liefern, was sie bereits versprochen haben. Er fragt sich, wie Apple es sich erlauben konnte, Funktionen zu versprechen und sogar zu bewerben, die sich als zu gefährlich erweisen könnten, um jemals eingeführt zu werden.

Zu den Top-Stories!

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.915 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen