Neue ETSI-Spezifikation stärkt die Sicherheit von KI-Systemen weltweit

MÜNCHEN (IT BOLTWISE) – In einer Zeit, in der Cyberbedrohungen sowohl in ihrer Anzahl als auch in ihrer Raffinesse zunehmen, hat die Europäische Telekommunikationsnormungsinstitut (ETSI) eine neue Spezifikation veröffentlicht, die darauf abzielt, die Sicherheit von KI-Systemen zu stärken.

Die neue ETSI TS 104 223 Spezifikation bietet umfassende und umsetzbare Leitlinien zur Cybersicherheit, die darauf abzielen, Endnutzer zu schützen. Mit einem ganzheitlichen Lebenszyklusansatz beschreibt das Rahmenwerk 13 Kernprinzipien, die sich in 72 detaillierte, nachverfolgbare Prinzipien über fünf Schlüsselphasen des KI-Lebenszyklus erstrecken. Diese sind darauf ausgelegt, die allgemeine Sicherheit von KI-Systemen zu verbessern. Die Spezifikation legt transparente, hochrangige Prinzipien und Bestimmungen zur Sicherung von KI fest. Sie bietet den Akteuren in der KI-Lieferkette – von Entwicklern und Anbietern bis hin zu Integratoren und Betreibern – eine robuste Reihe von grundlegenden Sicherheitsanforderungen, die helfen, KI-Systeme vor sich entwickelnden Cyberbedrohungen zu schützen. KI stellt im Vergleich zu herkömmlicher Software einzigartige Herausforderungen dar, einschließlich Risiken wie Datenvergiftung, Modellverschleierung, indirekte Prompt-Injektion und Schwachstellen im Zusammenhang mit komplexem Datenmanagement. Unter Berücksichtigung dieser Unterschiede bietet ETSI TS 104 223 gezielte Leitlinien, die etablierte Praktiken in der Cybersicherheit und KI mit neuen Ansätzen integrieren. Die Spezifikation wurde vom ETSI Technical Committee (TC) für die Sicherung Künstlicher Intelligenz (SAI) entwickelt, das Vertreter internationaler Organisationen, Regierungsstellen und Cybersicherheitsexperten umfasst. Diese interdisziplinäre Zusammenarbeit stellt sicher, dass die Anforderungen sowohl global relevant als auch praktisch umsetzbar sind. Zusätzlich zum Hauptspezifikationsdokument wird ETSI auch einen praktischen Implementierungsleitfaden für kleine und mittlere Unternehmen (KMU) und andere Interessengruppen veröffentlichen. Dieser Leitfaden wird Fallstudien aus verschiedenen Bereitstellungsumgebungen enthalten, um Organisationen bei der effektiven Anwendung der Sicherheitsanforderungen zu unterstützen. „In einer Ära, in der Cyberbedrohungen sowohl in ihrer Anzahl als auch in ihrer Raffinesse zunehmen und Organisationen aller Art negativ beeinflussen, ist es entscheidend, dass das Design, die Entwicklung, der Einsatz und die Wartung von KI-Modellen vor böswilligen und unerwünschten Eingriffen geschützt werden“, sagte Scott Cadzow, Vorsitzender des ETSI Technical Committee für die Sicherung Künstlicher Intelligenz. „Sicherheit muss eine Kernanforderung sein, nicht nur in der Entwicklungsphase, sondern während des gesamten Lebenszyklus des Systems. Diese neue Spezifikation wird genau das erreichen – nicht nur in Europa, sondern weltweit. Diese Veröffentlichung ist ein globaler Meilenstein bei der Festlegung eines klaren Standards für die Sicherung von KI und setzt TC SAI auf den Weg, Vertrauen in die Sicherheit von KI für alle seine Interessengruppen zu schaffen.“

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!