Zukunft der KI-Steuerung: Casper und IBM setzen auf Blockchain

MÜNCHEN (IT BOLTWISE) – Casper Labs, ein Anbieter von Unternehmensblockchain, hat eine Zusammenarbeit mit IBM Consulting angekündigt, um eine Lösung zu entwickeln, die Blockchain-Technologie nutzt, um die Überwachungsmöglichkeiten für Organisationen zu verbessern, die generative KI-Systeme einsetzen.

Die Lösung soll Unternehmen dabei helfen, Trainingsdaten und Modelle besser zu steuern, sowohl innerhalb von Teams als auch mit externen Partnern, da die Verbreitung von KI zunimmt.

“Da verschiedene Gruppen Datensätze erweitern oder Algorithmen modifizieren, entwickeln sich die Modellausgaben in einer Weise, die aktuelle Systeme schwer nachvollziehen können”, erklärte Mrinal Manohar, CEO von Casper Labs. “Mit der Hilfe von IBM sind wir darauf ausgerichtet, einen besseren Weg zu liefern, nicht nur zu verstehen, warum KI-Systeme sich so verhalten, wie sie es tun, sondern auch einen klareren Weg, um Verhalten zu korrigieren, falls Probleme auftreten.”

Durch die Integration der Casper Blockchain mit IBMs KI-Governance-Plattform watson.x zielt die Lösung darauf ab, granulare Eingabe- und Ausgabedaten für das Training generativer KI zu protokollieren. Anschließend werden diese Daten in Dashboards und Berichte synthetisiert, die organisationsübergreifende Einblicke in Modellherkunft, Leistung, Compliance und mehr bieten.

Der systemeigene Zugriffsschutz soll dazu beitragen, proprietäre Daten zu schützen, während gleichzeitig eine kollektive Überwachung vernetzter Modelle ermöglicht wird. Und seine Versionskontrolle könnte Teams ermöglichen, KI-Systeme bei Bedarf effizient auf frühere Zustände zurückzusetzen.

Die Lösung steht im Einklang mit dem wachsenden Druck auf Unternehmen, Risiken generativer KI zu kontrollieren, insbesondere angesichts hochkarätiger Kontroversen um voreingenommene Outputs. Geplant ist, eine Suite von Tools anzubieten, um die KI-Governance zu verbessern:

Compliance-Dashboard: Eine zentrale Plattform zur Überwachung von KI-Systemen in Organisationen, die mit ethischen Richtlinien übereinstimmt.
Qualitätskontroll-Toolkit: Werkzeuge zur Überwachung der Leistung von KI-Systemen und zur Verbesserung der Transparenz bei KI-Outputs.
Versionskontrolle: Erleichtert Rollbacks, um Leistungsprobleme oder Voreingenommenheiten in KI-Systemen anzugehen.
Audit- und Berichtssystem: Ein umfassendes System für die Auditierung von KI-Prozessen und detaillierte Berichterstattung auf Basis der Metadaten aus dem Ledger von Casper Labs.
Die Betaversion wird für das erste Quartal 2024 erwartet, mit einer breiteren Einführung, die anschließend über IBM Cloud Marketplace und andere Kanäle geplant ist.

Shyam Nagarajan von IBM Consulting hebt die Notwendigkeit solcher Lösungen hervor und betont die Bedeutung von Vertrauen, Erklärbarkeit und Risikominderung beim Einsatz von KI in großem Maßstab. Diese Zusammenarbeit zielt darauf ab, Unternehmen in verschiedenen Sektoren, einschließlich Finanzen, Gesundheitswesen und Einzelhandel, mit den Werkzeugen auszustatten, um KI verantwortungsvoll und effektiv einzusetzen.

Hinweis: Teile dieses Textes könnten mithilfe Künstlicher Intelligenz generiert worden sein.