Credo AI verknüpft KI-Projekte mit zentralem Governance-System

MÜNCHEN (IT BOLTWISE) – Credo AI führt das Integrations Hub ein, eine Plattform, die Unternehmen bei der Automatisierung der KI-Governance unterstützt, indem sie mit Tools wie Amazon Sagemaker und Microsoft Dynamics 365 verknüpft wird.

Credo AI, ein Unternehmen im Bereich KI-Governance, hat eine neue Plattform vorgestellt, die sich mit Drittanbieter-Tools im Bereich AI Ops und Unternehmenssoftware integrieren lässt, um die Sichtbarkeit und Umsetzung verantwortungsbewusster KI-Politiken zu verbessern.

Das neue Integrations Hub von Credo AI, das nun allgemein verfügbar ist, ermöglicht es Unternehmenskunden, Plattformen wie Amazon Sagemaker, MLFlow und Microsoft Dynamics 365 mit einer zentralen Governance-Plattform zu verbinden. Ebenso können Plattformen, auf denen KI-Anwendungen betrieben werden, wie Asana, ServiceNow oder Jira, in das Hub integriert werden.

Ziel ist es, Unternehmen, die an KI-Anwendungen arbeiten, die Möglichkeit zu geben, sich mit einer zentralen Governance-Plattform wie der von Credo AI zu verbinden. Anstatt Dokumentationen hochzuladen, die Sicherheits- und Schutzstandards nachweisen, sammelt das Integrations Hub Metadaten aus den Anwendungen, die diese Metriken enthalten.

Credo AI erklärte, dass das Integrations Hub direkt mit bestehenden Modell-Speichern verbunden wird, die dann automatisch zur Überprüfung auf die Governance-Plattform hochgeladen werden. Auch Datensätze werden für Governance-Zwecke eingebracht.

Navrina Singh, Gründerin und CEO von Credo AI, sagte, dass das Integrations Hub entwickelt wurde, um die KI-Governance, ob durch Einhaltung von Datentransparenzvorschriften oder internen Richtlinien zur KI-Nutzung, bereits zu Beginn des Entwicklungsprozesses zu integrieren.

„Alle Unternehmen, mit denen wir arbeiten, hauptsächlich Global 2000, übernehmen KI in rasantem Tempo und bringen neue Arten von KI-Tools ein“, sagte Singh. „Unser Ziel war es, ihnen zu ermöglichen, den maximalen Wert aus ihren KI-Investitionen zu schöpfen und Governance einfach zu gestalten, damit sie nicht länger Ausreden machen, dass es zu schwierig sei.“

Das Integrations Hub von Credo AI wird vorkonfigurierte Verbindungen mit Jira, ServiceNow, Amazon SageMaker und Bedrock, Salesforce, MLFlow, Asana, Databricks, Microsoft Dynamics 365 und Azure Machine Learning, Weights & Biases, Hugging Face und Collibra beinhalten. Weitere Integrationen können gegen eine zusätzliche Gebühr individuell angepasst werden.

Governance von Anfang an

Umfragen zeigen, dass verantwortungsbewusste KI und KI-Governance, die normalerweise überprüft, ob Anwendungen den Vorschriften, ethischen Überlegungen und Datenschutzprüfungen entsprechen, für viele Unternehmen von zentraler Bedeutung geworden sind. Allerdings weisen diese Umfragen auch darauf hin, dass nur wenige Unternehmen diese Risiken tatsächlich bewerten.

Da Unternehmen sich zunehmend der Verantwortung um generative KI stellen müssen, bieten Unternehmen wie Credo AI Wege, um Risiken und Compliance-Probleme einfacher zu identifizieren.

IBM bietet mit Watsonx eine Produktreihe, die es Nutzern ermöglicht, Modelle auf Genauigkeit, Verzerrungen und Compliance zu überprüfen. Collibra hat ebenfalls eine Suite von KI-Tools für Governance veröffentlicht, die Workflows zur Dokumentation und Überwachung von KI-Programmen erstellt.

Credo AI überprüft Anwendungen auf potenzielle Risiken wie Genauigkeit, sieht sich jedoch primär als Plattform, die es Unternehmen ermöglicht, bestehende und zukünftige gesetzliche Anforderungen für automatisierte Plattformen zu erfüllen.

Es gibt noch wenige Vorschriften speziell für generative KI, doch Richtlinien für Datenschutz und Datenaufbewahrung bestehen bereits, die Unternehmen durch maschinelles Lernen oder Datenvorschriften ohnehin einhalten mussten.

Singh betonte, dass es in manchen Regionen Vorschriften gibt, die von Unternehmen Berichte zur KI-Governance verlangen. Sie nannte das New York City Gesetz 144 als Beispiel, das automatisierte Tools für Personalentscheidungen verbietet.

„Es gibt technische Nachweise, wie das demografische Paritätsverhältnis, die gesammelt werden müssen. Credo AI integriert das Gesetz aus New York City in sein System und überprüft das KI-Ops-System anhand der verbundenen HR-Systeme und Richtlinien, um die gesetzlichen Anforderungen zu erfüllen“, erklärte Singh.