Neue Plattform zur Verbesserung von KI-Modellen

SAN FRANCISCO / MÜNCHEN (IT BOLTWISE) – Die kontinuierliche Verbesserung von KI-Modellen ist entscheidend, um deren Leistungsfähigkeit und Anwendungsbreite zu maximieren. Ein neues Tool von Scale AI verspricht, genau diese Optimierung zu unterstützen.

Die Entwicklung von Künstlicher Intelligenz (KI) schreitet mit beeindruckender Geschwindigkeit voran, doch die Perfektionierung dieser Technologien bleibt eine Herausforderung. Scale AI, ein Unternehmen, das sich auf die Unterstützung von KI-Entwicklungen spezialisiert hat, hat ein neues Werkzeug entwickelt, das die Schwächen von KI-Modellen aufdeckt und gezielt Verbesserungsmöglichkeiten aufzeigt.

Dieses Tool, bekannt als Scale Evaluation, nutzt fortschrittliche Algorithmen, um Modelle über tausende von Benchmarks und Aufgaben hinweg zu testen. Dabei werden Schwachstellen identifiziert und zusätzliche Trainingsdaten vorgeschlagen, die zur Verbesserung der Modelle beitragen können. Scale AI hat sich einen Namen gemacht, indem es menschliche Arbeitskraft für das Training und Testen von KI-Modellen bereitstellt, und erweitert nun seine Kapazitäten durch Automatisierung.

Daniel Berrios, Leiter des Produkts Scale Evaluation, betont, dass viele KI-Unternehmen bereits von diesem Tool Gebrauch machen, um die Denkfähigkeiten ihrer Modelle zu verbessern. Besonders die Fähigkeit eines Modells, Probleme in ihre Bestandteile zu zerlegen und effektiv zu lösen, steht im Fokus. Diese Fähigkeit hängt stark von der Nachschulung durch Benutzer ab, die beurteilen, ob ein Modell ein Problem korrekt gelöst hat.

Ein bemerkenswertes Beispiel für die Effektivität von Scale Evaluation ist die Entdeckung, dass die Denkfähigkeiten eines Modells bei nicht-englischen Eingaben nachlassen. Während die allgemeinen Denkfähigkeiten des Modells auf englische Eingaben gut reagierten, zeigte sich eine deutliche Verschlechterung bei anderen Sprachen. Diese Erkenntnis ermöglichte es dem Unternehmen, gezielt zusätzliche Trainingsdaten zu sammeln, um dieses Problem zu beheben.

Jonathan Frankle, Chef-Wissenschaftler bei Databricks, einem Unternehmen, das große KI-Modelle entwickelt, sieht in der Möglichkeit, ein Modell gegen ein anderes zu testen, einen großen Nutzen. Er betont, dass jede Verbesserung in der Bewertung von Modellen dazu beiträgt, bessere KI zu entwickeln.

In den letzten Monaten hat Scale AI zur Entwicklung neuer Benchmarks beigetragen, die darauf abzielen, KI-Modelle intelligenter zu machen und ihr Verhalten genauer zu prüfen. Dazu gehören EnigmaEval, MultiChallenge, MASK und Humanity’s Last Exam. Die Messung von Verbesserungen in KI-Modellen wird jedoch zunehmend schwieriger, da diese immer besser darin werden, bestehende Tests zu bestehen.

Das neue Tool von Scale AI bietet ein umfassenderes Bild, indem es viele verschiedene Benchmarks kombiniert und maßgeschneiderte Tests der Fähigkeiten eines Modells ermöglicht, wie etwa das Testen seiner Denkfähigkeiten in verschiedenen Sprachen. Diese umfassende Herangehensweise könnte auch dazu beitragen, die Standardisierung von Tests für das Fehlverhalten von KI-Modellen voranzutreiben.

Im Februar kündigte das US National Institute of Standards and Technologies an, dass Scale AI bei der Entwicklung von Methoden zur Prüfung von Modellen helfen wird, um deren Sicherheit und Vertrauenswürdigkeit zu gewährleisten. Dies unterstreicht die Bedeutung der Arbeit von Scale AI im Bereich der KI-Entwicklung und -Bewertung.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!