Databricks verbessert KI-Modelle mit innovativer Methode

SAN FRANCISCO / MÜNCHEN (IT BOLTWISE) – Databricks hat eine neue Methode entwickelt, die es ermöglicht, die Leistung von KI-Modellen zu steigern, ohne auf saubere, gelabelte Daten angewiesen zu sein. Diese Entwicklung könnte Unternehmen helfen, ihre KI-Modelle effizienter zu gestalten und neue Anwendungsfälle zu erschließen.

Databricks, ein Unternehmen, das sich auf die Entwicklung maßgeschneiderter KI-Modelle für große Unternehmen spezialisiert hat, hat eine innovative Methode entwickelt, um die Leistung von KI-Modellen zu verbessern. Diese Methode erfordert keine sauberen, gelabelten Daten, was einen bedeutenden Fortschritt in der KI-Entwicklung darstellt. Jonathan Frankle, der leitende KI-Wissenschaftler bei Databricks, hat das vergangene Jahr damit verbracht, mit Kunden über die Herausforderungen zu sprechen, die sie bei der zuverlässigen Implementierung von KI erleben. Ein zentrales Problem ist die Qualität der Daten, die oft nicht den Anforderungen entsprechen.

Die Methode von Databricks kombiniert Reinforcement Learning mit synthetischen Trainingsdaten, um die Fähigkeiten von KI-Modellen zu verbessern. Diese Technik bietet einen Einblick in die aktuellen Tricks, die Ingenieure nutzen, um fortschrittliche KI-Modelle zu optimieren, insbesondere wenn qualitativ hochwertige Daten schwer zu beschaffen sind. Die neuesten Modelle von OpenAI, Google und DeepSeek setzen ebenfalls stark auf Reinforcement Learning und synthetische Daten. NVIDIA plant die Übernahme von Gretel, einem Unternehmen, das sich auf synthetische Daten spezialisiert hat, was die Bedeutung dieser Technologie unterstreicht.

Die Methode von Databricks nutzt das Prinzip des ‘Best-of-N’, bei dem ein Modell durch wiederholte Versuche eine hohe Punktzahl bei einer bestimmten Aufgabe erreichen kann. Databricks hat ein Modell trainiert, das vorhersagen kann, welches Ergebnis menschliche Tester bevorzugen würden. Dieses Belohnungsmodell, bekannt als Databricks Reward Model (DBRM), kann dann verwendet werden, um die Leistung anderer Modelle zu verbessern, ohne dass weitere gelabelte Daten erforderlich sind.

Das DBRM wird verwendet, um die besten Ergebnisse eines Modells auszuwählen, wodurch synthetische Trainingsdaten für die weitere Feinabstimmung des Modells erstellt werden. Diese Methode, die als Test-time Adaptive Optimization (TAO) bezeichnet wird, verbessert die Leistung von Modellen, indem sie die Vorteile des ‘Best-of-N’ in das Modell integriert. Die Forschung von Databricks zeigt, dass die TAO-Methode mit größeren, leistungsfähigeren Modellen noch effektiver wird.

Databricks hat die TAO-Methode an FinanceBench getestet, einem Benchmark, der die Fähigkeit von Sprachmodellen zur Beantwortung finanzieller Fragen bewertet. Mit dieser Methode konnte Databricks das Llama 3.1B Modell von Meta, das ursprünglich 68,4 Prozent erreichte, auf 82,8 Prozent verbessern, was sogar die Leistung der Modelle von OpenAI übertrifft.

Christopher Amato, ein Informatiker an der Northeastern University, der an Reinforcement Learning arbeitet, bezeichnet die Methode als vielversprechend, da sie eine skalierbare Datenkennzeichnung und eine verbesserte Leistung im Laufe der Zeit ermöglicht. Allerdings weist er darauf hin, dass Reinforcement Learning manchmal unvorhersehbar sein kann und mit Vorsicht eingesetzt werden sollte.

Databricks setzt die TAO-Technik ein, um die Leistung der KI-Modelle seiner Kunden zu steigern und ihnen beim Aufbau ihrer ersten Agenten zu helfen. Ein Kunde, der eine Gesundheits-Tracking-App entwickelt, konnte dank der TAO-Methode ein KI-Modell einsetzen, das zuvor nicht zuverlässig genug war. Dies zeigt das Potenzial der Methode, die Genauigkeit und Zuverlässigkeit von KI-Anwendungen in kritischen Bereichen zu verbessern.

Zu den Top-Stories!

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.958 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen