Pruna AI öffnet sein Framework zur Optimierung von KI-Modellen

MÜNCHEN (IT BOLTWISE) – Pruna AI, ein europäisches Startup, hat kürzlich angekündigt, sein Framework zur Optimierung von KI-Modellen als Open Source zur Verfügung zu stellen. Dies markiert einen bedeutenden Schritt in der Welt der Künstlichen Intelligenz, da es Entwicklern ermöglicht, ihre Modelle effizienter zu gestalten.

Pruna AI hat sich auf die Entwicklung von Kompressionsalgorithmen spezialisiert, die es ermöglichen, KI-Modelle effizienter zu gestalten. Das Unternehmen hat ein Framework entwickelt, das verschiedene Effizienzmethoden wie Caching, Pruning, Quantisierung und Distillation auf ein gegebenes KI-Modell anwendet. Diese Methoden sind entscheidend, um die Leistung von KI-Modellen zu verbessern, ohne die Qualität signifikant zu beeinträchtigen. Der Mitbegründer und CTO von Pruna AI, John Rachwan, erklärte, dass das Framework nicht nur die Komprimierung von Modellen standardisiert, sondern auch deren Speicherung und das Laden der komprimierten Modelle vereinfacht. Ein weiterer Vorteil ist die Möglichkeit, die Qualität der komprimierten Modelle zu evaluieren und die Leistungsgewinne zu messen.

Diese Entwicklung ist vergleichbar mit der Standardisierung von Transformern und Diffusoren durch Plattformen wie Hugging Face, jedoch fokussiert auf Effizienzmethoden. Große KI-Labore nutzen bereits verschiedene Kompressionsmethoden, um ihre Modelle zu optimieren. Ein Beispiel dafür ist OpenAI, das Distillation verwendet, um schnellere Versionen seiner Modelle zu erstellen, wie etwa GPT-4 Turbo. Diese Technik, bei der ein großes Modell als ‘Lehrer’ fungiert und ein kleineres Modell als ‘Schüler’ trainiert wird, ist besonders effektiv, um die Leistung zu steigern, ohne die Genauigkeit zu verlieren.

Pruna AI bietet eine umfassende Lösung, die es Entwicklern ermöglicht, verschiedene Kompressionsmethoden zu kombinieren und so die Effizienz ihrer Modelle zu maximieren. Während das Unternehmen alle Arten von Modellen unterstützt, liegt der aktuelle Fokus auf Bild- und Videogenerierungsmodellen. Zu den Nutzern von Pruna AI gehören bereits Unternehmen wie Scenario und PhotoRoom. Neben der Open-Source-Version bietet Pruna AI auch eine Enterprise-Lösung mit erweiterten Optimierungsfunktionen an.

Eine der spannendsten Funktionen, die bald verfügbar sein wird, ist ein Kompressionsagent, der automatisch die beste Kombination von Methoden findet, um die gewünschte Leistung zu erzielen, ohne die Genauigkeit zu stark zu beeinträchtigen. Diese Innovation könnte Unternehmen erhebliche Kosteneinsparungen bei der Inferenz ihrer Modelle ermöglichen. Pruna AI hat kürzlich eine Seed-Finanzierungsrunde in Höhe von 6,5 Millionen US-Dollar abgeschlossen, was das Vertrauen der Investoren in das Potenzial des Unternehmens unterstreicht.

Zu den Top-Stories!

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.944 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen