Microsofts neue KI-Modelle sparen Energie und Ressourcen

MÜNCHEN (IT BOLTWISE) – Microsofts neueste Forschungsergebnisse im Bereich der Künstlichen Intelligenz könnten die Art und Weise, wie wir große KI-Modelle betreiben, grundlegend verändern. Durch die Einführung des BitNet b1.58 Modells wird gezeigt, dass es möglich ist, mit deutlich weniger Energie und Rechenleistung auszukommen.

Die Forschung von Microsoft zeigt, dass große KI-Modelle nicht zwangsläufig auf leistungsstarke Supercomputer angewiesen sind. Mit dem neuen Modell BitNet b1.58 wird ein Ansatz verfolgt, der die Effizienz von KI-Systemen erheblich steigern könnte. Das Modell arbeitet mit einer sogenannten ‘ternären’ Architektur, die nur drei Gewichtswerte verwendet: -1, 0 und 1. Diese Vereinfachung führt zu einer drastischen Reduzierung der Komplexität und ermöglicht den Betrieb auf einfachen Desktop-CPUs.

Traditionell setzen KI-Modelle auf die Präzision von 16- oder 32-Bit-Gleitkommazahlen, was jedoch mit einem hohen Speicherbedarf und erheblichem Rechenaufwand verbunden ist. Die neue Methode von Microsoft reduziert den Speicherbedarf erheblich, da das BitNet b1.58 Modell mit nur 0,4 GB Speicher auskommt. Im Vergleich dazu benötigen andere Modelle mit ähnlicher Parametergröße zwischen 2 und 5 GB.

Ein wesentlicher Vorteil dieser vereinfachten Gewichtung ist die Effizienzsteigerung bei der Inferenzzeit. Anstatt auf rechenintensive Multiplikationsanweisungen angewiesen zu sein, nutzt das System einfache Additionsanweisungen, was den Energieverbrauch um bis zu 96 Prozent senkt. Diese Effizienz ermöglicht es, das Modell mit Geschwindigkeiten zu betreiben, die mit dem menschlichen Lesen vergleichbar sind, und das alles auf einer einzigen CPU.

Die Forscher betonen, dass diese Fortschritte nicht auf Kosten der Leistung gehen. In verschiedenen Benchmark-Tests zeigt das BitNet b1.58 Modell Fähigkeiten, die fast mit führenden Modellen seiner Größenklasse vergleichbar sind. Diese Ergebnisse sind jedoch noch nicht unabhängig verifiziert worden, was Raum für weitere Untersuchungen lässt.

Interessanterweise verstehen die Forscher selbst noch nicht vollständig, warum das Modell mit einer so stark vereinfachten Gewichtung so gut funktioniert. Dies eröffnet neue Forschungsfelder, um die theoretischen Grundlagen dieser Effizienz zu verstehen. Dennoch zeigt die Arbeit von Microsoft eine vielversprechende Alternative zu den derzeitigen, ressourcenintensiven KI-Modellen auf.

Die Implikationen dieser Forschung sind weitreichend. In einer Zeit, in der die Kosten für Hardware und Energie für KI-Anwendungen steigen, könnte ein effizienteres Modell wie BitNet b1.58 eine kostengünstigere und umweltfreundlichere Lösung bieten. Es bleibt abzuwarten, wie sich diese Technologie in der Praxis bewährt und ob sie in der Lage ist, mit den größten Modellen von heute zu konkurrieren.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!