Meta stellt Llama 4 vor: Neue KI-Modelle mit MoE-Architektur

MÜNCHEN (IT BOLTWISE) – Meta hat kürzlich seine neueste Sammlung von KI-Modellen, Llama 4, vorgestellt. Diese Modelle repräsentieren einen bedeutenden Fortschritt in der KI-Entwicklung und setzen auf eine neuartige MoE-Architektur, die sowohl Effizienz als auch Leistungsfähigkeit steigert.

Meta hat mit der Veröffentlichung von Llama 4 eine neue Ära in der KI-Entwicklung eingeläutet. Diese Modelle, die auf einer Mischung aus Expertenarchitektur (MoE) basieren, versprechen eine effizientere Verarbeitung und Beantwortung von Anfragen. Die MoE-Architektur ermöglicht es, Datenverarbeitung in spezialisierte Aufgaben zu unterteilen, die von kleineren, spezialisierten Modellen bearbeitet werden. Dies führt zu einer erheblichen Steigerung der Rechenleistung und Effizienz.

Die Llama 4-Kollektion umfasst die Modelle Scout, Maverick und Behemoth, wobei Scout und Maverick bereits verfügbar sind und Behemoth sich noch in der Trainingsphase befindet. Diese Modelle wurden mit großen Mengen an unbeschrifteten Text-, Bild- und Videodaten trainiert, um ein breites visuelles Verständnis zu entwickeln. Besonders bemerkenswert ist, dass die Modelle in der Lage sind, multimodale Eingaben zu verarbeiten, was sie für eine Vielzahl von Anwendungen geeignet macht.

Ein wesentlicher Antrieb für die beschleunigte Entwicklung von Llama 4 war der Erfolg offener Modelle des chinesischen KI-Labors DeepSeek, die in einigen Bereichen mit Metas früheren Modellen konkurrieren oder diese sogar übertreffen. Dies führte dazu, dass Meta intensiv daran arbeitete, die Effizienz und Kosteneffektivität seiner Modelle zu verbessern.

Die Verfügbarkeit der Modelle ist jedoch nicht uneingeschränkt. Nutzer und Unternehmen mit Sitz in der EU sind von der Nutzung ausgeschlossen, was auf die strengen Datenschutzgesetze der Region zurückzuführen ist. Zudem müssen Unternehmen mit mehr als 700 Millionen monatlich aktiven Nutzern eine spezielle Lizenz von Meta beantragen, die nach eigenem Ermessen gewährt oder verweigert werden kann.

Meta hat die Llama 4-Modelle so abgestimmt, dass sie auf kontroverse Fragen weniger oft mit einer Verweigerung reagieren. Dies geschieht vor dem Hintergrund von Vorwürfen, dass KI-Chatbots politisch voreingenommen seien. Meta betont, dass Llama 4 darauf ausgelegt ist, ausgewogene und faktenbasierte Antworten zu liefern, ohne bestimmte Ansichten zu bevorzugen.

Die technischen Spezifikationen der Modelle sind beeindruckend. Maverick verfügt über 400 Milliarden Gesamtparameter, von denen 17 Milliarden aktiv sind, verteilt auf 128 Experten. Scout hingegen hat 17 Milliarden aktive Parameter und kann auf einem einzigen NVIDIA H100 GPU betrieben werden, während Maverick ein NVIDIA H100 DGX-System benötigt. Behemoth, das noch in der Entwicklung ist, wird mit 288 Milliarden aktiven Parametern und fast zwei Billionen Gesamtparametern die leistungsstärkste Version sein.

Die Einführung von Llama 4 markiert einen wichtigen Schritt für Meta, um im Wettbewerb mit anderen großen Akteuren wie OpenAI und Google zu bestehen. Die Modelle bieten nicht nur technische Fortschritte, sondern auch neue Möglichkeiten für Entwickler und Unternehmen, die auf der Suche nach leistungsfähigen KI-Lösungen sind.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.958 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen