Google stellt neue TPU v7p mit FP8-Unterstützung vor

MÜNCHEN (IT BOLTWISE) – Google hat mit der Einführung der Ironwood, auch bekannt als TPU v7p, einen bedeutenden Schritt in der Entwicklung von KI-Hardware gemacht. Diese neue Generation von Tensor Processing Units (TPUs) ist speziell für die Anforderungen moderner KI-Anwendungen konzipiert und bietet erhebliche Leistungssteigerungen im Vergleich zu ihren Vorgängern.

Google hat mit der Vorstellung der Ironwood, auch bekannt als TPU v7p, einen weiteren Meilenstein in der Entwicklung von KI-Hardware erreicht. Diese neueste Generation von Tensor Processing Units (TPUs) ist speziell darauf ausgelegt, die Anforderungen moderner KI-Anwendungen zu erfüllen und bietet im Vergleich zu ihren Vorgängern erhebliche Leistungssteigerungen. Die TPU v7p ist insbesondere für die Arbeit mit großen Sprachmodellen und der Erstellung von KI-generierten Bildern optimiert, wobei das FP8-Format eine effiziente Skalierung ermöglicht.

Seit 2017 entwickelt Google eigene Chips für seine Cloud-Systeme, wobei die TPUs einen integralen Bestandteil dieser Strategie darstellen. Die neueste TPU v7p liefert eine beeindruckende 3.600-fache Leistung im Vergleich zur ersten öffentlich verfügbaren TPU v2. Diese Leistungssteigerung ist unter anderem auf die Unterstützung des FP8-Formats zurückzuführen, das bei der Einführung der TPU v2 noch nicht verfügbar war.

Ein bemerkenswertes Merkmal der TPU v7p ist ihr Chiplet-Design, das sich von einem monolithischen Ansatz abwendet. Das Package enthält zwei zentrale Chips, die von acht HBM3-Bausteinen flankiert werden. Diese Architektur ermöglicht eine effiziente Verarbeitung und ist sowohl für das Inferencing als auch für das Training von KI-Modellen geeignet. Besonders bei großen Sprachmodellen spielt die Skalierung eine entscheidende Rolle, und das FP8-Format trägt dazu bei, diese Prozesse effizient zu gestalten.

Obwohl die TPU v7p in einer vermuteten 3-nm-Fertigung hergestellt wird, ist der Energieverbrauch mit einer TDP von knapp 1.000 Watt relativ hoch, insbesondere im Vergleich zum Vorgänger v5p, der 540 Watt verbrauchte. Diese Erhöhung des Energieverbrauchs ist teilweise auf die größere Chipgröße zurückzuführen.

Google hat bisher nur begrenzte technische Details veröffentlicht, doch die verfügbaren Informationen deuten auf eine Verdopplung der HBM-Kapazität im Vergleich zur v5p hin. Während die v5p auf HBM2e setzte, nutzt die v7p HBM3, was zu einer erheblichen Steigerung der Speicherbandbreite führt. Diese Verbesserungen sind entscheidend für die Unterstützung zusätzlicher TensorCores und SparseCores, die den massiven Leistungssprung erklären.

Die ersten Systeme mit der neuen TPU v7p sollen noch in diesem Jahr verfügbar sein. Angesichts der bisherigen Innovationsgeschwindigkeit von Google könnte bereits in einem Jahr eine weitere Generation folgen. Diese kontinuierliche Weiterentwicklung zeigt Googles Engagement, die Grenzen der KI-Hardware immer weiter zu verschieben und neue Maßstäbe in der Branche zu setzen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

2.006 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen