MÜNCHEN (IT BOLTWISE) – Eine signifikante Erweiterung ihrer strategischen Zusammenarbeit kündigen Amazon Web Services (AWS) und NVIDIA auf der AWS re:Invent an. Das Ziel: Kunden fortschrittliche Infrastruktur, Software und Dienstleistungen für Innovationen im Bereich der generativen KI zu bieten.
Die erweiterte Partnerschaft kombiniert die Stärken beider Unternehmen, indem sie NVIDIAs neueste Multi-Node-Systeme mit zukunftsweisenden GPUs, CPUs und KI-Software integriert, zusammen mit AWS-Technologien wie dem fortschrittlichen Virtualisierungssystem Nitro, der Elastic Fabric Adapter (EFA)-Verbindung und der UltraCluster-Skalierbarkeit.
Zu den Höhepunkten der erweiterten Zusammenarbeit gehören:
Einführung von NVIDIA GH200 Grace Hopper Superchips auf AWS
AWS wird der erste Cloud-Anbieter, der NVIDIA GH200 Grace Hopper Superchips mit neuer Multi-Node NVLink-Technologie anbietet.
Die NVIDIA GH200 NVL32 Multi-Node-Plattform ermöglicht es gemeinsamen Kunden, auf Tausende von GH200 Superchips zu skalieren und damit supercomputerähnliche Leistungen zu erbringen.
Hosting von NVIDIA DGX Cloud auf AWS – Die Kooperation umfasst das Hosting von NVIDIA DGX Cloud, einem AI-Training-as-a-Service, auf AWS, das GH200 NVL32 für beschleunigtes Training generativer KI und großer Sprachmodelle verwendet.
Projekt Ceiba Supercomputer – Zusammenarbeit an Projekt Ceiba mit dem Ziel, den weltweit schnellsten GPU-betriebenen KI-Supercomputer zu entwerfen, ausgestattet mit 16.384 NVIDIA GH200 Superchips und einer Verarbeitungskapazität von 65 Exaflops.
Einführung neuer Amazon EC2-Instanzen- AWS stellt drei neue Amazon EC2-Instanzen vor, darunter P5e-Instanzen, die von NVIDIA H200 Tensor Core GPUs angetrieben werden, für großangelegte generative KI- und HPC-Arbeitslasten.
Software-Innovationen – NVIDIA führt Software auf AWS ein, wie zum Beispiel den NeMo Retriever Mikroservice für Chatbots und Zusammenfassungswerkzeuge sowie BioNeMo zur Beschleunigung der Arzneimittelentdeckung für Pharmaunternehmen.
Diese Zusammenarbeit unterstreicht das gemeinsame Engagement beider Unternehmen, das Feld der generativen KI voranzutreiben und Kunden Zugang zu Spitzentechnologien und Ressourcen zu bieten.
Intern nutzen bereits Amazons Robotik- und Erfüllungsteams NVIDIAs Omniverse-Plattform, um Lagerhäuser zuerst in virtuellen Umgebungen zu optimieren, bevor sie in der realen Welt eingesetzt werden.
Die Integration von NVIDIA- und AWS-Technologien wird die Entwicklung, das Training und die Inferenz großer Sprachmodelle und generativer KI-Anwendungen in verschiedenen Branchen beschleunigen.
Ergänzungen und Infos bitte an die Redaktion per eMail an de-info[at]it-boltwise.de
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.