Die nächste Generation künstlicher Intelligenz stellt die Infrastruktur vor enorme Herausforderungen. Mit der Expansion von NVIDIA NVLink Fusion um die neue NVHBM-Technologie bringt der Chip-Hersteller eine bahnbrechende Lösung für High-Bandwidth Memory auf den Markt. Damit lassen sich maßgeschneiderte AI-Chips deutlich effizienter und schneller entwickeln. Lesen Sie, welche Vorteile das offene Ökosystem für Hyperscaler und AI-Innovatoren bereithält.
NVHBM und NVLink Fusion: Die Zukunft des AI-Memory
Die rasante Entwicklung von AI-Agenten und Workloads mit Billionen Parametern erfordert eine grundlegend neue Herangehensweise an die Infrastruktur. Nicht nur die Rechenleistung allein ist entscheidend, sondern die kohärente Gestaltung von Compute, Memory, Storage, Networking und Software als vereintes System. Genau hier setzt die Erweiterung von NVLink Fusion an.
Mit NVIDIA NVHBM stellt NVIDIA eine spezialisierte Hochleistungsspeichertechnologie vor, die speziell für die Anforderungen moderner XPUs optimiert ist. Führende Memory-Partner werden diese Technologie validieren und anbieten, wodurch Kunden von NVLink Fusion direkt von den neuen Möglichkeiten profitieren.
Technische Vorteile auf einem Blick
Herkömmliche HBM-Architekturen integrieren den Memory-Controller direkt auf dem XPU-Die. Dieser Ansatz kostet wertvollen Silizium-Platz, der eigentlich für Compute-Einheiten genutzt werden könnte. NVHBM verfolgt einen radikal anderen Weg.
Effizienz durch 3D-Integration
Basierend auf derselben Technologie, die NVIDIA für kommende GPUs einsetzt, wird der Memory-Controller in das HBM-Base-Die integriert. Durch die Verlagerung in den 3D-HBM-Stack entfallen die Limitierungen des XPU-Dies. Das Ergebnis: bis zu 30 Prozent mehr Memory-Bandbreite, 15 Prozent geringerer HBM-Stromverbrauch und bis zu 25 Prozent mehr freie Fläche auf dem XPU-Compute-Die im Vergleich zu Standard-HBM4E.
Standardisierung beschleunigt Time-to-Market
NVIDIA etabliert eine standardisierte NVHBM-Implementierung, die von verschiedenen Memory-Anbietern verfügbar sein wird. Dies reduziert den Engineering-Aufwand für die Integration und Qualifizierung erheblich. Für Entwickler semi-custom AI-Chips bedeutet dies einen schnelleren und risikoärmeren Weg bis zur Marktreife.
AWS und NVIDIA vertiefen die Zusammenarbeit
Ein besonders prominenter Partner ist Amazon. Amazons Annapurna Labs werden als Erste die NVHBM-Technologie im Rahmen der bestehenden NVLink Fusion-Kooperation mit NVIDIA nutzen. Das Unternehmen arbeitet zudem an der NVLink Scale-up-Architektur, um Performance und Effizienz für AI-Workloads weiter zu steigern.
Diese Kooperation baut auf der bereits angekündigten Unterstützung für NVLink Fusion bei AWS auf. Annapurna Labs integriert die Technologie in die nächste Generation der Trainium-Chips, beginnend mit Trainium4. Das ermöglicht es, Amazon-eigene Chips und NVIDIA-GPUs gemeinsam in einer einheitlichen Rack-Scale-Architektur zu betreiben.
Nafea Bshara, Vice President bei Annapurna Labs, betonte: NVHBM repräsentiere einen neuen architektonischen Ansatz zur Weiterentwicklung von High-Bandwidth Memory. Die Technologiekooperation soll zukünftige AWS-Infrastrukturdesigns maßgeblich voranbringen.
Ein offenes Ökosystem für die AI-Zukunft
NVLink Fusion ermöglicht es Partnern, eigene XPUs und CPUs mit NVIDIAs Rack-Scale-Plattform zu verbinden. Das Ökosystem umfasst NVIDIA NVLink Chiplets, NVLink-C2C, NVLink Switches sowie NVIDIA MGX-Systeme und komplette Racks. Zudem arbeitet NVIDIA mit einer breiten Palette an CPU-Partnern, ASIC-Designern und Systemherstellern zusammen.
Fokus auf Innovation statt Integration
Mit jeder Generation der Rack-Scale-Systemarchitektur erhalten Hyperscaler und AI-native Unternehmen die Möglichkeit, ihre Engineering-Ressourcen auf die XPU-Innovation zu konzentrieren. Die bewährte Technologie für Scale-up und Scale-out Networking, Rack-Scale-Systeme sowie Software bleibt dabei standardisiert verfügbar. Das schafft einen schnelleren, risikoärmeren Pfad zur deployment-fertigen, semi-custom AI-Infrastruktur.
Quelle: https://blogs.nvidia.com/blog/nvlink-fusion-nvhbm-custom-high-bandwidth-memory/
