Die agentische KI verändert die Spielregeln für Datacenter-Hardware. Während traditionelle Server-CPUs auf möglichst viele Kerne optimiert wurden, benötigen KI-Agenten vor allem eines: maximale Geschwindigkeit pro Kern unter Volllast. NVIDIA Vera liefert genau diese Leistung und definiert damit eine neue Kategorie von Prozessoren, die speziell für AI Factories konzipiert ist.
Warum klassische Datacenter-CPUs an ihre Grenzen stoßen
In den vergangenen Jahren haben CPU-Hersteller ihre Server-Prozessoren vor allem für die Cloud optimiert. Das bedeutete: mehr Kerne pro Chip bei niedrigsten Kosten. Doch dieser Fokus ging auf Kosten der Leistung pro Kern. Hochleistungsfähige Speicherfabriken und schnellere Befehlsverarbeitung mussten zugunsten der Kernanzahl zurückstecken.
Der Trend zu Chiplet-Architekturen verstärkte diesen Effekt noch. Zwar senkten sich die Produktionskosten, doch jeder Kern kann nicht mehr auf die volle Speicherbandbreite des Chips zugreifen. Für KI-Agenten, die in nanosekundenschnellen Schleifen operieren, ist das ein erheblicher Nachteil.
Max Single-Threaded CPUs at Scale: Die neue Prozessorkategorie
Für den sogenannten Agentic Loop – die wiederkehrende Sequenz aus Reasoning, Tool-Ausführung und Ergebnisanalyse – braucht es eine CPU, die unter maximaler Last jede einzelne Aufgabe so schnell wie möglich abarbeitet. Dabei kommt es auf drei Faktoren an:
- Starke Leistung pro Kern unter Last
- Ausreichende Speicherbandbreite pro Kern
- Vorhersagbare Latenz
Bei einer Max Single-Threaded CPU at Scale beendet jeder Kern seine Aufgabe in voller Geschwindigkeit, ohne durch andere Kerne ausgebremst zu werden. Das ist entscheidend, da Agenten-Schritte sequentiell voneinander abhängen. Mehr Kerne erhöhen zwar den Gesamtdurchsatz, verkürzen aber nicht die Dauer eines einzelnen Schritts.
NVIDIA Vera im Detail
Der Olympus-Kern und die Speicherarchitektur
Im Zentrum von Vera steht Olympus, NVIDIAs eigener CPU-Kern. Er bietet 50 Prozent mehr Instructions Per Cycle als der Vorgänger Grace. Das beschleunigt sequentielle Agent-Schritte wie Tool-Aufrufe, Code-Ausführungen oder Datenverarbeitung.
Vera kombiniert diese Kerne mit bis zu 1,2 TB/s LPDDR5X-Speicherbandbreite bei weniger als 40 Watt Speicherverbrauch. Das monolithische Compute-Die sorgt dafür, dass alle 88 Kerne auf die volle Speicherperformance zugreifen können. Mit einer Core-to-Core-Bandbreite von 3,4 TB/s – dem Dreifachen vergleichbarer Datacenter-CPUs – entstehen keine Flaschenhälse, die einzelne Kerne ausbremsen.
Reale Performance-Zahlen
In hochausgelasteten CPU-Workloads, die agentische Ausführung simulieren, erzielt Vera 1,8-mal die nachhaltige Pro-Kern-Leistung gegenüber x86-Prozessoren.
Das Unternehmen Perplexity testete Vera mit einem praxisnahen Coding-Workflow. Das Klonen eines Repositorys und die Ausführung der Test-Suite liefen rund 1,5-mal schneller als auf x86-Systemen, der Start paralleler Sandboxes sogar bis zu 1,9-mal schneller. Perplexity plant deshalb den Produktiveinsatz von Vera.
Auch datenintensive Anwendungen profitieren erheblich: Starburst erzielte 3-mal schnellere SQL-Analysen im großen Maßstab, während Redpanda bei Echtzeit-Streaming 6-mal niedrigere Latenzen als bei führenden x86-Server-CPUs messen konnte.
Ein Prozessor für die gesamte AI Factory
Agentische Workloads sind vielseitig. Ein Agent nutzt Tools, führt Code aus, verarbeitet Daten, bedient Anfragen und trainiert Modelle mit Reinforcement Learning. Vera deckt dieses gesamte Spektrum ab, ohne dass unterschiedliche CPUs für verschiedene Aufgaben nötig sind.
Darüber hinaus ist Vera derselbe Prozessor, der die GPUs in NVIDIA Vera Rubin hostet und den NVIDIA BlueField-4 STX Storage Processor antreibt. Die gesamte AI Factory läuft somit auf einer einheitlichen Architektur mit einem durchgängigen Toolset.
Ausblick: NVIDIA Rosa und der Rigel-Kern
NVIDIA treibt die Entwicklung konsequent voran. Der kommende Rosa-Prozessor mit dem Rigel-Kern setzt auf Arm v9.2 und soll bei gleichem Silizium-Footprint noch höhere Pro-Kern-Leistung als Olympus liefern. Verbesserungen umfassen eine effizientere Befehlsauslieferung, einen größeren L2-Cache und optimiertes Speicher-Management.
Fazit
In der agentischen KI-Ära werden Milliarden von Agenten kontinuierlich auf CPUs zugreifen, um zu handeln, abzurufen, auszuführen und zu verifizieren. Jede eingesparte Nanosekunde beim Agentic Loop ermöglicht es den GPUs, mehr Zeit mit einkommenbringender Arbeit zu verbringen. NVIDIA Vera ist der Prozessor, der diese Zukunft antreibt.
Quelle: NVIDIA Blog
