OpenAI und Broadcom haben mit dem Jalapeño einen eigenen KI-Prozessor vorgestellt, der gezielt für die Inference moderner Large Language Models optimiert wurde. Der Chip markiert den Beginn einer mehrgenerationen Rechenplattform, die fortgeschrittene KI schneller, zuverlässiger und für mehr Menschen zugänglich machen soll. Jalapeño wurde dabei in Rekordzeit von nur neun Monaten von der ersten Designidee bis zur Fertigung entwickelt.

Jalapeño: OpenAIs erster eigener KI-Prozessor

Der als Intelligence Processor bezeichnete Chip wurde von OpenAI in enger Zusammenarbeit mit Broadcom und Celestica entwickelt. Er stellt den ersten Schritt in einer langfristigen Infrastrukturstrategie dar, bei der OpenAI den gesamten Technologie-Stack hinter seinen Modellen und Produkten selbst gestaltet. Ziel ist es, Rechenleistung effizienter bereitzustellen und die Kosten für KI-Anwendungen langfristig zu senken.

Engineering-Samples des Chips laufen bereits im Labor und führen ML-Workloads im Ziel-Takt und mit der geplanten Leistungsaufnahme aus. Dazu gehören auch Tests mit GPT-5.3-Codex-Spark. Erste Messungen deuten darauf hin, dass Jalapeño eine deutlich bessere Performance pro Watt als aktuelle Spitzenprodukte liefert.

Von Grund auf für LLM Inference optimiert

Jalapeño wurde nicht als universeller Beschleuniger konzipiert, sondern als Blank-Slate-Design speziell für moderne LLM-Inference. Die Architektur basiert auf OpenAIs tiefem Verständnis von Modell-Grundlagen, Kerneln, Serving-Systemen und Produktanforderungen. Dadurch kann die Hardware gezielt auf die Bedürfnisse aktueller und künftiger KI-Modelle abgestimmt werden.

Architektur mit Fokus auf Effizienz

Die Chip-Architektur minimiert die Datenbewegung und balanciert Compute, Speicher sowie Netzwerk-Ressourcen aus. Das Ergebnis ist eine genutzte Auslastung, die deutlich näher an der theoretischen Spitzenleistung liegt als bei herkömmlichen Beschleunigern. Broadcoms Silizium-Implementierung und Netzwerktechnologien, darunter Tomahawk-Netzwerkchips, ermöglichen die Skalierung auf große Produktionsumgebungen.

Flexibilität für die gesamte Branche

Obwohl der Chip maßgeblich von OpenAIs eigenen Anforderungen an ChatGPT, Codex und die API geprägt ist, wurde er so flexibel gestaltet, dass er mit allen LLMs zusammenarbeitet. Diese Offenheit soll sicherstellen, dass die Branche insgesamt von effizienterer Inference-Hardware profitiert.

Rekordentwicklung in nur neun Monaten

Die Entwicklung von Jalapeño von der ersten Designidee bis zum sogenannten Tape-Out dauerte nur neun Monate. Damit handelt es sich um einen der schnellsten ASIC-Entwicklungszyklen in der Geschichte fortschrittlicher Halbleiter. Diese Geschwindigkeit wurde durch enge Software-Hardware-Co-Entwicklung und den Einsatz von OpenAI-Modellen zur Beschleunigung von Design- und Optimierungsprozessen erreicht.

Greg Brockman, Präsident und Mitbegründer von OpenAI, betonte, dass die Welt sich zu einer compute-basierten Wirtschaft entwickle. Jalapeño sei Teil der langfristigen Strategie, Rechenleistung reichhaltiger zu machen und KI so schneller, zuverlässiger und erschwinglicher für Menschen und Unternehmen zu gestalten.

Mehrgenerationen-Plattform für Gigawatt-Rechenzentren

Die Partnerschaft zwischen OpenAI und Broadcom ist langfristig angelegt. Hock Tan, CEO von Broadcom, spricht von einer fundamentalen Verpflichtung, die physische Infrastruktur für die nächste Dekade der KI zu skalieren. Ab 2026 sollen die gemeinsam entwickelten Technologien in Gigawatt-Rechenzentren zusammen mit Microsoft und weiteren Partnern zum Einsatz kommen.

Celestica unterstützt die Plattform mit Expertise in Board-, Rack- und Systemintegration. Die erste Ausbaustufe der Infrastruktur ist für eine erste Deployment-Phase bis Ende 2026 geplant und wird in den folgenden Jahren weiter ausgebaut.

Ziel: KI schneller, zuverlässiger und erschwinglicher machen

Inference ist der Punkt, an dem KI die Menschen erreicht. Jede Verbesserung in puncto Geschwindigkeit, Kosten und Zuverlässigkeit wirkt sich direkt auf die Nutzererfahrung aus: schnellere Antworten in ChatGPT, komplexere Codex-Aufgaben mit weniger Wartezeit oder günstigere API-Produkte für Entwickler und Unternehmen.

Jalapeño verstärkt den Flywheel-Effekt hinter OpenAIs Fortschritt: Bessere Infrastruktur führt zu höherer Effizienz, die wiederum bessere Modelle und Produkte ermöglicht. Mehr Nutzung und Einnahmen fließen in die nächste Infrastrukturgeneration zurück. Langfristig soll dieser Kreislauf Intelligenz fähiger, zuverlässiger und preiswerter für alle machen.

Quelle

https://openai.com/index/openai-broadcom-jalapeno-inference-chip