OpenAI hat nach eigenen Angaben mit Jalapeño einen eigenen Chip für seine Inferenz-Systeme vorgestellt.
OpenAI Jalapeño: Eigener Chip für Inferenz, nicht fürs Training
OpenAI Jalapeño ist laut OpenAI ein ASIC , also ein anwendungsspezifischer Prozessor, der für einen sehr konkreten Zweck gebaut wurde. Anders als viele bekannte Beschleuniger, die vor allem das Training großer Modelle im Blick haben, zielt Jalapeño auf Inferenz-Workloads .
Genau dort läuft im Alltag viel Geld auf. Dienste wie ChatGPT ziehen mit jeder einzelnen Anfrage Rechenleistung, und zwar ständig. Für OpenAI ist das ein ziemlich direkter Hebel: Wer Antworten millionenfach und in Echtzeit ausspielt, braucht nicht nur Tempo, sondern vor allem Effizienz.
Der Schritt hat deshalb strategisches Gewicht . Eigene, passend gebaute Hardware kann die Leistung pro Watt verbessern, laufende Kosten drücken und die Abhängigkeit von externen Anbietern wie Nvidia kleiner machen.
Broadcom als Partner, Celestica bei der Integration
OpenAI hat Jalapeño nach eigener Darstellung zusammen mit Broadcom entwickelt. OpenAI brachte dabei die Anforderungen aus seinen Modellen und Diensten ein, Broadcom das Know-how beim Siliziumdesign und in der Netzwerktechnik. Auch Celestica taucht laut OpenAI im Zusammenhang mit der Systemintegration auf.
Auffällig ist vor allem das Tempo. Nach allem, was bisher bekannt ist, soll OpenAI Jalapeño den Weg von der Planung bis zum fertigen Produkt in rund neun Monaten geschafft haben. Aus dem Umfeld des Projekts heißt es außerdem, OpenAI habe unter anderem eigene Modelle genutzt, um Teile des Designprozesses schneller voranzubringen.
Weniger Abhängigkeit von Nvidia, mehr Kontrolle über die Lieferkette
Ein eigener Prozessor gibt OpenAI mehr Einfluss auf die Chipversorgung und kann den Betrieb großer Rechenzentren besser planbar machen. Im besten Fall entsteht daraus ein echter Vorteil im Wettbewerb, wenn die Hardware exakt auf die eigenen Workloads zugeschnitten ist.
Allein steht OpenAI damit nicht. Google setzt seit Jahren auf TPUs, Amazon auf Trainium und Inferentia, und auch Meta arbeitet an spezialisierten Prozessoren. Der Kurs ist seit Längerem erkennbar: Große Plattformanbieter wollen ihre zentrale Infrastruktur Stück für Stück stärker selbst in der Hand haben.
Große Versprechen, viele offene Fragen
Wie stark OpenAI Jalapeño in der Praxis am Ende wirklich ist, lässt sich bisher allerdings noch nicht sagen. Broadcom-Chef Hock Tan soll den Chip mit Nvidias Blackwell-Plattform und mit Googles TPUs verglichen haben.
Unabhängige Benchmarks, ausführliche technische Daten und belastbare Zahlen zu den finanziellen Folgen gibt es bislang aber nicht. Damit ist OpenAI Jalapeño vorerst vor allem ein strategisch wichtiger Meilenstein . Ob daraus am Ende wirklich ein größerer Umbau von OpenAIs Infrastruktur wird, zeigt sich wohl erst dann, wenn der Chip in großem Maßstab in den eigenen Diensten läuft.
Downloads: Download ChatGPT für Android und iOS
