OpenAI heeft naar eigen zeggen zijn eerste zelfontwikkelde processor laten zien: Jalapeño. Die chip is gebouwd voor iets heel specifieks. Niet voor het trainen van nieuwe modellen, maar voor het dagelijkse rekenwerk dat daarna komt: antwoorden genereren, voorspellingen doen en reacties teruggeven aan gebruikers. Juist dat deel van de infrastructuur slokt bij populaire diensten enorme hoeveelheden rekenkracht op, en dus ook veel geld. Voor OpenAI is Jalapeño daarmee meer dan zomaar een nieuw stuk hardware.
Met Jalapeño wil OpenAI meer grip krijgen op de machines waarop zijn diensten draaien. Tot nu toe leunt de sector zwaar op leveranciers als Nvidia, terwijl de populairste chips daar vaak moeilijk te krijgen en erg duur zijn. Met een eigen processor kan OpenAI de hardware nauwer laten aansluiten op de eigen software. Dat kan helpen om de operationele kosten te drukken, en het verkleint tegelijk de kwetsbaarheid van een toeleveringsketen waar nu veel van afhangt.
Dat maakt het vooral op de langere termijn interessant. Voor een dienst als ChatGPT draait het namelijk niet alleen om hoe goed de nieuwste modellen zijn, maar ook om wat het kost om ze op grote schaal te laten draaien, dag in dag uit. OpenAI deed dat volgens de beschikbare informatie bovendien niet alleen. Broadcom had een sleutelrol in het ontwerp en bracht de nodige hardwarekennis mee. Celestica was dan weer betrokken bij de systeemintegratie.
Die rolverdeling is eigenlijk vrij logisch. OpenAI kent zijn eigen modellen en workloads door en door. Broadcom heeft jaren ervaring met netwerk- en chiptechnologie. Celestica helpt vervolgens om die onderdelen samen te brengen in systemen die buiten een lab ook echt bruikbaar zijn. Afgaand op wat daarover bekend is, ging de ontwikkeling opvallend snel: Jalapeño zou in ongeveer negen maanden van ontwerp naar eindproduct zijn gegaan.
Nog een detail dat opvalt: OpenAI zou ook zijn eigen modellen hebben gebruikt om delen van het ontwerpproces te versnellen. Dat zegt wel iets. Softwareontwikkeling en chipontwerp beginnen steeds meer in elkaar over te lopen.
Met Jalapeño volgt OpenAI een pad dat andere techbedrijven al eerder kozen. Google werkt al jaren met zijn eigen TPU-familie. Amazon kwam met Trainium en Inferentia. Meta bouwt eveneens aan eigen processors. De gedachte erachter is telkens dezelfde: wie hardware en software zelf op elkaar kan afstemmen, werkt efficiënter en is minder afhankelijk van de grillen van de markt.
Voor OpenAI weegt dat extra zwaar, omdat de vraag naar rekenkracht voor chatbots, zoekfuncties en digitale assistenten alleen maar verder oploopt. De eerste geluiden over Jalapeño klinken in elk geval ambitieus. Broadcom-topman Hock Tan zou hebben gezegd dat de chip zich kan meten met Nvidia’s Blackwell-processors en met Google’s TPU’s.
Dat soort uitspraken prikkelt natuurlijk de nieuwsgierigheid, maar voorlopig is enige reserve wel op zijn plaats. Gedetailleerde specificaties zijn er nog niet, en onafhankelijke benchmarks ontbreken ook. Daardoor valt nu nog lastig te zeggen hoe Jalapeño het in de praktijk doet als het gaat om snelheid, efficiëntie en energieverbruik.
Mocht de chip echt waarmaken wat OpenAI nu suggereert, dan kan dat flinke gevolgen hebben voor de kostenstructuur van het bedrijf. Tegelijk legt de groei van dit soort rekeninfrastructuur ook een breder probleem op tafel: het stroomverbruik, het watergebruik en de steeds grotere datacenters die nodig zijn om dit soort diensten draaiende te houden.
