OpenAI ha presentado hoy Jalapeño, su primer chip propio para inferencia. Con este movimiento, la compañía quiere controlar mejor la infraestructura que sostiene productos como ChatGPT.
El procesador se ha diseñado para una tarea muy concreta: la inferencia, la fase en la que los modelos generan respuestas para los usuarios.
Y la apuesta tiene bastante sentido.
OpenAI quiere sacar más rendimiento por vatio, bajar costes operativos y depender menos de proveedores externos. Llega, además, en un momento en el que la demanda de capacidad de cómputo sigue creciendo y conseguir hardware de última generación ya es una cuestión estratégica.
Jalapeño es un ASIC, un circuito integrado creado para un uso específico. Está afinado para ejecutar modelos en producción, no para encargarse de tareas generales de computación.
En la práctica, OpenAI no lo ha planteado como sustituto de todas las plataformas que usa hoy. Lo ha reservado para una parte muy concreta de su negocio, y una de las más caras: la generación de respuestas y otras cargas de inferencia a gran escala.
Para sacar adelante el proyecto, OpenAI ha trabajado con Broadcom, uno de los grandes nombres del sector del silicio y las redes. Celestica ha puesto la parte de integración de sistemas y despliegue.
La combinación junta tres piezas que aquí pesan mucho: conocimiento de modelos, capacidad para diseñar y fabricar chips, y experiencia para llevar ese hardware a centros de datos reales.
Jalapeño también encaja en una estrategia de integración vertical que se ve cada vez más clara entre las grandes tecnológicas.
Diseñar chips propios permite ajustar mejor el hardware al software, afinar el consumo energético y recortar riesgos de suministro en una industria donde Nvidia domina buena parte del mercado. Para OpenAI, esa dependencia no pasa solo por la disponibilidad. También afecta a los costes, así que cualquier mejora de eficiencia puede convertirse en un ahorro serio cuando se escala a millones de consultas al día.
Por lo que se ha publicado sobre el proyecto, Jalapeño pasó del diseño al producto final en unos nueve meses. Para un desarrollo de este tipo, es un plazo especialmente corto.
Esas mismas informaciones apuntan a que OpenAI habría usado sus propios modelos para acelerar parte del diseño del hardware. Ahí se ve algo interesante: el software ya empieza a influir de forma directa en la creación del propio silicio. El movimiento coloca a OpenAI en el mismo terreno que Google con sus TPU, Amazon con Trainium e Inferentia y Meta, que también trabaja en chips internos para recortar costes y ajustar mejor su infraestructura.
Hock Tan dirige Broadcom y aseguró que Jalapeño ofrece un rendimiento comparable al de los procesadores Blackwell de Nvidia y al de las TPU de Google.
Por ahora, de todos modos, no se han publicado especificaciones técnicas detalladas ni pruebas independientes que permitan medir su rendimiento real. Tampoco está claro cuál será su impacto financiero a largo plazo ni qué coste energético tendrá desplegarlo a gran escala.
