Majestic Labs ha presentado hoy Prometheus, un servidor de inferencia con el que la startup quiere meter mano a un problema bastante menos vistoso que la fuerza bruta de cálculo: la memoria. Su tesis es que, en muchas cargas de trabajo de IA, los procesadores pasan demasiado tiempo esperando a que les lleguen los datos. Y ese atasco empeora a medida que crecen los modelos. Prometheus se plantea como alternativa a los sistemas basados en GPU, aunque a estas alturas todavía no hay benchmarks independientes ni hardware comercial en funcionamiento.
La compañía nació en 2023 de la mano de antiguos ingenieros de Google y Meta, y coloca a Prometheus justo en ese sitio: como relevo de los sistemas apoyados en GPU.
La promesa es grande. Majestic Labs sostiene que una sola máquina podría sustituir un rack de hardware de Nvidia gracias a una reserva enorme de memoria unificada.
Para ello no recurre a GPU tradicionales con memoria HBM. Prometheus puede montar, siempre según la empresa, hasta 12 procesadores propios bautizados como Ignite AI Processing Units.
Cada uno reúne núcleos Arm con motores vectoriales y tensoriales RISC-V, todos conectados a una memoria compartida de entre 8 TB y 128 TB de LPDDR6. La idea se entiende rápido, aunque llevarla a la práctica es otra historia: en vez de pegar la memoria a cada chip, Majestic Labs la agrupa en un espacio coherente mucho más grande mediante chiplets de agregación y enlaces de cobre de hasta 1 metro. Así, todo el sistema ve ese bloque como una única reserva rápida de datos.
La comparación que la empresa repite más veces es con la Nvidia DGX B300, que ofrece 2,3 TB de HBM.
Según Majestic Labs, Prometheus puede dar más de 50 veces más memoria rápida accesible y 1,7 veces más ancho de banda de interconexión.
También asegura que un solo rack de su arquitectura igualaría a 25 racks Vera Rubin de Nvidia en capacidad de memoria rápida, y con un consumo menor. Ese planteamiento, además, le serviría, según la propia compañía, para esquivar tanto el precio como la escasez de la HBM. Su argumento es que sistemas equivalentes podrían costar entre 10 y 50 veces menos que las alternativas basadas en GPU y gastar menos energía.
Y luego está el software.
Majestic Labs dice que el servidor es compatible con estándares abiertos y con herramientas ya muy extendidas, como PyTorch, vLLM y OpenAI Triton, sin necesidad de modificar los modelos.
La empresa tiene unos 40 empleados repartidos entre Tel Aviv y Los Ángeles, ha levantado 100 millones y afirma contar ya con pedidos de empresas, nuevos proveedores cloud e hiperescaladores, siempre según sus propios datos. Las primeras entregas para clientes seleccionados están previstas para 2027, también según Majestic Labs.
La gran pregunta, por ahora, es si podrá cumplir todo eso fuera de su laboratorio.
Todas las cifras de rendimiento, coste y consumo las ha dado la propia empresa, y todavía no existen benchmarks independientes ni hardware comercial funcionando.
Algunos analistas apuntan a que escalar hasta 128 TB de LPDDR6 podría exigir alrededor de 64.000 chips de memoria y más de 100 chiplets de agregación, con problemas evidentes de coherencia, latencia e ingeniería. A día de hoy no está claro si Prometheus podrá demostrar en producción que esa arquitectura realmente puede reemplazar a la GPU.
