Microsoft ha mostrado hoy su nuevo servidor Blackwell GB200 de NVIDIA para la plataforma de computación en nube Azure AI. Y esto te suena raro nosotros te lo explicamos.
La dirección oficial de Microsoft Azure ha publicado que se trata del primer sistema en la nube que cuenta con servidores de IA con tecnología GB200 para escalar modelos avanzados de IA.
Microsoft Azure ofrece a sus clientes servicios como máquinas virtuales, procesamiento de IA, etc. para gestionar las aplicaciones. Esto permite a los usuarios escalar y actualizar sus aplicaciones sin necesidad de poseer el hardware. Con el uso de las últimas GPU Blackwell B200 de NVIDIA, Azure está mejorando la experiencia del usuario ofreciéndole más rendimiento que nunca.
Los servidores más potentes del mundo en cuestión de IA
Los servidores de IA potenciados por GB200 utilizarán las GPU B200, el buque insignia del centro de datos, que utilizan la matriz GB200 y ofrecen 192 GB de memoria HBM3e.
La GPU es un chip de alto rendimiento destinado a cargas de trabajo avanzadas y pesadas como el aprendizaje profundo, el entrenamiento de grandes modelos de IA y el procesamiento de grandes conjuntos de datos, al tiempo que es más eficiente que sus predecesores.
Gracias al uso de las GPU B200, los modelos de IA se pueden entrenar más rápido en Azure, lo que garantiza su rendimiento líder entre todas las demás plataformas de computación en la nube. Como se aprecia en la imagen del tuit, la compañía dispone de un rack de servidores con varias GPU B200. No sabemos cuántas GPU B200 se utilizan en este servidor ni cuántas de ellas ha desplegado ya la compañía.
El servidor está siendo refrigerado por soluciones de refrigeración líquida para mantener temperaturas más bajas, lo que parece la fase inicial de pruebas de Microsoft para ver cómo implantar la refrigeración líquida en servidores comerciales.
Hay que tener en cuenta que el servidor mostrado no es el GB200 NVL72, que NVIDIA ha preparado para aprovechar la potencia de 36 CPU Grace y 72 GPU B200. Ese bastidor es increíblemente potente para construir una potente plataforma que puede producir hasta 3240 TFLOPS de rendimiento FP64 Tensor Core y se va a utilizar en el superordenador más rápido de Taiwán por Foxconn.