Microsoft Maia 200, el acelerador para IA a 3 nm con 216 GB de HBM3E que puede competir con la NVIDIA B300: la mitad de consumo, mismo rendimiento en FP8

NVIDIA es conocida por ser la empresa de tarjetas gráficas gaming más popular, pero desde hace unos años, se ha centrado en las GPU para IA y menuda diferencia en sus ganancias. Gracias a esto pasó de ocupar el séptimo y octavo lugar en empresas con mayor capitalización a llegar a ser la número 1 en cuestión de un año vendiendo gráficas para centros de datos de inteligencia artificial. El dinero que se genera por la venta de chips es enorme y como no, el resto de compañías también quieren una parte. Microsoft ha presentado ahora su nuevo chip IA Maia 200 que se utilizará para tareas de inferencia a gran escala para sus centros de datos Azure.

Microsoft es la empresa que todos conocemos por el sistema operativo Windows, pero esta se dedica a otros sectores del mercado y desde hace unos años, a la inteligencia artificial. Puede que Microsoft no haya creado modelos de IA como Google con su Gemini o haya sido popular por tecnologías basadas en la inteligencia artificial, pero su contribución sigue siendo importante si tenemos en cuenta que fue la que permitió que la startup OpenAI tuviese financiación para crear ChatGPT. Microsoft invirtió más de 1.000 millones de dólares cuando OpenAI ni siquiera era conocida y esto hizo que la startup pudiera crear sus proyectos y ya vemos ahora como ha acabado.

Microsoft Maia 200, así es el nuevo chip acelerador de IA de Microsoft con un TDP de 750W y 10 PetaFLOPS FP4

Aunque OpenAI no está resultado ser una empresa rentable si tenemos en cuenta todas sus pérdidas, otras como NVIDIA si lo son y por mucho. La IA mueve mucho dinero y lo cierto es que el hardware es una de las formas donde sacar más rentabilidad, pues precisamente las empresas están invirtiendo sus recursos en comprar hardware y software. Antes de que la burbuja de la IA explote, Microsoft quiere aprovechar y en vez de comprar chips a NVIDIA, ha decidido crear el suyo propio. Así es como tenemos el nuevo acelerador Maia 200 para IA y plantarle cara a NVIDIA. Este está creado usando el nodo de proceso de 3 nm de TSMC (N3P), tiene 216 GB de memoria HBM3E con 7 TB/s de ancho de banda, 272 MB SRAM y 140.000 millones de transistores.

Según Microsoft, este chip IA puede alcanzar hasta 10 PetaFLOPS de rendimiento FP4, 5 PetaFLOPS de rendimiento FP8 y 1,3 PetaFLOPS BF16. Este se completa con un ancho de banda bidireccional de 2,8 TB/s y un TDP de 750W. Con estas cifras, supera sin problemas a chips de IA como el de Amazon AWS Trainium3, aunque Microsoft se está enfocando en rivalizar contra el rey de los chips IA, NVIDIA.

Puede plantarle cara a la NVIDIA B300 Ultra en FP8 consumiendo la mitad

En la tabla comparativa podemos ver como se compara el nuevo chip de Microsoft vs AWS y NVIDIA. Primero tenemos el Trainium3, el cual también ha sido creado con el nodo N3P, pero este es 4 veces más lento en FP4 con 2,5 PetaFLOPS y la mitad de veloz en FP8 con 2,5 PetaFLOPS y en BF16 con 0,67 PetaFLOPS. Este chip de Amazon dispone de 144 GB HBM3E y menor ancho de banda, aunque se desconoce su TDP.

Con esto pasamos a la NVIDIA Blackwell B300 Ultra creada con el nodo 4NP algo más antiguo, pero suficiente para dar un rendimiento excelente. Tenemos así 15 PetaFLOPS en FP4 y 2,5 PetaFLOPs en BF16 que la pondría por encima de Microsoft, aunque las cosas cambian cuando vemos 5 PetaFLOPS en FP8 dejándola al mismo nivel. NVIDIA sigue teniendo ventaja también con 288 GB de memoria HBM3E y un ancho de banda HBM de 8 TB/s, pero a pesar de esto, tiene menor ancho de banda bidireccional y consume 1.400W.

Por tanto, podemos decir que Microsoft tiene casi el doble de eficiencia con su nuevo chip de IA Maia 200 comparado a la NVIDIA B300 Ultra, al menos en las pruebas con FP8. Además, Microsoft menciona que tiene un rendimiento por dólar un 30% superior al Maia 100. Eso sí, a diferencia de NVIDIA que puede comprarlas y usarlas cualquier empresa, Maia 200 no está disponible para eso, pues la usará de forma exclusiva Microsoft para Azure.