NVIDIA e Intel se la miden en el nuevo benchmark para IA MLPerf Inference v5.1, ¿es mejor un Xeon 6 + Arc PRO B60 o una GB300 NVL72?

La industria tecnológica ha ido cambiando y adaptándose a medida que van saliendo nuevos dispositivos y tendencias. Desde hace alrededor de unos 3 años, la IA se ha metido de lleno y a día de hoy se considera el sector más importante y donde van destinados la mayor parte de los recursos de las empresas. Compañías como NVIDIA se centran en el lanzamiento de GPU para IA. Ahora tenemos a NVIDIA mostrando de lo que es capaz de hacer con sus Blackwell Ultra usando el GB300 NVL72 en el benchmark MLPerf Inference v5.1 y también a Intel participando con sus GPU Arc Pro B60 para así enfrentarse a gráficas como las AMD Instinct MI355X.

La inteligencia artificial está avanzando a un ritmo apabullante y esto es el resultado de las grandes inversiones realizadas en ella por parte de grandes compañías. Aquí tenemos empresas como OpenAI o incluso xAI de Elon Musk que poseen cientos de miles de GPU de NVIDIA, las cuales se consideran las mejores en términos de rendimiento. La compañía recientemente anunció sus Rubin CPX de nueva generación, pero aún queda más de un año para su lanzamiento oficial.

NVIDIA dice que ha logrado nuevos récords de rendimiento en MLPerf Inference v5.1

Mientras esperamos por Rubin, NVIDIA aprovecha para sacar pecho con la potencia de sus gráficas Blackwell. Concretamente nos referimos a la GB300 NVL72 con arquitectura Blackwell Ultra, la cual ha sido puesta a prueba en el nuevo MLPerf Inference v5.1. Este benchmark ha añadido tres nuevos puntos de referencia siendo estos DeepSeek-R1, Llama 3.1 8B y Whisper Large V3. Empezando con DeepSeek-R1, la GB300 NVL72 Blackwell Ultra logra 1,4 veces más rendimiento de inferencia que la GB200 NVL72 con arquitectura Blackwell.

Esto es debido a que ofrece 1,5 más potencia de cálculo NVFP4 y 2 veces más aceleración de atención que Blackwell. En la tabla podemos ver los resultados del resto de pruebas y NVIDIA anuncia que también han batido récords en Llama 3.1 405B Interactive con 138 tokens por segundo por GPU, Llama 3.1 8B con 15.284 tokens por segundo por GPU y Whisper con 5.668 tokens por segundo por GPU. También admiten ser los líderes en todas las categorías de GPU IA en servidores, así que ya sabes el vencedor.

Intel dice que es superior a NVIDIA con sus Arc Pro B60, pero solo en rendimiento/dólar gastado

Si ahora pasamos a Intel, esta también ha decidido participar en el benchmark MLPerf Inference v5.1 utilizando en esta ocasión workstations llamadas Project Battlematrix. Estas utilizan CPU Intel Xeon 6 con P-Cores y GPU Intel Arc Pro B60, las cuales se anunciaron hace unos meses. Según Intel, en la prueba de Llama 8B, el rendimiento por dólar de las Arc Pro B60 es 1,25 veces superior a la NVIDIA RTX 6000 Pro y de hasta 4 veces superior a las NVIDIA L40S con 48 GB de memoria. Lisa Pearce, vicepresidenta de Software, NPU y GPU de Intel, indica que esto es gracias al software optimizado para mejorar las cargas de inferencia en IA.

Así pues, consideran que estas son unas gráficas adecuadas para los profesionales y empresas que quieran trabajar en IA con buen rendimiento y a un precio más asequible que NVIDIA. También se ha hecho mención a su capacidad multi-GPU para incrementar aún más su rendimiento y también el añadido de funciones de gestión a nivel empresarial como ECC, SRIOV, actualizaciones remotas de firmware y telemetría. Por último, se ha hecho mención a las CPU Intel Xeon 6 con P-Cores que logran hasta 1,9 veces mejor rendimiento en MLPerf Inference v5.1.