El éxito de Intel Granite Rapids tiene explicación: consigue 3 veces mejor rendimiento en IA con AMX activado

Intel fue considerada como la empresa líder en procesadores años atrás, momento donde dominaba tanto en CPU de PC de sobremesa, portátiles y servidores. Sin embargo, la llegada de las CPU con arquitectura Zen de AMD y el inicio de los Ryzen, Threadripper y EPYC fue cambiando esta situación. AMD cada vez le roba más cuota de mercado a Intel, pero esta ha conseguido recuperarse en un segmento de mercado, el de los servidores. Esto es gracias a que sus últimos Intel Xeon Granite Rapids disponen de una enorme ganancia en IA gracias a su tecnología AMX permitiéndole ganar 3 veces más rendimiento.

La primera generación de procesadores de AMD Ryzen no consiguió superar a Intel, pero si provocó que la empresa azul tuviera que ponerse las pilas para salir adelante en rendimiento. Con los Ryzen Threadripper vimos que podían competir contra los Xeon de Intel y aquí empezaba el peligro. Sin embargo, no fue hasta los EPYC cuando Intel realmente temió por su vida, pues estos ofrecían una mayor cantidad de núcleos, mayor frecuencia, mejor rendimiento y menor precio.

Intel Granite Rapids es mucho más rápido en tareas de IA en Ubuntu cuando se activa AMX

Cada generación de AMD EPYC ha ido sacando más ventaja a Intel y sus Xeon hasta el punto de que pasó de un 3% de cuota de mercado a más de un 30% en unos pocos años. Parecía que no había nada que pudiera hacer Intel para parar a AMD, pero con la última generación de Intel Xeon Granite Rapids ha podido recuperar parte del terreno perdido. Intel pasó a tener un 14% de la cuota de CPU en la nube y ahora sabemos cuál es la razón detrás de ello. Desde Phoronix han hecho pruebas de rendimiento en Linux enfocándose en AMX, Advanced Matrix Extensions, la cual ha permitido obtener una gran mejora de rendimiento en IA.

AMX no es nuevo, pues existía ya con Sapphire Rapids, pero ha sido en esta generación de Intel Xeon 6 Granite Rapids cuando se le ha sacado mucho más partido. Con nada menos que 2 Intel Xeon 6980P que suponen 256 núcleos y 512 hilos, comenzamos las pruebas muy fuerte, pues en OpenVINO con AMX activado se consigue casi 9 veces más FPS en Face Detection FP16 que con las instrucciones desactivadas en la CPU. En otras pruebas de OpenVINO vemos mejoras de 2 a 3 veces más FPS en detección de vehículos y personas. El consumo de la CPU no aumenta con AMX, aunque si lo hace el sistema completo. Si pasamos a las pruebas de Llama.cpp, aquí nos encontramos mejoras enormes de hasta 5 veces el rendimiento que se obtenía con AMX desactivado.

AMX da 3 veces más rendimiento de media sin aumentar el consumo

En las pruebas con IA como Qwen o DeepSeek R1 se observan grandes mejoras con AMX activado, por lo que no es una extensión que sea efecto placebo. De hecho, si nos vamos a los resultados finales tenemos una media de 156,99 puntos con AMX activado en los Intel Xeon 6980P y de 57,15 puntos con AMX desactivado. Tenemos así una mejora de prácticamente 3 veces más rendimiento a lo largo de decenas de pruebas y esto determina que AMX es muy útil en tareas que involucren la IA.

Si nos fijamos en el consumo medio de todas las pruebas, podemos ver que con AMX, la CPU ha bajado ligeramente de 607W a 595W y lo mismo con la temperatura que pasa de 56,6 a 55,45. Si bien habíamos visto antes una subida del consumo del equipo entero, aquí en los resultados finales de media no podemos decir lo mismo. Con AMX activado suben 10W los mínimos y 20W los máximos, pero la media es 8W menor y lo que si vemos es que hay una mayor variación de consumo entre pruebas.