AMD e Intel anuncian la compatibilidad total con los modelos de IA Llama 3.1 para las CPU, GPU y NPU

Cuando la IA empezó a ser reconocida como una nueva herramienta que hará nuestras vidas más fáciles, sabíamos que el interés en esta iba a crecer constantemente. Fue toda una sorpresa ver el gran impacto que tuvo algo como ChatGPT y desde entonces, no hemos parado de ver como aparecen nuevos modelos que esperan competir y superar a GPT de OpenAI. Meta es una de estas compañías que ha estado desarrollando sus propios modelos de inteligencia artificial y tanto AMD como Intel se han encargado de garantizar una compatibilidad total con Llama 3.1, pues funcionará tanto en sus CPU, GPU y NPU.

La inteligencia artificial generativa se encuentra en cada vez más dispositivos, programas y aplicaciones de todo tipo. Esta se encarga de crear contenido de todo tipo, siempre y cuando haya sido entrenado previamente con este. Con esta herramienta en nuestras vidas, podemos conseguir una productividad muchísimo más elevada a la hora de crear contenido.

Las CPU, GPU y NPU de AMD serán compatibles con la IA Llama 3.1

La IA generativa no solo se encarga de crear imágenes o vídeos, sino que también puede generar texto en forma de respuestas a nuestras preguntas o peticiones. Así es como los chatbots como ChatGPT funcionan y se han vuelto tan útiles, hasta el punto de que el resto de compañías quieren ocupar este puesto. Hemos visto a empresas del calibre de Google lanzar modelos de IA como Gemini para lograrlo, pero por el momento ninguna ha conseguido tener el mismo impacto que tuvo OpenAI.

Otras como Meta han estado desarrollando sus propios modelos de IA. La primera versión de Llama apareció a principios de 2023 y buscaba competir contra Google Bard. Las cosas han cambiado mucho desde entonces y hace apenas unos meses, Meta anunció Llama 3 con un rendimiento que podía competir contra Gemini de Google. El último modelo que está desarrollando Meta es Llama 3.1 y este recibirá soporte día 0 con todo el hardware de AMD. Esto significa que serán compatibles con las CPU Ryzen y EPYC, al igual que las GPU Instinct, Radeon y hasta las NPU. Este nuevo modelo soporta 8 idiomas y su versión Llama 3.1 405B se ha convertido en el modelo más grande disponible de forma abierta.

Intel anuncia mejoras de rendimiento con Llama 3.1 en todo su hardware

Con las GPU Instinct MI300X se consigue ejecutar una instancia de Llama 3 70B con una sola GPU y hasta 8 instancias paralelas de forma simultánea. Con la nueva versión 405B siendo esta notablemente más grande, se requiere de un servidor con 8 MI300X. Esta compatibilidad no es exclusiva con AMD, sino que también el hardware de Intel funcionará con Llama 3.1. En este caso, es Intel la que no se ha querido conformar con simplemente la compatibilidad, sino que ha anunciado que tanto sus CPU como sus GPU tendrán un rendimiento mejorado con Llama 3.1.

Esto incluye los procesadores Intel Core e Intel Xeon, las GPU Arc y hasta los aceleradores IA Gaudi. Al igual que AMD probó sus GPU MI300X con Llama, Intel hizo lo mismo. En este caso han visto como con el modelo Llama 3.1 8B y Gaudi 2, se consigue mejor rendimiento en las longitudes de token de 32K y 128K.