NVIDIA apuesta por DPU y GPU para servidores en una sola tarjeta con su AX800

Una de las piezas más raras en cuanto a hardware por parte de NVIDIA que se han visto en los últimos tiempos es su AX800, la cual combina dos tipos de componentes muy típicos en servidores, pero que normalmente se encuentran por separado. Por un lado, una DPU y en el otro extremo una GPU HPC A100. ¿Qué hace especial esta rareza del hardware?

En el mundo de los servidores, los chips conocidos como DPU están a la orden del día. Se trata de diseños cuyo objetivo es encargarse del movimiento de datos en gran volumen y que buscan liberara la CPU del sistema a la hora de realizar dichas tareas. Pues, hemos de tener en cuenta que desde la compra de Mellanox por parte de NVIDIA, esta crea productos que no solo son tarjetas gráficas, sino también basados en las Data Processor Unit BlueField. Claro está que el producto que nos ocupa en este artículo combina ambos elementos.

NVIDIA AX800, GPU+DPU en una sola tarjeta PCI Express

Nos encontramos ante una de esas piezas que solo se ven en el mundo de los servidores, pero que no por ello deja de llamarnos menos la curiosidad. Técnicamente, se trata de dos componentes diferenciados en un solo PCB, pero compartiendo acceso a un mismo puerto PCI Express 5.0, por lo que han de compartir acceso tanto con la CPU como con la RAM del sistema, así como la fuente de alimentación, la cual alimenta a la AX800 con 350 W.

Especificaciones de la DPU

En el caso que nos ocupa, se podría considerar como un servidor ARM en una tarjeta PCI Express, dado que el chip DPU tiene las siguientes especificaciones técnicas:

• 16 núcleos ARM Cortex A78 a 2.3 GHz,
• 32 GB de memoria DDR5-5600 soldada a la placa en BGA.
  • Bus de 128 bits: 89.6 GB/s de ancho de banda
• 40 GB de almacenamiento eMMC.
• Incluye algunos aceleradores como:
  • Hardware root of trust
  • RegEx
  • Cifrado IPsec/TLS data-in-motion 
  • Cifrado AES-XTS 256/512-bit data-at-rest 
  • Aceleración por hardware de SHA 256-bit
  • Acelerador por hardware de claves públicas.
  • Generador real de números aleatorios. 

Hemos de partir del hecho de que este tipo de chips se utilizan para encriptar y desencriptar una gran cantidad de información al vuelo, la suficiente como para que el proceso combinado de todos los procesos a memoria acaben consumiendo todo el tiempo de proceso de la CPU.  En todo caso, no es el único elemento dentro de esta extraña tarjeta de expansión para servidores

Especificaciones de la GPU

Por otro lado, no podemos olvidarnos que en el AX800 la DPU, no va en solitario, y tenemos con ella una GPU A100 de NVIDIA, pero, con las especificaciones algo recortadas.

• La velocidad de reloj en base es de 840 MHz y en Boost de 1410 MHz, cifras bastante bajas, pero se entienden por el hecho de compartir ambos chips y sus memorias el mismo conector de alimentación.
• Trae 80 GB de memoria HBM2E, para un total de 5 pilas y un ancho de banda de 2 TB/s entre el chip A100 y su memoria.

Sin embargo, no podemos olvidar que no estamos hablando de una tarjeta gráfica, sino más bien que la enorme potencia en computación sirve como asistente a la DPU a la hora de controlar el movimiento en un servidor compuesto no solo por decenas, sino ciento e incluso miles de racks distintos. No obstante, la AX800 desde el momento en que utiliza interfaz PCI Express es una pieza cuanto menos extraña y más cuando tenemos en cuenta que no hace uso de dicha interfaz para comunicarse con el resto de los componentes, dado que para ello utiliza su controlador Ethernet de 200 Gbps.

En todo caso, nos se trata de una pieza de hardware que se vea todos los días, especialmente en un PC doméstico.