Los Nvidia DGX-A100 incorporan en su interior 2x CPUs AMD EPYC 7742 de 64 núcleos

Si bien Nvidia revelaba en la tarde de hoy su DGX-A100, la compañía se olvidó de dar a conocer un detalle muy importante, y es que estos sistemas hacen uso de los procesadores EPYC 'ROME' de AMD, es decir, la 2ª Generación de CPUs AMD EPYC con la microarquitectura Zen2 a un proceso de fabricación de 7nm. Esto se traduce en que Intel se ha quedado sin estar presente en estos nuevos sistemas, viendo como se ha preferido escoger las CPUs EPYC a los Xeon, y es que el modelo de anterior generación empleaba los Xeon Platinum, lo que disparaba su precio y consumo.

En concreto estos superordenadores integran dos procesadores AMD EPYC 7742, lo que da lugar a ofrecer 64 núcleos y 128 hilos de procesamiento por CPU que, combinados, nos da un total de 128 núcleos y 256 hilos a una frecuencia Turbo de 3.40 GHz.

El resto de la información ya la conocíamos, y es que estos 128 núcleos y 256 hilos de procesamiento se acompañan de 8x Nvidia Tesla A100 con 320 GB de memoria HBM2E arrojando un ancho de banda de 12.4 TB/s y un rendimiento de IA de 5 petaflops.

Tambien tenemos 6x Nvidia NVSwitch interconectados mediante la tecnología Nvidia NVLink con un ancho de banda bidireccional de 4.8 TB/s; 9x Mellanox ConnectX-6 HDR 200Gb para ofrecer una interfaz de red bidireccional de 3,6 TB/s; 15 TB de almacenamiento SSD M.2 NVMe PCI-Express 4.0, y el software Nvidia DGX para que todo funcione como un reloj suizo.

Según la compañía, sólo un rack con 5x Nvidia DGX A100 puede reemplazar a centros de datos o infraestructuras de inferencia consumiendo 1/20 parte de su energía, ocupando 1/25 parte del espacio y todo ello costando 1/10 parte respecto al precio estos sistemas, y es que esta hermosura "sólo" cuesta 199.000 dólares.