Dell lanza la alerta: la memoria para IA puede dispararse en hasta 625 veces, ¿no terminará la crisis en breve?

Michael Dell ha puesto una cifra enorme, casi tremenda, sobre la mesa para describir el choque entre la expansión de la IA y la capacidad real del sector de la memoria: la demanda total para infraestructura puede multiplicarse por 625. Su argumento no gira alrededor de un solo argumento, sino de 2 a la vez. Por un lado, la memoria por acelerador o GPU sube de forma muy fuerte. Por otro, también crece el tamaño de los sistemas dentro de los centros de datos. Y, según explicó, esa combinación sigue empujando la demanda mientras la oferta tarda años en reaccionar.

Dell expuso esta idea en un evento de Bank of America y lo hizo dejando claro que, a su juicio, el mercado no está en una fase madura, sino bastante al principio del despliegue. Esto viene a decirnos, a confirmarnos, que lo que vimos con los contratos de SK Hynix y Samsung a largo plazo solo perpetuará una cosa: la crisis de la memoria no se va a ir tan pronto como creemos, o decían.

Dell avisa sobre la IA en GPU y servidores: se disparará hasta 625 veces en los próximos años

ETNews recoge las declaraciones de Dell y sostiene que la infraestructura de IA sigue en una etapa inicial de adopción y que la demanda actual no se está frenando, aunque la oferta no pueda ampliarse con rapidez:

“En la infraestructura de IA, al crecer al mismo tiempo la memoria por acelerador y la escala del sistema, se está formando una estructura en la que la demanda total de memoria aumenta alrededor de 625 veces”.

La cifra es tan concreta como impactante, para qué negarlo, aunque no queda solo ahí. La explicación numérica que acompaña a esa frase es muy concreta. Dell señala que la capacidad de memoria por cada acelerador de IA estaba en 80 GB en la NVIDIA H100 de 2022 y que en 2028 puede llegar a 2 TB. A eso suma otro factor: el despliegue de aceleradores dentro de un centro de datos crecería aproximadamente 25 veces. Con estos datos resume el resultado máximo de esa doble expansión como un 25 x 25, es decir, hasta 625 veces más demanda total de memoria.

La IA ha venido para quedarse, el sector de la memoria estará tensionado más años de los previstos

Y esta es la conclusión más clara y obvia de lo que tenemos entre manos en este momento. Lo peor es que Dell no pone una fecha clara de cuándo cree que la demanda bajará por pura estabilización:

“Ampliar la oferta de memoria lleva años, pero la demanda actual de infraestructura de IA no se está desacelerando. Seguimos en una fase temprana de adopción tecnológica”.

Según Dell, en 2023 los fabricantes de memoria redujeron sus inversiones por el deterioro del mercado, y de ahí nace la situación actual de escasez de oferta. Aun con ese cuello de botella, el mandatario sostiene que la demanda de servidores continúa firme por dos razones: el avance de la IA entre los hyperscalers y el impulso de proyectos de soberanía en IA ligados a las tensiones geopolíticas.

“No es razonable que un trabajador del conocimiento con un salario de 100.000 dólares use un PC antiguo o sistemas ineficientes”.

Blanco y en botella, como se suele decir. A partir de ahí, el directivo remata la idea con otro argumento: si se tiene en cuenta la productividad, las empresas acabarán invirtiendo en infraestructura. Además, añade que la mayoría de los aproximadamente 25 países con mayor PIB ya están desarrollando algún tipo de proyecto de “Sovereign AI”.

Sea como fuere, la declaración de Dell sobre el aumento de 625 veces la memoria desde 2022 no parece ni mucho menos una exageración, y la prueba de ello, por ejemplo, fue la preview de NVIDIA Feynman. Por lo tanto, en el sector del gaming nos vamos a quedar con los nodos con mejor rendimiento-precio, con saltos más pequeños y con un GAP temporal entre generaciones mayor, y claro, costes más altos.