China hace de oro a NVIDIA ante el enfado de EE.UU por las GPU para IA

El enfado de Estados Unidos con una de sus empresas pioneras en lo que respecta a la IA no para de aumentar. Todos sus esfuerzos por bloquear a China se están viendo parcialmente opacados por culpa de NVIDIA, que, por otro lado, se está haciendo de oro gracias a las empresas del país de Xi Jinping. China no quiere quedarse atrás y está aprovechando los "vacíos legales" que está dejando la administración Biden para no perder comba, al menos, hasta que puedan levantar cabeza.

NVIDIA se hace de oro con China gracias a sus GPU para IA

Sin poder vender los A100 y H100 a los chinos, NVIDIA lanzó el H800 y se rió, literalmente, de Biden. El chip es legal, cumple con todos los requisitos de la lista, y debido a ello, puede ser vendido en territorio hostil. Lo mismo le ocurre al A800, que no deja de ser una derivación capada del A100, solo y en exclusiva para China.

Es cierto que no tienen NVLink, que el ancho de banda está reducido a 600 GB/s, y que esto está suponiendo un problemón de primer nivel a China, porque ¿cómo harán para instalar tantas tarjetas en los servidores sin interconectarlas? Por dar un dato clave para entender la magnitud de lo dicho, ChatGPT necesita más de 10.000 GPU A100 para poder entrenarse a un ritmo acelerado, y esto ya de por sí les lleva meses a los chicos de OpenAI, y eso que no están limitadas lógicamente.

¿Qué hace China entonces para poder hacer algo similar en su territorio y con GPU lastradas?

Como siempre, China va a volumen y optimización

Tencent presentó hace solo unos días su clúster de computación con NVIDIA H800 en su haber tras comprar cantidades no concretadas a los verdes. Este clúster se va a dedicar a entrenamiento de modelos de IA a gran escala, pero claro, sin la nombrada interconexión entre tarjetas el rendimiento caerá mucho frente a empresas como la mencionada OpenAI.

¿La solución? Comprar tres veces más de lo necesario a NVIDIA, es decir, pedir tres veces más GPU a Huang. El problema es que NVIDIA no da abasto junto con TSMC para producir chips al ritmo que quiere China, por lo que mientras que siguen llegando A800 y H800 los de Xi Jinping han ideado otro plan hasta alcanzar el objetivo en vez de quedarse parados esperando.

Y no es más que combinar chips A100, V100 y P100 de NVIDIA que ya poseían antes del boicot de la administración Biden. Además, y sabiendo que el hardware de NVIDIA con el H100 tiene una serie de características especiales (H100 NVL, GPU dual con hasta 188 GB de VRAM), China está desarrollando un modelo de entrenamiento alternativo para la IA, que según afirma Dylan Patel de SemiAnalysis "si funciona bien, pueden eludir las sanciones de manera efectiva".

Es una lucha fratricida por ver quién llega antes, quién innova más y cuál llega primero a la siguiente generación de IA generativa. Es el polo opuesto a lo que vimos con la carta para frenarla 6 meses. Los dos países, con la UE expectante para desarrollar sus propios modelos de entrenamiento, corren hacia delante sin pensar en las consecuencias, aunque avisos ha habido de sobra como hemos visto muchas veces en distintos artículos. ¿Se puede frenar esta ola de innovación y desarrollo de la IA? O ¿es demasiado tarde?