Selon les analystes de Citi, à la suite de la deuxième journée de la conférence Hot Chips, la capacité de réseau a supplanté la vitesse de traitement brute comme principal poste de blocage pour les performances de l'intelligence artificielle.
Ce changement reflète la complexité croissante des workloads d'IA, qui requièrent désormais un déplacement de données à travers des milliards de paramètres, des fenêtres contextuelles plus importantes et des opérations d'agents autonomes. Les infrastructures de datacenter traditionnelles, construites autour des serveurs, cèdent leur place à des structures inspirées de la vision de Nvidia d'« usines d'IA » : des systèmes intégrés où le calcul, la mémoire, les réseaux, le stockage et la sécurité sont optimisés pour le flux de données, plutôt que pour un matériel isolé.
Citi a identifié sept entreprises en position de tirer profit de cette transition : Nvidia, Broadcom, Arista Networks, Lumentum, Coherent, Marvell Technology et Astera Labs. Les présentations de la conférence ont également souligné la tendance des sociétés Nvidia, Broadcom, Meta Platforms, Google d'Alphabet et Samsung, ainsi que les discussions sur les technologies de mémoire et de localisation des données telles que XCENA et Cerebras.
La première vague d'infrastructures d'IA privilégiait les GPU plus rapides, les accélérateurs plus grands et les capacités d'entraînement élargies. Cependant, à mesure que les modèles se développent et que les workloads se diversifient, le point de blocage s'est déplacé vers l'efficacité du mouvement des données à l'intérieur et entre les systèmes. Les analystes de Citi ont souligné que les futurs leaders de l'IA ne seront peut-être pas ceux qui disposent des processeurs les plus rapides, mais bien ceux capables de déplacer les données de manière la plus efficace dans l'ensemble du système.
Le concept des usines d'intelligence artificielle souligne le virage de l'industrie vers la conception holistique des systèmes, où l'infrastructure de réseau devient une couche clé permettant d'obtenir des gains de performance que le calcul brute seul ne peut plus assurer.
