L'accent de l'infrastructure d'intelligence artificielle change, passant de processeurs plus rapides à un déplacement des données plus efficace, alors que l'industrie fait face à des bottlenecks dans les interconnects et la distribution de la mémoire.
Cette semaine, dans le cadre de la conférence Hot Chips, des analystes et des dirigeants ont souligné que la prochaine phase du développement de l'IA est moins limitée par la vitesse des puces que par la capacité à transférer et à stocker les données dans des systèmes de plus en plus complexes. À mesure que les modèles atteignent des échelles avec un milliard de paramètres et que les fenêtres de contexte se dilatent, le volume de données qui doit être transféré entre les puces, les serveurs et les datacentres dépasse les améliorations apportées à la performance brute de calcul.
L'intégration de la mémoire est devenue indissociable des défis du réseau, ont fait observer les analystes. Des technologies telles que les mémoires en paquet, les interfaces à bande passante élevée et les architectures de mémoire distribuée sont mises en œuvre pour garder les données plus proches des unités de traitement et réduire le trafic sur les voies de données congestionnées.
Dans une déclaration, les analystes de Citi soulignent cet échange stratégique : « Le futur vainqueur dans l'AI ne sera pas nécessairement l'entreprise ayant le processeur le plus rapide, mais celle qui peut déplacer les données de manière la plus efficace dans l'ensemble du système. »
La tendance est déjà en train de réformer les roadmaps d'investissement et de produits dans l'ensemble de la chaîne d'approvisionnement en IA. Les entreprises en position pour en bénéficier comprennent Nvidia, Broadcom, Arista Networks, Lumentum, Coherent, Marvell Technology et Astera Labs, selon Citi. Ces entreprises développent des composants pour les interconnexions à haute vitesse, les émetteurs-récepteurs optiques et les technologies d'emballage avancées essentielles aux datacentres d'IA de nouvelle génération.
Les principaux développeurs d'IA s'alignent également sur cette direction. Les présentations de Meta Platforms, Google, Samsung et d'autres entreprises soulignent l'importance croissante de l'optimisation du flux de données dans la conception des systèmes. Nvidia, par exemple, décrit sa vision pour les futurs Data Center d'IA comme des « usines d'IA », où l'architecture est organisée autour du mouvement de données plutôt que des jeux de serveurs traditionnels.
Les observateurs de l’industrie soulignent que cette évolution reflète une transition plus large dans l’infrastructure d’IA : d’une époque dominée par la densité de calcul à une autre où la connectivité, la latence et la localisation de la mémoire définissent les plafonds de performance.
