La capacidad de la red ha superado la velocidad bruta de procesamiento como principal restricción del rendimiento de la inteligencia artificial, según los analistas de Citi, tras la segunda jornada de la conferencia Hot Chips.
Este cambio refleja la creciente complejidad de las cargas de trabajo de la IA, que ahora exigen el movimiento de datos a través de billones de parámetros, ventanas de contexto más amplias y operaciones de agentes autónomos. Los diseños tradicionales de los centros de datos, organizados en torno a los servidores, están cediendo lugar a instalaciones modeladas en la visión de Nvidia de «fábricas de inteligencia artificial»: sistemas integrados en los que la computación, la memoria, la conectividad, el almacenamiento y la seguridad están optimizados para el flujo de datos en lugar de estar basados en hardware independiente.
Citi identificó siete empresas que se benefician de esta transición: Nvidia, Broadcom, Arista Networks, Lumentum, Coherent, Marvell Technology y Astera Labs. Las presentaciones en la conferencia también destacaron la tendencia entre Nvidia, Broadcom, Meta Platforms, Google de Alphabet y Samsung, junto con debates sobre tecnologías de memorias y localización de datos tales como XCENA y Cerebras.
La primera ola de infraestructura de IA priorizó las GPU más rápidas, los aceleradores más grandes y la capacidad de entrenamiento ampliada. Sin embargo, a medida que los modelos escala y las cargas de trabajo se diversifican, el cuello de botella se ha trasladado a la eficiencia del movimiento de datos dentro y entre los sistemas. Los analistas de Citi enfatizaron que los líderes futuros en IA pueden no ser aquellos con los procesadores más rápidos, sino aquellos capaces de mover los datos de manera más eficiente en todo el sistema.
El concepto de fábricas de IA pone de relieve el giro de la industria hacia el diseño holístico de los sistemas, en el que la infraestructura de red se convierte en la capa crítica que permite mejorar el rendimiento, algo que la computación bruta ya no puede lograr por sí sola.
