Die Netzwerkkapazität hat die reine Verarbeitungsgeschwindigkeit als Hauptbeschränkung für die Leistung künstlicher Intelligenz überholt, so die Analysten von Citi am zweiten Tag der Hot Chips-Konferenz.
Diese Entwicklung spiegelt die wachsende Komplexität von KI-Workloads wider, die jetzt Trillionen von Parametern, grössere Kontextfenster und autonome Agentenoperationen erfordern. Traditionelle Rechenzentren, die auf Servern basieren, machen Platz für Anlagenzustände, die auf der Vision von Nvidia "AI-Fabriken" beruhen – integrierte Systeme, in denen Rechenleistung, Speicher, Netzwerk, Datenspeicher und Sicherheit für den Datenfluss optimiert sind und nicht für einzelne Hardwarekomponenten.
Citi hat sieben Firmen identifiziert, die davon profitieren könnten: Nvidia, Broadcom, Arista Networks, Lumentum, Coherent, Marvell Technology und Astera Labs. Auf der Konferenz wurden auch die Entwicklung von Nvidia, Broadcom, Meta Platforms, Alphabets Google und Samsung sowie Technologien für Speicher und Datenlokalität wie XCENA und Cerebras thematisiert.
Die erste Welle der KI-Infrastruktur setzte auf schnellere Grafikprozessoren, grössere Beschleuniger und erweiterte Trainingskapazitäten. Doch da die Modelle immer grösser werden und die Arbeitslasten sich diversifizieren, hat sich der Engpass auf die Effizienz der Datenübergabe innerhalb und zwischen Systemen verschoben. Citi-Analysten betonten, dass die künftigen Marktführer in der KI nicht unbedingt diejenigen sein werden, die über die schnellsten Prozessoren verfügen, sondern diejenigen, die in der Lage sind, Daten am effizientesten durch das gesamte System zu bewegen.
Das Konzept der KI-Fabriken unterstreicht den Schwenk der Branche hin zu einer holistischen Systemgestaltung, in der die Netzwerkinfrastruktur die entscheidende Ebene darstellt, die leistungssteigernde Vorteile ermöglicht, die von reiner Rechenleistung allein nicht mehr zu erzielen sind.
