Am zweiten Tag der Hot Chips-Konferenz wurde eine Verschiebung in der Infrastruktur für künstliche Intelligenz unterstrichen: Netzwerke und nicht die reinen Rechenressourcen sind jetzt die primäre Einschränkung für die Systemleistung, da AI-Modelle in Grösse und Komplexität ausweiten.
Die Analysten von Citi betonten, dass die Entwicklung von KI zwar zunächst auf schnelleren Grafikprozessoren (GPU) und grösseren Beschleunigern beruhte, die Möglichkeit, Daten effizient zwischen Chips, Servern, Racks und Rechenzentren zu verwalten, wurde jedoch zu einer grösseren Herausforderung. Modelle mit Milliarden von Parametern, grösseren Kontextfenstern und autonomen Agentenlasten generieren exponentiell mehr Datenverkehr und überfordern die klassischen Verbindungen.
Der Engpass ist deutlich in der Reaktion der Branche zu erkennen. Nvidia propagiert ihr Konzept der "AI-Fabriken", eine Rechenzentrumsarchitektur, die auf optimierten Datenstromen basiert und Komputation, Speicherplatz, Netzwerk, Speicher und Sicherheit verbindet – nicht das traditionelle serverzentrierte Modell. Dieser Ansatz entspricht einer allgemeinen Branchenumschaltung hin zu integrierten Systemen, in denen Bandbreite und Latenz, und nicht nur die Rechenleistung, die Gesamtleistung des Systems bestimmen.
Speicher spielt einen immer grösseren Beitrag zur Vernetzungsherausforderung. Samsung, XCENA und Cerebras zeigten Technologien, die darauf abzielen, Daten näher am Ort der Verarbeitung zu halten und somit die Menge der Daten zu reduzieren, die über verstopfte Schnittstellen fliessen muss. Jedes Byte, der lokal gespeichert wird, reduziert den Kommunikationsaufwand und verbessert die Effizienz bei grossflächigen Bereitstellungen.
Die Branchenakteure überdenken ausserdem die Infrastruktur auf physikalischer Ebene. Lumentum, Coherent, Marvell Technology und Astera Labs gehören zu den Unternehmen, die optische und elektrische Komponenten entwickeln, um höhere Datenraten und kürzere Latenzen in Rechenzentrumsnetzwerken zu ermöglichen. Arista Networks und Broadcom liefern Hochgeschwindigkeits-Switches und Silizium, um die wachsende Nachfrage nach Verbindungen mit niedriger Latenz zu decken.
Die Analysten von Citi haben in einem jüngsten Bericht die strategischen Implikationen unterstreicht: „Der künftige Gewinner in Sachen KI ist nicht unbedingt das Unternehmen mit dem schnellsten Prozessor, sondern das Unternehmen, das die Daten am effizientesten durch das gesamte System bewegen kann.“ Diese Beobachtung unterstreicht, wie stark die KI-Leistung zunehmend von der Qualität des zugrunde liegenden Netzwerkstacks abhängt – vom Chip-zu-Chip-Verbindungen bis zum Netzwerk auf Rechenzentrumsniveau.
Der Trend hat die Aufmerksamkeit grosser Entwickler von KI auf sich gezogen. Unter anderem evaluieren Meta Platforms und Alphabets Google derzeit Lösungen für die Netzwerktechnologie der nächsten Generation, um ihre expandierenden Modelle für Schulungen und Inferenz zu unterstützen. Samsungs Teilnahme an der Konferenz signalisiert ihren Einsturz in KI-optimierte Speichertechnologien und Verbindungsmöglichkeiten, während Cerebras weiterhin fordert, dass grosse Chips integriert werden, um die Datenbewegung zu minimieren.
