Der Fokus der künstlichen Intelligenz-Infrastruktur verschiebt sich von schnelleren Prozessoren hin zu effizienterer Datenübertragung, da die Branche mit Engpässen bei der Datenübertragung und der Speicherverteilung konfrontiert ist.
Auf der Hot Chips-Konferenz diese Woche haben Analysten und Führungskräfte betont, dass die nächste Phase der KI-Entwicklung weniger durch die Chipspeicherleistung als vielmehr durch die Fähigkeit zur Übertragung und Speicherung von Daten über immer komplexere Systeme eingeschränkt ist. Während Modelle in ein Millionen-machtig Parameterskalier steigen und die Kontextfenster sich erweitern, überrundet der Datenvolumen, der zwischen Chips, Servern und Rechenzentren übertragen werden muss, die Verbesserungen in der reinen Rechenleistung.
Die Integration von Speicher ist heute untrennbar verbunden mit Netzwerkchallenges, betonen die Analysten. Technologien wie in-package-Speicher, hochbreitbandige Verbindungen und verteilte Speicherarchitekturen werden eingesetzt, um Daten näher an die Verarbeitungseinheiten zu bringen und den Datenverkehr über überlastete Datenwege zu reduzieren.
Die Analysten von Citi betonten die strategische Veränderung in einer Erklärung: „Der zukünftige Gewinner in KI wird nicht unbedingt das Unternehmen mit dem schnellsten Prozessor sein, sondern das, das Daten am effektivsten über das gesamte System verteilen kann.“
Der Trend verändert bereits die Investitions- und Produktpläne entlang der gesamten KI-Supply-Chain. Zu den Unternehmen, die davon profitieren könnten, gehören Nvidia, Broadcom, Arista Networks, Lumentum, Coherent, Marvell Technology und Astera Labs, so Citi. Diese Unternehmen entwickeln Komponenten für Hochgeschwindigkeitsverbindungen, optische Transceiver und fortschrittliche Verpackungstechnologien, die für Datencentren der nächsten Generation von zentraler Bedeutung sind.
Auch die wichtigsten Entwickler von KI lehnen sich in diese Richtung ein. Präsentationen von Meta Platforms, dem Mutterkonzern von Google Alphabet, Samsung und anderen betonten die wachsende Bedeutung der Optimierung des Datenflusses beim Systemdesign. Nvidia bezeichnet beispielsweise seine Vision für zukünftige KI-Rechenzentren als „KI-Fabriken“, in denen die Architektur nicht um Server im Mittelpunkt ausgerichtet ist, sondern die Datenbewegung im Vordergrund steht.
Industriebeobachter bemerken, dass diese Entwicklung einen umfassenderen Übergang in die KI-Infrastruktur widerspiegelt: von einer Ära, in der die Rechenleistungszuverlässigkeit dominierte, zu einer, in der Konnektivität, Latenz und Speicher-Lokalität die Leistungsgrenzen definieren.
