Nvidias Grafikprozessoren bilden die wichtigste Rechenleistung für die Mehrheit der Server, die zur Ausbildung der heutigen modernsten künstlichen Intelligenz-Modelle verwendet werden. Das Unternehmen hat sich in diesem Trainingsmarkt bereits eine führende Position geschafft.
Sobald ein KI-Modell trainiert ist, muss es bereitgestellt werden, um Aufgaben wie das Beantworten von Fragen, das Schreiben von Code, das Erstellen von Bildern oder die Suche nach Informationen durchführen zu können. Diese Phase, die als Inferenz bezeichnet wird, erfordert bei jeder Verwendung des Modells Rechenressourcen. Im Gegensatz zum Training, das nur selten stattfindet, können Inferenz-Arbeitsbelastungen Millionen- oder Milliardenfach auftreten.
Die oft verwendete Analogie lautet: Training ist wie eine Schulbildung, während Inferenz einem Aufbringen des Erlernten in der Karriere ähnlich ist. Nach der anfänglichen Investition in die Ausbildung besteht weiterhin ein Bedarf an Rechenleistung. Dieser kann sogar steigen, wenn die KI-Modelle in Betrieb genommen werden.
Wenn KI-Systeme zum alltäglichen Bestandteil von Leben und Geschäft werden, könnte der Menge der Inferenzaufgaben riesig werden. Die zunehmende Verwendung von KI-Agenten, die mehrstufige Aufgaben wie die Erstellung von Unternehmens- oder Finanzdaten sowie das Erarbeiten von Berichten ausführen, könnte die Nachfrage nach Inferenzrechenleistung weiter erhöhen.
Nvidias derzeitige Vorteile bei der Trainingshardware könnten daher dazu führen, dass es einen bedeutenden Anteil am expandierenden Inference-Markt erobert, obwohl die genaue Grösse dieser Möglichkeit weiterhin ungewiss ist.
