Les unités de traitement graphique de Nvidia fournissent la puissance de calcul essentielle pour la plupart des serveurs utilisés pour entraîner les modèles d'intelligence artificielle les plus avancés d'aujourd'hui. L'entreprise a déjà acquis une position de leader sur ce marché de l'entraînement.
Une fois un modèle d'IA entraîné, il doit être mis en service pour effectuer des tâches telles que répondre à des questions, écrire du code, produire des images ou rechercher des informations. Cette phase, appelée inférence, nécessite des ressources informatiques à chaque utilisation du modèle. Contrairement à l'entraînement, qui n'a lieu que très rarement, les workloads d'inférence peuvent être exécutés des millions ou des milliards de fois.
L'allégorie utilisée est souvent celle suivant laquelle la formation est comparable à une formation scolaire, tandis que l'inférence ressemble à l'application des connaissances acquises dans un emploi. Après l'investissement initial dans la formation, le besoin en puissance de traitement ne s'arrête pas ; il peut même augmenter à mesure que les modèles d'IA deviennent opérationnels.
Si les systèmes d'IA deviennent un élément couramment utilisé dans la vie quotidienne et les entreprises, le volume des workloads d'inférence pourrait devenir immense. L'émergence d'agents d'IA qui effectuent des tâches à étapes multiples, telles que la recherche d'une entreprise, l'analyse de données financières et la production d'un rapport, pourrait encore accroître la demande en calcul d'inférence.
Par conséquent, l'avantage actuel de Nvidia en matière de matériel d'entraînement pourrait lui permettre de capturer une part importante du marché de l'inférence en croissance, bien que l'échelle exacte de cette opportunité reste incertaine.
