Cherchant à connaître les performances des GPU les plus avancés du marché, Stability AI a décidé d’en comparer trois : le Gaudi 2 d’Intel ainsi que les A100 et H100 de Nvidia. Pour la start-up britannique, le résultat est sans appel : Intel a plus que rattrapé son concurrent en proposant un GPU plus performant.
Intel s’en sort bien en termes de performances, malgré une forte concurrence de Nvidia
Pour comparer les trois accélérateurs d’intelligence artificielle (IA), Stability AI les a utilisés pour entraîner deux de ses modèles. Le premier d’entre eux est Stable Diffusion 3, la dernière gamme de modèles de génération d’images de la startup. Dévoilée fin février et actuellement disponible en accès restreint, la jeune société a d’abord décidé de mener ses tests avec une version comprenant 2 milliards de paramètres.
En exploitant 16 accélérateurs Gaudi 2, la société a pu traiter 927 images par seconde, offrant une vitesse de traitement 65 % plus rapide que 16 H100-80GB. Ensuite, Stability AI est passé à la vitesse supérieure en exploitant 256 GPU. Dans ce scénario, les puces d’Intel ont été plus efficaces pour former la version à deux milliards de paramètres de Stable Diffusion 3, traitant 12 654 images par seconde, contre 3 992 pour l’A100 de Nvidia. A noter que le test n’a pas été réalisé pour les puces H100.
La start-up est allée plus loin en testant les puces lors de la phase d’inférence, étape cruciale pour finaliser l’entraînement d’un grand modèle de langage et le rendre efficace. Dans ce cas précis, c’est sur le modèle à huit milliards de paramètres, le plus avancé de l’entreprise, que les tests ont été réalisés. Les puces Gaudi 2 offraient une vitesse d’inférence similaire à celles des A100, mais notaient que ces dernières produisaient des images plus rapidement si elles étaient optimisées avec TensorRT, le kit de développement logiciel dédié au deep learning développé par Nvidia.
Enfin, Stability AI a testé l’Intel Gaudi 2 et le Nvidia A100 sur Stable Beluga 2.5, un modèle à 70 milliards de paramètres basé sur le LLM open Source proposé par Meta, LLaMA 2. Ici aussi, 256 accélérateurs d’IA Gaudi 2 ont été utilisés pour entraîner les modèle. La start-up a mesuré un débit moyen total de 116 777 résultats par seconde, un résultat qu’elle juge impressionnant. En ce qui concerne le test d’inférence, Gaudi 2 surpasse une fois de plus l’A100, générant 673 résultats par seconde, contre 525 pour le GPU Nvidia.
Si Intel semble avoir rattrapé son retard sur les versions actuelles des puces du leader du secteur, il devrait poursuivre ses efforts en déployant dans les prochains mois Gaudi 3, concurrent du H100. La concurrence s’annonce toutefois rude puisque d’ici la fin du semestre, Nvidia lancera officiellement son H200, et potentiellement reprendre l’avantage sur Intel.
