Si vous recherchez votre propre superordinateur d’IA personnel, Nvidia a ce qu’il vous faut.
Le fabricant de puces a annoncé au CES qu’il lancerait en mai un supercalculateur personnel d’IA appelé Project Digits. Le cœur de Project Digits est la nouvelle superpuce GB10 Grace Blackwell, qui contient suffisamment de puissance de traitement pour exécuter des modèles d’IA sophistiqués tout en étant suffisamment compacte pour tenir sur un bureau et fonctionner à partir d’une prise de courant standard (ce type de puissance de traitement nécessitait auparavant une puissance de traitement beaucoup plus grande). , systèmes plus gourmands en énergie). Ce système de la taille d’un ordinateur de bureau peut gérer des modèles d’IA comportant jusqu’à 200 milliards de paramètres et son prix de départ est de 3 000 dollars. Le produit lui-même ressemble beaucoup à un Mac Mini.
« L’IA sera omniprésente dans toutes les applications de tous les secteurs. Avec Project Digits, la Superchip Grace Blackwell est proposée à des millions de développeurs », a déclaré le PDG de Nvidia, Jensen Huang, dans un communiqué de presse. « Placer un superordinateur d’IA sur le bureau de chaque data scientist, chercheur en IA et étudiant leur permet de s’engager et de façonner l’ère de l’IA. »
Chaque système Project Digits est équipé de 128 Go de mémoire unifiée et cohérente (en comparaison, un bon ordinateur portable peut avoir 16 Go ou 32 Go de RAM) et jusqu’à 4 To de stockage NVMe. Pour des applications encore plus exigeantes, deux systèmes Project Digits peuvent être reliés entre eux pour gérer des modèles comportant jusqu’à 405 milliards de paramètres (le meilleur modèle de Meta, Llama 3.1, comporte 405 milliards de paramètres).
La puce GB10 offre jusqu’à 1 pétaflop de performances d’IA (ce qui signifie qu’elle peut effectuer 1 quadrillion de calculs d’IA par seconde) avec une précision FP4 (ce qui permet d’accélérer les calculs en effectuant des approximations), et le système est doté des cœurs CUDA de dernière génération de Nvidia et Cœurs Tensor de cinquième génération, connectés via NVLink-C2C à un processeur Grace contenant 20 cœurs Arm économes en énergie. MediaTek, connu pour ses conceptions de puces basées sur Arm, a collaboré au développement du GB10 pour optimiser son efficacité énergétique et ses performances.
Les utilisateurs auront également accès à la bibliothèque de logiciels d’IA de Nvidia, notamment des kits de développement, des outils d’orchestration et des modèles pré-entraînés disponibles via le catalogue Nvidia NGC. Le système fonctionne sur le système d’exploitation Nvidia DGX basé sur Linux et prend en charge les frameworks populaires tels que les notebooks PyTorch, Python et Jupyter. Les développeurs peuvent affiner les modèles à l’aide du framework Nvidia NeMo et accélérer les flux de travail de science des données avec les bibliothèques Nvidia RAPIDS.
Les utilisateurs peuvent développer et tester leurs modèles d’IA localement sur Project Digits, puis les déployer sur des services cloud ou une infrastructure de centre de données en utilisant la même architecture Grace Blackwell et la même plate-forme logicielle Nvidia AI Enterprise.
Nvidia propose une gamme d’appareils similaires dans le même style d’accessibilité : en décembre, elle a annoncé une version à 249 $ de son ordinateur Jetson pour les applications d’IA, ciblant les amateurs et les startups, appelée Jetson Orin Nano Super (il gère des modèles jusqu’à 8 milliards de paramètres). .
suisse
