• Caractéristiques du constructeur, rien d'approximatif
  • Chaque machine associée aux modèles qu'elle peut faire tourner
  • Livraison dans le monde entier, droits et taxes inclus
Accélérateurs IA

Catégorie

Cartes accélératrices IA et ordinateurs pour créer des modèles

Des cartes accélératrices IA et des ordinateurs de bureau conçus d'abord pour l'IA : les cartes Tenstorrent, avec une pile logicielle open source, et l'ordinateur de bureau NVIDIA DGX Spark.

Le début de quelque chose de grand : NVIDIA DGX Spark est arrivéVidéo officielle · NVIDIA

Un accélérateur IA se choisit d'abord pour son logiciel. Le NVIDIA DGX Spark est une machine de développement CUDA de 128 GB dont le code se porte ensuite sur des systèmes DGX plus grands et sur le cloud ; les cartes Tenstorrent utilisent une pile entièrement open source, programmable jusqu'aux kernels. Si vous voulez surtout faire tourner rapidement de gros modèles plutôt que les développer, un Mac Studio ou une carte graphique convient souvent mieux.

Notre sélection

3 produits

Comment choisir un accélérateur IA

CUDA ou open source
Le DGX Spark est livré avec la pile logicielle IA de NVIDIA : le code écrit dessus se porte sur des systèmes DGX plus grands avec peu de modifications. Les cartes Tenstorrent utilisent TT-Metalium et TT-Forge, open source des kernels bas niveau jusqu'au compilateur de modèles. Ce ne sont pas des cartes CUDA.
Vérifiez d'abord la prise en charge des modèles
Avant d'acheter une carte Tenstorrent, vérifiez que les modèles dont vous avez besoin figurent dans la bibliothèque de modèles open source de Tenstorrent. Sur la Wormhole n300, les 24 GB sont répartis en 12 GB par puce : les modèles plus gros nécessitent une version multipuce fonctionnelle.
La mémoire fixe le plafond
Selon la règle de notre guide des modèles, les 128 GB de mémoire unifiée du Spark suffisent pour un modèle 70B en 8 bits ou un modèle de classe 120B en 4 bits. La Blackhole p150a dispose de 32 GB de GDDR6 à 512 GB/s, assez pour un modèle de classe 30B en 4 bits si la bibliothèque le prend en charge.
Capacité n'est pas vitesse
La bande passante mémoire du Spark est de 273 GB/s, contre 1 792 GB/s sur une RTX 5090. Les gros modèles denses y génèrent du texte plus lentement ; les modèles MoE (mixture of experts), qui ne lisent qu'une partie de leurs poids à chaque token, souffrent moins de cet écart.
Prévoir la montée en charge
Deux DGX Spark se relient via le réseau ConnectX-7 intégré, à 200 Gb/s. La p150a dispose de quatre ports QSFP-DD 800G et la n300 de deux ports QSFP-DD pour chaîner les cartes. Chaque carte Tenstorrent consomme 300 W et exige un emplacement PCIe x16 : prévoyez l'alimentation et le flux d'air de la machine hôte.

Questions fréquentes

Faut-il acheter un accélérateur IA ou une carte graphique ?

Choisissez un accélérateur pour son logiciel : le DGX Spark pour développer en CUDA avec 128 GB, une carte Tenstorrent pour une pile ouverte. Pour la meilleure vitesse sur des modèles jusqu'à environ 30B, ou si vous jouez aussi, une carte graphique comme la RTX 5090 est le meilleur choix.

Mon code CUDA fonctionnera-t-il sur une carte Tenstorrent ?

Non. Les cartes Tenstorrent utilisent leur propre pile open source, TT-Metalium et TT-Forge. Vérifiez que vos modèles sont pris en charge dans la bibliothèque de modèles de Tenstorrent avant d'acheter.

Le DGX Spark peut-il faire tourner Windows ou des jeux ?

Non. Il fonctionne sous NVIDIA DGX OS, un système Linux basé sur Ubuntu, avec un processeur Arm. Les logiciels conçus uniquement pour Windows x86 ne fonctionneront pas, et ce n'est pas une machine de jeu.

Puis-je faire du fine-tuning de modèles sur le DGX Spark ?

Oui. Le fine-tuning demande plus de mémoire que l'exécution d'un modèle, et les méthodes économes en paramètres comme LoRA réduisent fortement ce besoin. Les 128 GB du Spark offrent de la marge pour ce travail, sur des tailles hors de portée d'une carte de 32 GB.

Pages associées: Matériel pour l'IA locale · Apple