• Caractéristiques du constructeur, rien d'approximatif
  • Chaque machine associée aux modèles qu'elle peut faire tourner
  • Livraison dans le monde entier, droits et taxes inclus
Tenstorrent Blackhole32 GB · modèles 30–34B en 4 bits
1 / 2

Tenstorrent

Tenstorrent Blackhole p150a

Un accélérateur IA PCIe basé sur la puce Blackhole de Tenstorrent, avec 120 cœurs Tensix, 32 GB de GDDR6 et quatre ports haut débit pour relier plusieurs cartes entre elles. La pile logicielle est open source, des kernels bas niveau jusqu'au compilateur de modèles.

1 399 €

En stock. Expédition sous de 1 à 3 jours ouvrés.

1

  • Retours sous 30 jours
  • Livraison gratuite dès 199 €
  • Expédié depuis notre entrepôt au Royaume-Uni
  • Droits de douane et taxes d'importation inclus
  • Livraison, retours et garantie
Partager

Ce qu'il peut faire tourner

Jusqu'à 30–34B en 4 bits, 13–14B en 8 bits (approximatif)

Sur la base de 32 GB de mémoire GPU. Voir toutes les machines par taille de modèle

Tenstorrent Blackhole p150a en détail

La Tenstorrent Blackhole p150a est une carte accélératrice IA PCIe 5.0 dotée de 32 GB de GDDR6, de 120 cœurs Tensix, de 16 cœurs RISC-V et de quatre ports 800G pour relier les cartes entre elles. Sa pile logicielle est open source dès le niveau des kernels. Choisissez-la si vous voulez du matériel IA programmable à bas niveau et extensible carte par carte, et si vous êtes prêt à travailler en dehors de CUDA.

Points clés

  • Processeur Tenstorrent Blackhole : 120 cœurs Tensix et 16 gros cœurs RISC-V
  • 32 GB de GDDR6 à 16 GT/s, 512 GB/s
  • 180 MB de SRAM intégrée à la puce
  • 664 TFLOPS en BLOCKFP8
  • 4 × ports QSFP-DD 800G pour les liaisons entre cartes
  • PCIe 5.0 x16, consommation de la carte 300 W, refroidissement actif

Ce qu'il fait tourner

Sur une carte dédiée, nous comptons environ 90 % de la mémoire comme utilisable pour les poids du modèle, soit environ 29 GB sur 32 GB. Cela permet de charger des modèles jusqu'à la classe 30B en 4 bits et jusqu'à 14B en 8 bits. Les modèles plus grands doivent être répartis sur plusieurs cartes reliées. Qu'un modèle donné fonctionne ou non dépend de sa prise en charge par le logiciel de Tenstorrent : consultez donc la liste des modèles dans sa documentation avant l'achat.

Taille du modèle4-bit8-bit
7–8BCompatibleCompatible
13–14BCompatibleCompatible
30–34BCompatibleIncompatible
70BIncompatibleIncompatible
120B+IncompatibleIncompatible

Ce qui la distingue d'une carte graphique

Blackhole repose sur des cœurs Tensix, chacun doté de sa propre SRAM locale, reliés par un réseau sur puce, avec 16 cœurs RISC-V généralistes sur la même puce. Tenstorrent publie le modèle de programmation bas niveau : vous pouvez écrire vos propres kernels au lieu de dépendre d'un pilote fermé. Les cœurs Tensix prennent en charge FP8, FP16, BFLOAT16, la virgule flottante par blocs jusqu'à 2 bits, INT8 et TF32.

Montée en charge sur plusieurs cartes

Les quatre ports QSFP-DD de l'équerre offrent chacun 800 Gb/s et se connectent uniquement à d'autres cartes Blackhole. Tenstorrent documente des topologies à deux, quatre et huit cartes. C'est la principale raison de choisir la p150a plutôt que la p100a, moins chère, qui a moins de mémoire et aucun port de liaison entre cartes.

Système hôte et alimentation

  • Hôte x86_64 doté d'un emplacement PCIe 5.0 x16 et de la place pour une carte double slot
  • Au moins 64 GB de mémoire système et 100 GB de stockage (2 TB recommandés)
  • Un connecteur d'alimentation 12V-2x6 (12+4 broches) et une alimentation certifiée ATX 3.1
  • Jusqu'à 300 W par carte ; environ 75 W au repos
  • Ubuntu 24.04

La carte mesure 42 × 270 × 111 mm et est refroidie par un ventilateur : elle convient à un boîtier de bureau classique bien ventilé. La version passive p150b est réservée aux serveurs en rack.

Logiciels

TT-Metalium est la couche de programmation bas niveau, TT-NN la bibliothèque d'opérateurs de réseaux de neurones qui s'appuie dessus, et TT-Forge le compilateur pour les modèles issus des frameworks standard. Tous sont open source. Ce n'est pas une carte CUDA : les outils écrits uniquement pour CUDA n'y fonctionneront pas.

À associer avec

Une carte mère de station de travail avec un emplacement PCIe 5.0, au moins 64 GB de RAM et une alimentation ATX 3.1. Pour débuter plus simplement avec les mêmes logiciels, la Wormhole n300 coûte moins cher. Si vous avez besoin dès aujourd'hui de faire tourner un large éventail de modèles, une carte graphique pour l'IA locale est la solution la plus simple.

Idéal pour

  • Ingénieurs et chercheurs qui veulent du matériel IA ouvert et programmable
  • Monter des systèmes multicartes avec des liaisons directes à 800G
  • Apprendre une pile logicielle IA open source et y contribuer

Moins adapté à

  • Quiconque a besoin de CUDA ou veut faire tourner chaque nouveau modèle dès sa sortie
  • Faire tourner des modèles 70B sur une seule carte
  • Le jeu ou la sortie vidéo

Ce n'est pas une carte CUDA. Vérifiez avant l'achat que les modèles dont vous avez besoin sont pris en charge par la bibliothèque de modèles open source de Tenstorrent.

Pour qui

Ingénieurs et chercheurs qui veulent un matériel IA ouvert, programmable au plus bas niveau et extensible carte par carte.

Caractéristiques complètes

Processeur
Tenstorrent Blackhole
Cœurs Tensix
120
Mémoire
32 GB GDDR6, 512 GB/s
SRAM intégrée à la puce
180 MB
Interface hôte
PCIe 5.0 x16
Liaison carte à carte
4 × QSFP-DD 800G
Consommation de la carte
300 W
Refroidissement
Active (ventilateur)
Logiciels
Open source : TT-Metalium, TT-Forge

Avis

Avis clients Atomrig

Pas encore d'avis client. Vous l'avez acheté chez nous ? Dites-nous comment il se comporte.

Les avis ne sont pas publiés automatiquement. Le vôtre nous est transmis par e-mail et nous le lisons d'abord.

Votre note

En envoyant ce formulaire, vous acceptez nos Conditions générales de vente et notre Politique de confidentialité.

Produits associés