• Specifiche del produttore, niente a occhio
  • Ogni macchina abbinata ai modelli che può eseguire
  • Spedizione in tutto il mondo, dazi e tasse inclusi
Tenstorrent Blackhole32 GB · esegue modelli 30–34B a 4 bit
1 / 2

Tenstorrent

Tenstorrent Blackhole p150a

Acceleratore IA PCIe basato sul chip Blackhole di Tenstorrent, con 120 core Tensix, 32 GB di GDDR6 e quattro porte ad alta velocità per collegare più schede tra loro. Lo stack software è open source, dai kernel di basso livello fino al compilatore dei modelli.

1399 €

Disponibile. Spedizione in 1–3 giorni lavorativi.

1

  • Resi entro 30 giorni
  • Spedizione gratuita oltre 199 €
  • Spedito dal nostro magazzino nel Regno Unito
  • Dazi e tasse di importazione inclusi
  • Spedizione, resi e garanzia
Condividi

Cosa può eseguire

Fino a 30–34B a 4 bit, 13–14B a 8 bit (indicativo)

In base a 32 GB di memoria GPU. Vedi tutte le macchine per dimensione del modello

Tenstorrent Blackhole p150a nel dettaglio

Tenstorrent Blackhole p150a è una scheda acceleratrice IA PCIe 5.0 con 32 GB di GDDR6, 120 core Tensix, 16 core RISC-V e quattro porte 800G per collegare più schede tra loro. Il suo stack software è open source a partire dai kernel. È la scelta giusta per chi vuole hardware IA programmabile a basso livello e scalabile scheda per scheda, ed è disposto a lavorare al di fuori di CUDA.

Caratteristiche principali

  • Processore Tenstorrent Blackhole: 120 core Tensix e 16 grandi core RISC-V
  • 32 GB GDDR6 a 16 GT/s, 512 GB/s
  • 180 MB di SRAM on-chip
  • 664 TFLOPS in BLOCKFP8
  • 4 × porte QSFP-DD 800G per il collegamento tra schede
  • PCIe 5.0 x16, potenza della scheda 300 W, raffreddamento attivo

Quali modelli esegue

Su una scheda dedicata consideriamo utilizzabile per i pesi del modello circa il 90% della memoria: su 32 GB restano circa 29 GB. Bastano per modelli fino alla classe 30B a 4 bit e fino a 14B a 8 bit. I modelli più grandi vanno distribuiti su più schede collegate. Che un modello funzioni o meno dipende dal supporto software di Tenstorrent, quindi prima dell'acquisto si consiglia di consultare l'elenco dei modelli nella loro documentazione.

Dimensione del modello4-bit8-bit
7–8BCompatibileCompatibile
13–14BCompatibileCompatibile
30–34BCompatibileNon compatibile
70BNon compatibileNon compatibile
120B+Non compatibileNon compatibile

Differenze rispetto a una scheda video

Blackhole è composto da core Tensix, ciascuno con la propria SRAM locale, collegati da una rete on-chip, più 16 core RISC-V general purpose sullo stesso die. Tenstorrent pubblica il modello di programmazione a basso livello: è quindi possibile scrivere i kernel in autonomia invece di dipendere da un driver chiuso. Sui core Tensix la scheda gestisce FP8, FP16, BFLOAT16, block floating point fino a 2 bit, INT8 e TF32.

Scalabilità su più schede

Le quattro porte QSFP-DD sulla staffa gestiscono ciascuna 800 Gb/s e si collegano solo ad altre schede Blackhole. Tenstorrent documenta topologie da due, quattro e otto schede. È il motivo principale per scegliere la p150a invece della più economica p100a, che ha meno memoria e nessuna porta per il collegamento tra schede.

Sistema host e alimentazione

  • Host x86_64 con uno slot PCIe 5.0 x16 e spazio per una scheda dual-slot
  • Almeno 64 GB di memoria di sistema e 100 GB di spazio di archiviazione (consigliati 2 TB)
  • Un connettore di alimentazione 12V-2x6 (12+4 pin) e un alimentatore certificato ATX 3.1
  • Fino a 300 W per scheda; circa 75 W a riposo
  • Ubuntu 24.04

La scheda misura 42 × 270 × 111 mm ed è raffreddata da una ventola, quindi è adatta a un normale case desktop con un buon flusso d'aria. La versione passiva p150b è destinata solo ai server rack.

Software

TT-Metalium è lo strato di programmazione di basso livello, TT-NN la libreria di operatori per reti neurali che vi si appoggia e TT-Forge il compilatore per i modelli dei framework standard. Sono tutti open source. Non è una scheda CUDA: gli strumenti scritti solo per CUDA non vi funzionano.

Accessori consigliati

Una scheda madre da workstation con slot PCIe 5.0, almeno 64 GB di RAM e un alimentatore ATX 3.1. Per iniziare in modo più semplice con lo stesso software, la Wormhole n300 costa meno. Se serve fin da subito un ampio supporto ai modelli, una scheda video per l'IA locale è la strada più semplice.

Adatto a

  • Ingegneri e ricercatori che cercano hardware IA aperto e programmabile
  • Costruire sistemi multi-scheda con collegamenti diretti a 800G
  • Studiare e contribuire a uno stack software IA open source

Meno adatto a

  • Chi ha bisogno di CUDA o vuole che ogni nuovo modello funzioni fin dal primo giorno
  • Eseguire modelli 70B su una sola scheda
  • Gaming o uscita video

Non è una scheda CUDA. Prima dell'acquisto si consiglia di verificare che i modelli necessari siano gestiti dalla libreria di modelli open source di Tenstorrent.

Per chi è

Ingegneri e ricercatori che cercano hardware IA aperto, programmabile fino al livello più basso e scalabile una scheda alla volta.

Specifiche complete

Processore
Tenstorrent Blackhole
Core Tensix
120
Memoria
32 GB GDDR6, 512 GB/s
SRAM on-chip
180 MB
Interfaccia host
PCIe 5.0 x16
Collegamento tra schede
4 × QSFP-DD 800G
Potenza della scheda
300 W
Raffreddamento
Attivo (ventola)
Software
Open source: TT-Metalium, TT-Forge

Recensioni

Recensioni dei clienti Atomrig

Ancora nessuna recensione. L'ha acquistato da noi? Ci racconti come si comporta.

Le recensioni non vengono pubblicate automaticamente. La sua ci viene inviata via email e la leggiamo prima.

Il suo voto

Inviando il modulo accetta le nostre Condizioni di vendita e l'Informativa sulla privacy.

Prodotti correlati