• Daten vom Hersteller, nichts geschätzt
  • Jeder Rechner passend zu den Modellen, die er schafft
  • Weltweite Lieferung, Zölle und Steuern inklusive
Tenstorrent Blackhole32 GB · 30–34B-Modelle mit 4 Bit
1 / 2

Tenstorrent

Tenstorrent Blackhole p150a

Ein PCIe-KI-Beschleuniger auf Basis des Blackhole-Chips von Tenstorrent, mit 120 Tensix-Kernen, 32 GB GDDR6 und vier Hochgeschwindigkeitsanschlüssen zur Kopplung mehrerer Karten. Der Software-Stack ist Open Source, von den Low-Level-Kernels bis zum Modell-Compiler.

1.399 €

Auf Lager. Versand: 1 bis 3 Werktage.

1

  • 30 Tage Rückgabe
  • Kostenloser Versand ab 199 €
  • Versand aus unserem Lager im Vereinigten Königreich
  • Einfuhrzölle und Einfuhrsteuern inklusive
  • Versand, Rückgabe und Garantie
Teilen

Was er ausführen kann

Bis 30–34B mit 4 Bit, 13–14B mit 8 Bit (ungefähr)

Basierend auf 32 GB GPU-Speicher. Alle Rechner nach Modellgröße ansehen

Tenstorrent Blackhole p150a im Detail

Die Tenstorrent Blackhole p150a ist eine KI-Beschleunigerkarte für PCIe 5.0 mit 32 GB GDDR6, 120 Tensix-Kernen, 16 RISC-V-Kernen und vier 800G-Ports zur Kopplung mehrerer Karten. Ihr Software-Stack ist bis hinunter zu den Kernels Open Source. Sie lohnt sich, wenn Sie KI-Hardware hardwarenah programmieren und Karte für Karte skalieren möchten und bereit sind, außerhalb von CUDA zu arbeiten.

Wichtigste Merkmale

  • Tenstorrent-Blackhole-Prozessor: 120 Tensix-Kerne und 16 große RISC-V-Kerne
  • 32 GB GDDR6 mit 16 GT/s, 512 GB/s
  • 180 MB On-Chip-SRAM
  • 664 TFLOPS bei BLOCKFP8
  • 4 × QSFP-DD-800G-Ports für Verbindungen von Karte zu Karte
  • PCIe 5.0 x16, 300 W Leistungsaufnahme, aktive Kühlung

Welche Modelle laufen

Bei einer dedizierten Karte rechnen wir etwa 90 % des Speichers als nutzbar für Modellgewichte, bei 32 GB also rund 29 GB. Das reicht für Modelle bis zur 30B-Klasse mit 4 Bit und bis 14B mit 8 Bit. Größere Modelle müssen auf mehrere verbundene Karten verteilt werden. Ob ein bestimmtes Modell überhaupt läuft, hängt von der Softwareunterstützung durch Tenstorrent ab. Prüfen Sie daher vor dem Kauf die Modellliste in der Dokumentation von Tenstorrent.

Modellgröße4-bit8-bit
7–8BPasstPasst
13–14BPasstPasst
30–34BPasstPasst nicht
70BPasst nichtPasst nicht
120B+Passt nichtPasst nicht

Der Unterschied zu einer Grafikkarte

Blackhole besteht aus Tensix-Kernen mit jeweils eigenem lokalem SRAM, die über ein Network-on-Chip verbunden sind, dazu kommen 16 RISC-V-Allzweckkerne auf demselben Die. Tenstorrent veröffentlicht das Low-Level-Programmiermodell, Sie können Kernels also selbst schreiben, statt auf einen geschlossenen Treiber angewiesen zu sein. Die Tensix-Kerne unterstützen FP8, FP16, BFLOAT16, Block-Floating-Point bis hinunter zu 2 Bit, INT8 und TF32.

Skalierung über mehrere Karten

Die vier QSFP-DD-Ports an der Slotblende übertragen jeweils 800 Gb/s und lassen sich nur mit anderen Blackhole-Karten verbinden. Tenstorrent dokumentiert Topologien für zwei, vier und acht Karten. Das ist der Hauptgrund, die p150a der günstigeren p100a vorzuziehen, die weniger Speicher und keine Ports für Karte-zu-Karte-Verbindungen hat.

Host-System und Stromversorgung

  • x86_64-Host mit PCIe-5.0-x16-Steckplatz und Platz für eine Dual-Slot-Karte
  • Mindestens 64 GB Arbeitsspeicher und 100 GB Speicherplatz (2 TB empfohlen)
  • Ein 12V-2x6-Stromanschluss (12+4-polig) und ein nach ATX 3.1 zertifiziertes Netzteil
  • Bis zu 300 W pro Karte, etwa 75 W im Leerlauf
  • Ubuntu 24.04

Die Karte misst 42 × 270 × 111 mm und hat einen eigenen Lüfter. Sie passt daher in ein normales Desktop-Gehäuse mit guter Belüftung. Die passiv gekühlte Version p150b ist nur für Rack-Server gedacht.

Software

TT-Metalium ist die Low-Level-Programmierschicht, TT-NN die darauf aufbauende Operator-Bibliothek für neuronale Netze und TT-Forge der Compiler für Modelle aus gängigen Frameworks. Alle drei sind Open Source. Es handelt sich nicht um eine CUDA-Karte: Tools, die nur für CUDA geschrieben sind, laufen darauf nicht.

Passendes Zubehör

Ein Workstation-Mainboard mit PCIe-5.0-Steckplatz, mindestens 64 GB RAM und ein ATX-3.1-Netzteil. Für einen einfacheren Einstieg in dieselbe Software ist die Wormhole n300 günstiger. Wenn Sie schon heute breite Modellunterstützung brauchen, ist eine Grafikkarte für lokale KI der einfachere Weg.

Gut geeignet für

  • Ingenieure und Forschende, die offene, programmierbare KI-Hardware suchen
  • Aufbau von Multi-Karten-Systemen über direkte 800G-Verbindungen
  • Einarbeitung in einen Open-Source-KI-Software-Stack und Mitarbeit daran

Weniger geeignet für

  • Alle, die CUDA brauchen oder jedes neue Modell vom ersten Tag an nutzen wollen
  • Betrieb von 70B-Modellen auf einer einzelnen Karte
  • Gaming oder Bildausgabe

Dies ist keine CUDA-Karte. Prüfen Sie vor dem Kauf, ob die benötigten Modelle in der Open-Source-Modellbibliothek von Tenstorrent unterstützt werden.

Für wen

Ingenieure und Forscher, die offene KI-Hardware bis auf die unterste Ebene programmieren und Karte für Karte skalieren möchten.

Alle technischen Daten

Prozessor
Tenstorrent Blackhole
Tensix-Kerne
120
Speicher
32 GB GDDR6, 512 GB/s
On-Chip-SRAM
180 MB
Host-Schnittstelle
PCIe 5.0 x16
Karte-zu-Karte
4 × QSFP-DD 800G
Leistungsaufnahme
300 W
Kühlung
Aktiv (Lüfter)
Software
Open Source: TT-Metalium, TT-Forge

Bewertungen

Kundenbewertungen bei Atomrig

Noch keine Kundenbewertungen. Bei uns gekauft? Erzählen Sie uns, wie er läuft.

Bewertungen werden nicht automatisch veröffentlicht. Ihre Bewertung wird uns per E-Mail zugeschickt, und wir lesen sie zuerst.

Ihre Bewertung

Mit dem Absenden stimmen Sie unseren Verkaufsbedingungen und der Datenschutzerklärung zu.

Ähnliche Produkte