- Tenstorrent Wormhole24 GB · 30–34B-Modelle mit 4 Bit
Alle technischen Daten
- Prozessoren
- 2 × Tenstorrent Wormhole
- Tensix-Kerne
- 128
- Speicher
- 24 GB GDDR6 (12 GB pro Chip), insgesamt 576 GB/s
- On-Chip-SRAM
- 192 MB
- Host-Schnittstelle
- PCIe 4.0 x16
- Karte-zu-Karte
- 2 × QSFP-DD 200G, 2 × Warp-100-Brücke
- Leistungsaufnahme
- 300 W
- Stromanschluss
- 1 × 4+4-Pin EPS12V
- Kühlung
- Passiver Kühlkörper: benötigt starken Server-Luftstrom
- Formfaktor
- Dual-Slot, 254 mm lang
- Software
- Open Source: TT-Metalium, TT-Forge
Gut geeignet für
- Entwickler, die mit dem Open-Source-Stack von Tenstorrent einsteigen
- Multi-Chip-Programmierung auf einer einzigen Karte lernen
- Kleine Multi-Karten-Systeme mit Warp-100-Brücken aufbauen
Weniger geeignet für
- CUDA-abhängige Tools oder breite Modellunterstützung ab dem ersten Tag
- Modelle über 30B mit 4 Bit auf einer Karte
- Gaming oder Bildausgabe
- Desktop-Tower ohne starken Luftstrom, es sei denn, Sie ergänzen das Active Cooling Kit
Tenstorrent
Tenstorrent Wormhole n300s
Zwei Wormhole-Prozessoren auf einer passiv gekühlten PCIe-Karte, zusammen mit 128 Tensix-Kernen und 24 GB GDDR6. Die Karte nutzt dieselbe Open-Source-Software wie die neueren Blackhole-Karten, und mehrere Karten lassen sich miteinander verbinden.
1.399 €Auf Lager. Versand: 1 bis 3 Werktage.
- 30 Tage Rückgabe
- Kostenloser Versand ab 199 €
- Versand aus unserem Lager im Vereinigten Königreich
- Einfuhrzölle und Einfuhrsteuern inklusive
- Versand, Rückgabe und Garantie
Was er ausführen kann
Bis 30–34B mit 4 Bit, 13–14B mit 8 Bit (ungefähr)
Basierend auf 24 GB GPU-Speicher. Alle Rechner nach Modellgröße ansehen
Ratgeber zu diesem Produkt
Lokale KI · 5 Min. Lesezeit
Wie viel Arbeitsspeicher braucht ein lokales LLM?
So ermitteln Sie, wie viel Arbeitsspeicher ein lokales LLM braucht: 7B- bis 120B+-Modelle mit 4 und 8 Bit, Unified Memory vs. VRAM und passende Rechner.
Ratgeber lesen →Lokale KI · 5 Min. Lesezeit
Mac, NVIDIA oder Ryzen AI Max+ für lokale KI
Mac, NVIDIA oder Ryzen AI Max+: CUDA bei NVIDIA, gemeinsamer Arbeitsspeicher beim Mac oder 128 GB im Mini-PC. Speicher, Software und Kompromisse.
Ratgeber lesen →Tenstorrent Wormhole n300s im Detail
Die Tenstorrent Wormhole n300s vereint zwei Wormhole-Prozessoren auf einer passiv gekühlten PCIe-4.0-Karte, mit 128 Tensix-Kernen und 24 GB GDDR6, aufgeteilt auf 12 GB pro Chip. Sie läuft mit derselben Open-Source-Software wie die neueren Blackhole-Karten, ist aber günstiger im Einstieg. Sie eignet sich, um den Software-Stack von Tenstorrent kennenzulernen und darauf aufzubauen oder mehrere Karten zu koppeln – sofern Sie gern außerhalb von CUDA arbeiten und einen Server mit starkem Luftstrom haben.
Wichtigste Merkmale
- Zwei Wormhole-Prozessoren: 128 Tensix-Kerne (64 pro Chip)
- 24 GB GDDR6 (12 GB pro Chip), insgesamt 576 GB/s
- 192 MB On-Chip-SRAM (96 MB pro Chip)
- 466 TFLOPS FP8, 131 TFLOPS FP16
- 2 × QSFP-DD-200G-Ports plus Warp-100-Brückenanschlüsse
- PCIe 4.0 x16, 300 W Leistungsaufnahme der Karte, passiver Kühlkörper
Welche Modelle laufen
Der Speicher ist auf zwei Chips verteilt, und das bestimmt, was hineinpasst. Rechnet man mit etwa 90 % nutzbarem Speicher, fasst jeder Chip rund 10,8 GB: genug für ein 7–8B-Modell mit 4 oder 8 Bit oder ein 13–14B-Modell mit 4 Bit auf einem einzelnen Chip. Ein Modell der 30B-Klasse mit 4 Bit passt nur, wenn es auf beide Chips verteilt wird. Prüfen Sie daher, ob es für Ihr Wunschmodell eine funktionierende Multi-Chip-Version in Tenstorrents Modellbibliothek gibt.
| Modellgröße | 4-bit | 8-bit |
|---|---|---|
| 7–8B | Passt auf einen Chip | Passt auf einen Chip |
| 13–14B | Passt auf einen Chip | Beide Chips |
| 30–34B | Beide Chips | Passt nicht |
| 70B | Passt nicht | Passt nicht |
Zwei Chips auf einer Karte
Die beiden Wormhole-Prozessoren der n300 sind auf der Platine mit 200G verbunden. Die Software erkennt sie als zwei Geräte, die zusammenarbeiten können. Deshalb ist Multi-Chip-Unterstützung im Modell hier wichtiger als bei einer Single-Chip-Karte. Der Vorteil: Das Wissen lässt sich auf größere Wormhole- und Blackhole-Systeme übertragen.
Karten verbinden
Jede Karte hat zwei Warp-100-Anschlüsse für interne Brücken zu einer benachbarten Wormhole-Karte sowie zwei aktive QSFP-DD-Ports mit 200G zur Verbindung von Karten oder Wormhole-Systemen. Beide lassen sich nur mit Wormhole-Hardware verbinden.
Kühlung, Host-System und Stromversorgung
- n300s (Teilenummer TC-02003): passiver Kühlkörper, Dual-Slot, 254 mm lang, für Server mit erzwungenem Luftstrom von vorn nach hinten
- Ohne diesen Luftstrom, wie in den meisten Desktop-Towern, schreibt Tenstorrent sein Active Cooling Kit vor
- Ein 4+4-Pin-EPS12V-Stromanschluss (kein PCIe-6+2-Pin-Kabel)
- x86_64-Host mit PCIe-4.0-x16-Steckplatz, 64 GB Arbeitsspeicher und Ubuntu 22.04
Wird die Karte nicht ausreichend gekühlt, drosselt sie sich selbst, um im sicheren Temperaturbereich zu bleiben. Planen Sie den Luftstrom vor dem Kauf: Dies ist die passive Serverversion.
Software
Die n300 nutzt den Open-Source-Stack aus TT-Metalium, TT-NN und TT-Forge, den sie mit Blackhole teilt. Sie ist keine CUDA-Karte. Unterstützt werden unter anderem FP8, FP16, BFLOAT16, Block Floating Point und INT8.
Passendes Zubehör
Ein Server oder eine Workstation mit freiem PCIe-x16-Steckplatz, starkem Luftstrom über eine passive 300-W-Karte und einem EPS12V-Kabel vom Netzteil. Wenn sie Ihnen nicht mehr reicht, bietet die Blackhole p150a 32 GB auf einem Chip und schnellere Verbindungen. Wie sich diese Karte im Vergleich zu GPU-Optionen schlägt, lesen Sie unter Grafikkarten für lokale KI.
Gut geeignet für
- Entwickler, die mit dem Open-Source-Stack von Tenstorrent einsteigen
- Multi-Chip-Programmierung auf einer einzigen Karte lernen
- Kleine Multi-Karten-Systeme mit Warp-100-Brücken aufbauen
Weniger geeignet für
- CUDA-abhängige Tools oder breite Modellunterstützung ab dem ersten Tag
- Modelle über 30B mit 4 Bit auf einer Karte
- Gaming oder Bildausgabe
- Desktop-Tower ohne starken Luftstrom, es sei denn, Sie ergänzen das Active Cooling Kit
Die 24 GB verteilen sich auf zwei Chips (je 12 GB), größere Modelle müssen also auf beide aufgeteilt werden. Prüfen Sie, ob es für Ihr gewünschtes Modell eine funktionierende Multi-Chip-Version gibt.
Für wen
Entwickler, die mit geringerem Einstiegspreis als bei Blackhole den offenen Stack von Tenstorrent kennenlernen und darauf aufbauen möchten.
Alle technischen Daten
- Prozessoren
- 2 × Tenstorrent Wormhole
- Tensix-Kerne
- 128
- Speicher
- 24 GB GDDR6 (12 GB pro Chip), insgesamt 576 GB/s
- On-Chip-SRAM
- 192 MB
- Host-Schnittstelle
- PCIe 4.0 x16
- Karte-zu-Karte
- 2 × QSFP-DD 200G, 2 × Warp-100-Brücke
- Leistungsaufnahme
- 300 W
- Stromanschluss
- 1 × 4+4-Pin EPS12V
- Kühlung
- Passiver Kühlkörper: benötigt starken Server-Luftstrom
- Formfaktor
- Dual-Slot, 254 mm lang
- Software
- Open Source: TT-Metalium, TT-Forge
Bewertungen
Kundenbewertungen bei Atomrig
Noch keine Kundenbewertungen. Bei uns gekauft? Erzählen Sie uns, wie er läuft.
Ähnliche Produkte

NVIDIA
NVIDIA DGX Spark
Schafft bis zu 120B+ bei 4 Bit
- 128 GB Unified
- NVIDIA GB10 Grace Blackwell
Seine Speicherbandbreite (273 GB/s) ist geringer als die einer High-End-Grafikkarte, daher erzeugen große dichte Modelle Text langsamer als auf einer RTX 5090. Seine Stärken sind die Kapazität und der CUDA-Software-Stack.
4.699 €
Tenstorrent
Tenstorrent Blackhole p150a
Schafft bis zu 30–34B bei 4 Bit
- 32 GB
- Tenstorrent Blackhole
Dies ist keine CUDA-Karte. Prüfen Sie vor dem Kauf, ob die benötigten Modelle in der Open-Source-Modellbibliothek von Tenstorrent unterstützt werden.
1.399 €
NVIDIA
NVIDIA GeForce RTX 5090
Schafft bis zu 30–34B bei 4 Bit
- 32 GB
- NVIDIA Blackwell (GB202)
Mit 32 GB laufen Modelle der 30B-Klasse in 4 Bit problemlos, ein 70B-Modell passt aber nicht auf eine Karte. Für 70B sollten Sie zwei Karten oder ein System mit großem gemeinsamem Arbeitsspeicher einplanen.
1.999 €
PowerColor
PowerColor AMD Radeon AI PRO R9700 32GB
Schafft bis zu 30–34B bei 4 Bit
- 32 GB
- AMD RDNA 4 (Navi 48)
Prüfen Sie vor dem Kauf, ob Ihre Tools ROCm auf Ihrem Betriebssystem unterstützen. PyTorch und llama.cpp tun das; einige Nischen-Tools setzen noch CUDA voraus.
1.299 €