- RTX PRO 600096 GB · 120B+-Modelle mit 4 Bit
Alle technischen Daten
- GPU
- NVIDIA Blackwell (GB202)
- CUDA-Kerne
- 24.064
- Speicher
- 96 GB GDDR7 mit ECC
- Speicherinterface
- 512 Bit, 1.792 GB/s
- Tensor-Kerne
- 5. Generation
- RT-Kerne
- 4. Generation
- Schnittstelle
- PCIe 5.0 x16
- Bildschirmausgänge
- 4 × DisplayPort 2.1
- Leistungsaufnahme
- 600 W
- Stromanschluss
- 1 × 16-Pin PCIe CEM5
- Kühlung
- Double Flow-Through, Dual-Slot
- Kartengröße
- 5,4 Zoll × 12 Zoll (137 × 305 mm)
- Multi-Instance GPU
- Bis zu 4 Instanzen
Gut geeignet für
- 70B-Modelle mit 8 Bit oder Modelle der 120B-Klasse mit 4 Bit auf einer Karte
- Teams, die Modelle unter CUDA feintunen oder bereitstellen und sie nicht auf mehrere GPUs aufteilen wollen
- Studios mit sehr großen Szenen, Simulationen oder Video-Timelines
- Gemeinsam genutzte Rechner, bei denen MIG die Karte in isolierte Instanzen aufteilt
Weniger geeignet für
- Modelle bis 30B: Dafür reicht eine GeForce RTX 5090 oder Radeon AI PRO R9700 mit 32 GB
- Gaming-PCs: Eine GeForce-Karte bietet dieselbe Spieleleistung
- Kompakte Gehäuse oder schwache Netzteile: Die Karte braucht Platz, Luftstrom und ein starkes Netzteil
NVIDIA
NVIDIA RTX PRO 6000 Blackwell Workstation Edition (96 GB)
Die RTX PRO 6000 ist NVIDIAs Flaggschiff unter den Workstation-Karten: die vollständige Blackwell-GPU GB202 mit 96 GB ECC-GDDR7 auf einer einzigen Karte. Das reicht, um ein 70B-Modell in 8 Bit auf einer Karte zu halten, mit dem kompletten CUDA-Software-Ökosystem dahinter.
13.250 €Auf Lager. Versand: 1 bis 3 Werktage.
- Kostenloser Versand ab 199 €
- Versand aus unserem Lager im Vereinigten Königreich
- 30 Tage Rückgabe
- Einfuhrzölle und Einfuhrsteuern inklusive
- Versand, Rückgabe und Garantie
Dies ist die Workstation Edition mit 600 W und Double-Flow-Through-Kühler. Sie benötigt ein 16-Pin-Stromkabel, ein Gehäuse, das Karten mit 12 Zoll Länge aufnimmt, und einen guten Luftstrom.
Für wen
KI-Entwickler und Studios, die den größten verfügbaren Speicher auf einer einzelnen CUDA-Karte brauchen.
Alle technischen Daten
- GPU
- NVIDIA Blackwell (GB202)
- CUDA-Kerne
- 24.064
- Speicher
- 96 GB GDDR7 mit ECC
- Speicherinterface
- 512 Bit, 1.792 GB/s
- Tensor-Kerne
- 5. Generation
- RT-Kerne
- 4. Generation
- Schnittstelle
- PCIe 5.0 x16
- Bildschirmausgänge
- 4 × DisplayPort 2.1
- Leistungsaufnahme
- 600 W
- Stromanschluss
- 1 × 16-Pin PCIe CEM5
- Kühlung
- Double Flow-Through, Dual-Slot
- Kartengröße
- 5,4 Zoll × 12 Zoll (137 × 305 mm)
- Multi-Instance GPU
- Bis zu 4 Instanzen
NVIDIA RTX PRO 6000 Blackwell Workstation Edition (96 GB) im Detail
Die RTX PRO 6000 Blackwell ist die richtige Karte, wenn Sie den meisten Speicher brauchen, den NVIDIA auf einer Desktop-Karte anbietet: 96 GB GDDR7 mit ECC. Sie fasst ein 70B-Modell mit 8 Bit oder ein Modell der 120B-Klasse mit 4 Bit auf einer einzigen Karte, mit voller CUDA-Unterstützung. Sie richtet sich an KI-Entwickler, Forschungsteams und Studios; für Modelle bis 30B genügt eine Karte mit 32 GB.
Wichtigste Merkmale
- 96 GB GDDR7 mit ECC an einem 512-Bit-Bus, 1.792 GB/s
- Blackwell-GPU mit 24.064 CUDA-Kernen und Tensor-Kernen der 5. Generation mit FP4-Unterstützung
- Bis zu 4.000 AI TOPS (FP4, mit Sparsity) bei der Workstation Edition
- Multi-Instance GPU: bis zu vier isolierte Instanzen mit je 24 GB
- PCIe 5.0 x16 und 4 × DisplayPort 2.1
- 600-W-Workstation Edition: Doppel-Flow-Through-Kühler, Dual-Slot, ein 16-Pin-Anschluss
Welche Modelle laufen
Mit 96 GB auf einer Karte, von denen nach Kontext und Laufzeitpuffern etwa 90 % nutzbar sind, deckt die RTX PRO 6000 in unserem Modell-Rechner jede Stufe bis zu Modellen der 120B-Klasse mit 4 Bit und 70B-Modellen mit 8 Bit ab. Ein 120B-Modell mit 8 Bit braucht rund 140 GB und passt nicht; dafür sind zwei Karten nötig. Mixture-of-Experts-Modelle wie gpt-oss-120b benötigen dennoch Speicher für sämtliche Gewichte und fallen daher in dieselbe Stufe.
Da das gesamte Modell auf einer GPU liegt, muss nichts auf mehrere Karten verteilt werden, und während der Generierung fließen keine Daten über PCIe zwischen GPUs. Die Einrichtung bleibt einfach, und Anwendungen mit langem Kontext verhalten sich berechenbarer. Die Kapazität hilft auch jenseits von Sprachmodellen: bei großen Bild- und Videomodellen, mehreren gleichzeitig geladenen Modellen für eine Agenten-Pipeline oder beim Fine-Tuning mittelgroßer Modelle ohne ständige Out-of-Memory-Fehler.
Leistung im Vergleich
Die Karte basiert auf der GPU GB202, demselben Chip wie bei der GeForce RTX 5090, mit mehr aktiven CUDA-Kernen (24.064 gegenüber 21.760) und dreimal so viel Speicher. Beide haben eine Speicherbandbreite von 1.792 GB/s. Bei einem Modell, das auf beide Karten passt, liegt die Geschwindigkeit der Textgenerierung daher im selben Bereich. Ihren Platz verdient sich die RTX PRO 6000, wenn Modell, Kontext oder Batch nicht in 32 GB passen. NVIDIA gibt 126 TFLOPS FP32 und bis zu 4.000 AI TOPS bei FP4 mit Sparsity an.
Die Workstation Edition
| Workstation Edition | |
|---|---|
| Leistungsaufnahme | 600 W |
| Kühlung | Doppelter Durchström-Kühler |
| Abmessungen | 5,4 × 12 Zoll, Dual-Slot |
| AI TOPS (FP4, mit Sparsity) | 4,000 |
| Stromanschluss | 1 × 16-Pin PCIe CEM5 |
Angeboten wird hier die Workstation Edition mit 600 W. Ihr Flow-Through-Kühler gibt die Wärme ins Gehäuse ab und eignet sich damit für eine einzelne Karte in einem gut belüfteten Tower. NVIDIA bietet außerdem eine Max-Q-Version mit 300 W für mehrere Karten nebeneinander an; das ist eine andere Karte und nicht diese.
Stromversorgung und Einbau
Die Workstation Edition nimmt bis zu 600 W über einen 16-poligen PCIe-CEM5-Anschluss auf. Planen Sie ein hochwertiges Netzteil mit nativem 16-Pin-Kabel und genügend Reserve für das übrige System ein, und prüfen Sie, ob Ihr Gehäuse eine 12 Zoll lange Karte mit erhöhter Bauhöhe aufnimmt. Unser Ratgeber zum Einbau einer High-End-Grafikkarte behandelt Platzbedarf, Kabel und Luftstrom.
Software
Die Karte unterstützt den vollständigen CUDA-Stack, darunter PyTorch, TensorRT, vLLM und llama.cpp, unter Windows und Linux. Blackwell benötigt einen aktuellen Treiber und CUDA 12.8 oder neuer; ältere Container und vorkompilierte Pakete müssen daher unter Umständen aktualisiert werden. NVIDIAs Enterprise-Treiber und ISV-Zertifizierungen decken CAD- und Content-Creation-Software ab, und ECC-Speicher schützt lange Trainings- und Simulationsläufe.
Passendes Zubehör
Eine Workstation-Plattform mit reichlich Arbeitsspeicher (die 96 GB der Karte sind eine sinnvolle Untergrenze, um große Modelle zu laden und zu konvertieren), schneller NVMe-Speicher für Modelldateien und ein Netzteil, das für 600 W GPU-Last plus das übrige System ausgelegt ist. Brauchen Sie keine 96 GB, liefert die GeForce RTX 5090 bei Modellen bis 30B eine ähnliche Geschwindigkeit, und die Radeon PRO W7900 bietet 48 GB bei geringerer Leistungsaufnahme. Unser Grafikkarten-Ratgeber für lokale KI vergleicht die Optionen.
Gut geeignet für
- 70B-Modelle mit 8 Bit oder Modelle der 120B-Klasse mit 4 Bit auf einer Karte
- Teams, die Modelle unter CUDA feintunen oder bereitstellen und sie nicht auf mehrere GPUs aufteilen wollen
- Studios mit sehr großen Szenen, Simulationen oder Video-Timelines
- Gemeinsam genutzte Rechner, bei denen MIG die Karte in isolierte Instanzen aufteilt
Weniger geeignet für
- Modelle bis 30B: Dafür reicht eine GeForce RTX 5090 oder Radeon AI PRO R9700 mit 32 GB
- Gaming-PCs: Eine GeForce-Karte bietet dieselbe Spieleleistung
- Kompakte Gehäuse oder schwache Netzteile: Die Karte braucht Platz, Luftstrom und ein starkes Netzteil
Was er ausführen kann
Bis 120B+ mit 4 Bit, 70B mit 8 Bit (ungefähr)
Basierend auf 96 GB GPU-Speicher. Alle Rechner nach Modellgröße ansehen
Ratgeber zu diesem Produkt
Grafikkarten · 5 Min. Lesezeit
GPU für lokale KI wählen: RTX 5090, R9700, B60
GPU für lokale KI nach Speicher, Software und Bandbreite wählen: RTX 5090, Radeon AI PRO R9700, Arc Pro B60 sowie Workstation-Karten mit 48 und 96 GB.
Ratgeber lesen →Lokale KI · 4 Min. Lesezeit
DGX Spark vs Mac Studio: Für wen ist der Spark gedacht?
Lohnt sich der DGX Spark? Was er gut kann, wo er langsamer ist und wie er bei lokaler KI abschneidet: DGX Spark vs Mac Studio, RTX 5090 und RTX PRO 6000.
Ratgeber lesen →Im Einsatz ansehen
Offizielle Videos vom Kanal des Herstellers. Sie laden erst, wenn Sie auf Wiedergabe drücken.

Bewertungen
Was Tester sagen
StorageReview
Die leistungsfähigste Workstation-Karte, die sie getestet hatten. Die 96 GB Speicher sind das Hauptargument für KI mit langem Kontext; eine Consumer-Karte kann einzelne Tempotests trotzdem gewinnen.
Test lesen
Kundenbewertungen bei Atomrig
Noch keine Kundenbewertungen. Bei uns gekauft? Erzählen Sie uns, wie er läuft.
Ähnliche Produkte

NVIDIA
NVIDIA GeForce RTX 5090
- 32 GB
- NVIDIA Blackwell (GB202)
Schafft bis zu 30–34B bei 4 Bit
Mit 32 GB laufen Modelle der 30B-Klasse in 4 Bit problemlos, ein 70B-Modell passt aber nicht auf eine Karte. Für 70B sollten Sie zwei Karten oder ein System mit großem gemeinsamem Arbeitsspeicher einplanen.
1.999 €
PowerColor
PowerColor AMD Radeon AI PRO R9700 32GB
- 32 GB
- AMD RDNA 4 (Navi 48)
Schafft bis zu 30–34B bei 4 Bit
Prüfen Sie vor dem Kauf, ob Ihre Tools ROCm auf Ihrem Betriebssystem unterstützen. PyTorch und llama.cpp tun das; einige Nischen-Tools setzen noch CUDA voraus.
1.299 €
ASRock
ASRock Intel Arc Pro B60 Creator 24GB
- 24 GB
- Intel Xe2 (Battlemage)
Schafft bis zu 30–34B bei 4 Bit
Diese Karte hat eine einzelne GPU mit 24 GB. Sie nutzt einen PCIe-5.0-Steckplatz mit x8-Anbindung und läuft auch in PCIe-4.0-Steckplätzen. Prüfen Sie vor der Bestellung im Datenblatt von ASRock die genaue Länge und den Stromanschluss.
599,99 €
GIGABYTE
GIGABYTE GeForce RTX 5070 Ti WINDFORCE OC SFF 16G
- 16 GB
- NVIDIA GeForce RTX 5070 Ti (Blackwell)
Schafft bis zu 13–14B bei 4 Bit
Sie benötigt ein 16-Pin-Stromkabel oder den mitgelieferten Adapter, der zwei 8-Pin-PCIe-Kabel aufnimmt. GIGABYTE empfiehlt ein 750-W-Netzteil.
849 €