
Modell-Check
Welcher Rechner schafft welches Modell
Der Speicher entscheidet, welche Modelle passen. Wählen Sie Modellgröße und Qualität und sehen Sie alle Rechner und Karten in unserem Sortiment, die es laden können.
30–34B mit 4 Bit
Etwa 20 GB GPU-Speicher
Für viele der beste Kompromiss: spürbar klügere Antworten, und mit 4 Bit reicht weiterhin eine einzelne Karte mit 24–32 GB.
Beispiele: Gemma 2 27B, Qwen2.5 32B
13 von 21 Rechnern und Karten schaffen es
ASRock Intel Arc Pro B60 Creator 24GB24 GB599,99 €
SAPPHIRE PULSE AMD Radeon RX 7900 XTX 24GB24 GB899 €
PowerColor AMD Radeon AI PRO R9700 32GB32 GB1.299 €
Tenstorrent Wormhole n300s24 GB1.399 €
Tenstorrent Blackhole p150a32 GB1.399 €
NVIDIA GeForce RTX 409024 GB1.599 €
NVIDIA GeForce RTX 509032 GB1.999 €
Minisforum MS-S1 Max128 GB Unified2.469 €
AMD Radeon PRO W7900 (48 GB)48 GB3.592 €
Apple Mac Studio (M3 Ultra)96 GB Unified3.999 €
Beelink GTR9 Pro128 GB Unified4.349 €
NVIDIA DGX Spark128 GB Unified4.699 €
NVIDIA RTX PRO 6000 Blackwell Workstation Edition (96 GB)96 GB13.250 €
Alle Werte sind Näherungswerte. Wir rechnen mit etwa (Parameter × Bit ÷ 8) für die Gewichte plus 20–30 % für Kontext und Puffer und setzen 90 % des Speichers einer Grafikkarte sowie 75 % des Speichers eines Systems mit Unified Memory als nutzbar an. Lange Kontexte, Bildmodelle und Batching brauchen mehr. Jede Karte wird einzeln gezählt; mehrere Karten lassen sich in einem Rechner kombinieren.
Unsicher, welcher?
Nennen Sie dem Assistenten, was Sie ausführen möchten, und Ihr Budget.