• Daten vom Hersteller, nichts geschätzt
  • Jeder Rechner passend zu den Modellen, die er schafft
  • Weltweite Lieferung, Zölle und Steuern inklusive
Hardware zum Ausführen von KI-Modellen

Modell-Check

Welcher Rechner schafft welches Modell

Der Speicher entscheidet, welche Modelle passen. Wählen Sie Modellgröße und Qualität und sehen Sie alle Rechner und Karten in unserem Sortiment, die es laden können.

1. Modellgröße
2. Qualität (Quantisierung)

4 Bit ist zu Hause die übliche Wahl: etwa halb so viel Speicher wie 8 Bit, bei geringem Qualitätsverlust.

30–34B mit 4 Bit

Etwa 20 GB GPU-Speicher

Für viele der beste Kompromiss: spürbar klügere Antworten, und mit 4 Bit reicht weiterhin eine einzelne Karte mit 24–32 GB.

Beispiele: Gemma 2 27B, Qwen2.5 32B

13 von 21 Rechnern und Karten schaffen es

Alle Werte sind Näherungswerte. Wir rechnen mit etwa (Parameter × Bit ÷ 8) für die Gewichte plus 20–30 % für Kontext und Puffer und setzen 90 % des Speichers einer Grafikkarte sowie 75 % des Speichers eines Systems mit Unified Memory als nutzbar an. Lange Kontexte, Bildmodelle und Batching brauchen mehr. Jede Karte wird einzeln gezählt; mehrere Karten lassen sich in einem Rechner kombinieren.

Unsicher, welcher?

Nennen Sie dem Assistenten, was Sie ausführen möchten, und Ihr Budget.

Unsicher? Fragen Sie uns