• Specificaties van de fabrikant, niets gegokt
  • Elke machine gekoppeld aan de modellen die hij kan draaien
  • Wereldwijd geleverd, invoerrechten en belastingen inbegrepen
Hardware om AI-modellen te draaien

Modelcheck

Welke machine draait welk model

Geheugen bepaalt welke modellen passen. Kies een modelgrootte en kwaliteit en zie elke machine en kaart in ons assortiment die het kan laden.

1. Modelgrootte
2. Kwaliteit (kwantisatie)

Thuis is 4-bit de gebruikelijke keuze: ongeveer de helft van het geheugen van 8-bit, met een klein kwaliteitsverlies.

30–34B op 4-bit

Ongeveer 20 GB GPU-geheugen

Voor veel mensen de beste balans: merkbaar slimmere antwoorden, en op 4-bit nog steeds genoeg aan één kaart met 24–32 GB.

Voorbeelden: Gemma 2 27B, Qwen2.5 32B

13 van de 21 machines en kaarten kunnen het draaien

Alle getallen zijn bij benadering. We rekenen ongeveer (parameters × bits ÷ 8) voor de gewichten plus 20–30% voor context en buffers, en tellen 90% van het geheugen van een videokaart en 75% van dat van een systeem met unified memory als bruikbaar. Lange contexten, beeldmodellen en batching vragen meer. Elke kaart telt op zichzelf; meerdere kaarten kun je in één machine combineren.

Twijfel je welke?

Vertel de assistent wat je wilt draaien en wat je budget is.

Twijfel je? Vraag het