• Specificaties van de fabrikant, niets gegokt
  • Elke machine gekoppeld aan de modellen die hij kan draaien
  • Wereldwijd geleverd, invoerrechten en belastingen inbegrepen
Apple

Categorie

Mac mini voor AI en Mac Studio voor grotere modellen

Mac mini kopen of een Mac Studio? Veel unified memory, bijna geruisloos en een laag stroomverbruik: daarmee zijn ze een sterke keuze om thuis modellen te draaien.

Kies een Mac voor AI op basis van het unified memory, want dat kun je later niet uitbreiden. Een Mac mini met 24 GB draait modellen tot ongeveer 14B; met 64 GB past er een 70B-model op 4-bit in. De Mac Studio met M3 Ultra begint bij 96 GB met 819 GB/s bandbreedte, voor grote modellen op een vrijwel geluidloos bureau.

Onze keuzes

2 producten

Zo kies je een Mac voor lokale AI

Kies het geheugen nu
Het geheugen ligt vast bij aankoop. De Mac mini (M4 Pro) heeft standaard 24 GB, met opties voor 48 GB en 64 GB. Is lokale AI het doel, kies dan 48 GB of 64 GB; met 24 GB wordt het krap met modellen boven ongeveer 14B.
Reken met 75% van het unified memory
macOS houdt een deel van het geheugen vrij voor het systeem, dus onze modelgids gaat uit van ongeveer 75% bruikbaar geheugen. Van 24 GB is zo'n 18 GB bruikbaar (een 14B-model op 8-bit), van 48 GB zo'n 36 GB (een model uit de 30B-klasse op 4-bit) en van 64 GB zo'n 48 GB (een 70B-model op 4-bit).
Mac Studio voor 70B en groter
De Mac Studio (M3 Ultra) heeft standaard 96 GB, waarvan ongeveer 72 GB bruikbaar: genoeg voor een 70B-model op 4-bit met ruimte voor lange contexten. Voor 70B op 8-bit en modellen uit de 120B-klasse heb je de configuratie met 256 GB nodig, die op bestelling leverbaar is.
Bandbreedte bepaalt de snelheid
Zodra een model past, hangt de generatiesnelheid af van de geheugenbandbreedte. De M3 Ultra haalt 819 GB/s, drie keer de 273 GB/s van de M4 Pro, dus hetzelfde model schrijft op de Studio doorgaans sneller.
Controleer of je tools CUDA nodig hebben
llama.cpp, Ollama en LM Studio draaien native via Metal, en Apples MLX-framework is speciaal voor deze hardware gemaakt. Tools die CUDA vereisen, werken niet op een Mac; geldt dat voor jouw tools, kijk dan naar NVIDIA-videokaarten of de DGX Spark.

Veelgestelde vragen

Welke Mac heb ik nodig voor een 70B-model?

Een Mac mini met 64 GB of een Mac Studio. Een 70B-model heeft op 4-bit ongeveer 42 GB nodig, en een Mac met 64 GB houdt zo'n 48 GB over voor modellen. Voor 70B op 8-bit, ongeveer 80 GB, kies je een grotere Mac Studio-configuratie dan de standaard 96 GB.

Is 24 GB genoeg voor lokale AI op een Mac mini?

Voor modellen van 7B tot 14B wel: van 24 GB is ongeveer 18 GB beschikbaar voor modellen, genoeg voor een 14B-model op 8-bit. Een model uit de 30B-klasse op 4-bit heeft ongeveer 20 GB nodig en past er niet ruim in.

Kan ik het geheugen van een Mac later uitbreiden?

Nee. Het geheugen kun je na aankoop niet uitbreiden. Kies het dus op basis van het grootste model dat je verwacht te draaien, met ruimte over voor lange chats en documenten.

Kan een Mac mini dienen als thuisserver?

Ja, als je goed uit de voeten kunt met macOS. Hij is stil, verbruikt weinig stroom en heeft Gigabit Ethernet, met 10 Gb als optie. Voor een aparte fileserver heeft de Beelink ME Mini zes M.2-slots die speciaal daarvoor bedoeld zijn.

Gerelateerde pagina's: Hardware voor lokale AI · Computers voor videobewerking