• Daten vom Hersteller, nichts geschätzt
  • Jeder Rechner passend zu den Modellen, die er schafft
  • Weltweite Lieferung, Zölle und Steuern inklusive
Apple

Kategorie

Mac mini für KI und Mac Studio für größere Modelle

Mac mini kaufen oder Mac Studio wählen: Viel gemeinsamer Arbeitsspeicher, nahezu lautloser Betrieb und geringer Stromverbrauch machen beide zu einer guten Wahl, um Modelle zu Hause auszuführen.

Wählen Sie einen Mac für KI nach seinem gemeinsamen Arbeitsspeicher (Unified Memory), denn er lässt sich später nicht aufrüsten. Ein Mac mini mit 24 GB schafft Modelle bis etwa 14B, mit 64 GB passt ein 70B-Modell in 4 Bit. Der Mac Studio mit M3 Ultra startet mit 96 GB und 819 GB/s Bandbreite, für große Modelle an einem nahezu lautlosen Arbeitsplatz.

Unsere Auswahl

2 Produkte

So wählen Sie einen Mac für lokale KI

Speicher jetzt festlegen
Der Arbeitsspeicher wird beim Kauf festgelegt. Der Mac mini (M4 Pro) hat ab Werk 24 GB, optional 48 GB oder 64 GB. Geht es Ihnen um lokale KI, wählen Sie 48 GB oder 64 GB. Mit 24 GB wird es bei Modellen über etwa 14B eng.
Mit 75 % des gemeinsamen Arbeitsspeichers rechnen
macOS reserviert einen Teil des Speichers für das System, daher rechnet unser Modell-Ratgeber mit etwa 75 % nutzbarem Speicher. 24 GB ergeben etwa 18 GB (ein 14B-Modell in 8 Bit), 48 GB etwa 36 GB (ein Modell der 30B-Klasse in 4 Bit) und 64 GB etwa 48 GB (ein 70B-Modell in 4 Bit).
Mac Studio für 70B und mehr
Der Mac Studio (M3 Ultra) hat standardmäßig 96 GB, davon etwa 72 GB nutzbar: genug für ein 70B-Modell in 4 Bit mit Platz für lange Kontexte. 70B in 8 Bit und Modelle der 120B-Klasse brauchen die auf Bestellung erhältliche Konfiguration mit 256 GB.
Die Bandbreite bestimmt das Tempo
Sobald ein Modell in den Speicher passt, hängt die Generierungsgeschwindigkeit von der Speicherbandbreite ab. Der M3 Ultra schafft 819 GB/s, das Dreifache der 273 GB/s des M4 Pro. Dasselbe Modell erzeugt Text auf dem Studio daher in der Regel schneller.
Prüfen Sie, ob Ihre Tools CUDA brauchen
llama.cpp, Ollama und LM Studio laufen nativ über Metal, und Apples MLX-Framework ist für diese Hardware entwickelt. Tools, die CUDA voraussetzen, laufen nicht auf einem Mac. Trifft das auf Ihre Tools zu, kommen NVIDIA-Grafikkarten oder der DGX Spark infrage.

Häufige Fragen

Welchen Mac brauche ich für ein 70B-Modell?

Einen Mac mini mit 64 GB oder einen Mac Studio. Ein 70B-Modell braucht in 4 Bit etwa 42 GB, ein Mac mit 64 GB stellt Modellen etwa 48 GB bereit. Für 70B in 8 Bit mit etwa 80 GB wählen Sie eine größere Mac-Studio-Konfiguration als die standardmäßigen 96 GB.

Reichen 24 GB für lokale KI auf einem Mac mini?

Für Modelle von 7B bis 14B ja: Von 24 GB stehen Modellen etwa 18 GB zur Verfügung, genug für ein 14B-Modell in 8 Bit. Ein Modell der 30B-Klasse braucht in 4 Bit etwa 20 GB und passt nicht mit ausreichend Reserve hinein.

Kann ich den Arbeitsspeicher eines Mac später aufrüsten?

Nein. Der Arbeitsspeicher lässt sich nach dem Kauf nicht erweitern. Wählen Sie ihn daher passend zum größten Modell, das Sie nutzen wollen, mit Reserve für lange Chats und Dokumente.

Eignet sich ein Mac mini als Heimserver?

Ja, wenn Sie mit macOS gut zurechtkommen. Er ist leise, braucht wenig Strom und hat Gigabit-Ethernet, optional 10-Gigabit-Ethernet. Für einen reinen Dateiserver ist der Beelink ME Mini mit sechs M.2-Steckplätzen für Laufwerke genau dafür gebaut.

Verwandte Seiten: Hardware für lokale KI · Rechner für Videobearbeitung