
Modelli compatibili
Quale macchina esegue quale modello
È la memoria a decidere quali modelli ci stanno. Scelga dimensione e qualità del modello e veda tutte le macchine e le schede in vendita in grado di caricarlo.
30–34B a 4 bit
Circa 20 GB di memoria GPU
Il punto di equilibrio per molti: risposte sensibilmente più intelligenti, ancora su una singola scheda da 24–32 GB a 4 bit.
Esempi: Gemma 2 27B, Qwen2.5 32B
13 macchine e schede su 21 possono eseguirlo
ASRock Intel Arc Pro B60 Creator 24GB24 GB599,99 €
SAPPHIRE PULSE AMD Radeon RX 7900 XTX 24GB24 GB899 €
PowerColor AMD Radeon AI PRO R9700 32GB32 GB1299 €
Tenstorrent Wormhole n300s24 GB1399 €
Tenstorrent Blackhole p150a32 GB1399 €
NVIDIA GeForce RTX 409024 GB1599 €
NVIDIA GeForce RTX 509032 GB1999 €
Minisforum MS-S1 Max128 GB unificati2469 €
AMD Radeon PRO W7900 (48 GB)48 GB3592 €
Apple Mac Studio (M3 Ultra)96 GB unificati3999 €
Beelink GTR9 Pro128 GB unificati4349 €
NVIDIA DGX Spark128 GB unificati4699 €
NVIDIA RTX PRO 6000 Blackwell Workstation Edition (96 GB)96 GB13.250 €
Tutti i valori sono indicativi. Calcoliamo circa (parametri × bit ÷ 8) per i pesi più un 20–30% per contesto e buffer, poi consideriamo utilizzabile il 90% della memoria di una scheda video e il 75% di quella di un sistema a memoria unificata. Contesti lunghi, modelli di immagini e batching richiedono di più. Ogni scheda è considerata da sola; più schede possono essere combinate in un'unica macchina.
Indeciso?
Indichi all'assistente cosa vuole eseguire e il suo budget.