• Specifiche del produttore, niente a occhio
  • Ogni macchina abbinata ai modelli che può eseguire
  • Spedizione in tutto il mondo, dazi e tasse inclusi

Quanta memoria serve per eseguire un LLM in locale?

Aggiornato il 17 novembre 2026 · 5 min di lettura

È la memoria a stabilire quali modelli si possono eseguire; la velocità viene dopo. Un modello 7–8B richiede circa 6 GB a 4 bit, un modello 70B circa 42 GB e i modelli aperti più grandi che di solito si usano in casa circa 80 GB. Ecco da dove vengono questi numeri e quali macchine ne dispongono.

La risposta breve#

Dimensione del modelloEsempi4-bit8-bitCosa serve a 4 bit
7–8BLlama 3.1 8B, Mistral 7B, Qwen2.5 7Bcirca 6 GBcirca 10 GBQuasi qualsiasi scheda video o Mac recente
13–14BPhi-4, Qwen2.5 14Bcirca 10 GBcirca 16 GBUna scheda da 16 GB o un Mac mini con 24 GB
27–34BGemma 2 27B, Qwen2.5 32Bcirca 20 GBcirca 38 GBUna scheda da 24 GB o 32 GB
70BLlama 3.3 70B, Qwen2.5 72Bcirca 42 GBcirca 80 GBDue schede da 24 GB, una scheda da 48 GB o almeno 64 GB di memoria unificata
120B+gpt-oss-120b (MoE), Mistral Large 2circa 80 GBcirca 140 GBUna scheda da 96 GB o un sistema con 128 GB di memoria unificata

Questi valori sono volutamente prudenti. Vanno letti come il minimo per lavorare con margine, non come una soglia da raggiungere a fatica.

Da dove vengono i numeri#

La regola pratica è semplice: i pesi di un modello occupano circa parametri × bit ÷ 8 byte. Un modello 70B a 4 bit corrisponde a circa 35 GB di pesi. Aggiungendo un 20–30% per il contesto (la KV cache), i buffer di runtime e la quota del sistema operativo, si arriva a circa 42 GB.

I modelli vengono di solito pubblicati con precisione a 16 bit, in cui ogni miliardo di parametri occupa 2 GB: un modello 8B equivale quindi a 16 GB di pesi prima ancora di caricare altro. Per questo in casa pochi usano la precisione piena.

Quattro fattori fanno crescere il fabbisogno:

4 bit o 8 bit?#

La quantizzazione memorizza ogni peso con meno bit. A 4 bit si occupa circa metà della memoria richiesta a 8 bit, con una piccola perdita di qualità, ed è il modo in cui la maggior parte delle persone esegue i modelli in casa. A 8 bit la qualità resta più vicina all'originale, ma serve circa il doppio della memoria.

Per la chat e l'uso generale, a parità di memoria molti trovano più utile un modello più grande a 4 bit di uno più piccolo a 8 bit. Per la programmazione o l'estrazione esatta di dati, dove anche piccoli errori costano, vale la pena di usare gli 8 bit, se la memoria lo consente.

Memoria video e memoria unificata#

Su una scheda video il modello risiede nella memoria della scheda stessa (VRAM). La nostra guida ai modelli ne considera utilizzabile circa il 90%.

Le macchine con Apple silicon, Ryzen AI Max+ e DGX Spark condividono tra CPU e GPU un unico pool di memoria unificata. Il sistema operativo ne riserva una parte e valgono i limiti della GPU, quindi la guida ai modelli considera utilizzabile circa il 75%. Sulle macchine Ryzen AI Max+ con Windows è possibile assegnare alla GPU fino a 96 GB dei 128 GB; con Linux se ne possono assegnare di più. Anche macOS riserva una parte del pool al sistema.

In pratica: un Mac mini con 24 GB ha circa 18 GB per i modelli, sufficienti per un modello 14B a 8 bit ma non per un 30B a 4 bit. Lo stesso Mac mini con 64 GB dispone di circa 48 GB, sufficienti per un modello 70B a 4 bit.

Un modello che entra appena in memoria va in difficoltà man mano che la conversazione si allunga. Conviene lasciare spazio per il contesto.

La memoria decide cosa entra, la banda decide la velocità#

Quando un modello entra in memoria, la sua velocità di generazione dipende soprattutto dalla banda di memoria, perché ogni nuovo token richiede la lettura dei pesi; un modello che sconfina nella RAM di sistema rallenta drasticamente. La RTX 5090 raggiunge 1.792 GB/s, il Mac Studio con M3 Ultra 819 GB/s, il Mac mini con M4 Pro e la DGX Spark 273 GB/s ciascuno. Un modello che entra in due di queste macchine sarà in genere più veloce su quella con più banda.

Quale macchina per quale dimensione#

Una macchina più economica è sufficiente se per il proprio lavoro bastano i modelli piccoli. Riassunti, chat, completamento del codice e ricerca nei propri documenti funzionano con modelli 7–14B, che entrano in 16 GB. La guida ai modelli indica la compatibilità di ogni prodotto in catalogo.

Domande frequenti

Posso eseguire un modello 70B su una scheda video da 32 GB?

Non in modo agevole. A 4 bit richiede circa 42 GB. Alcuni strumenti possono spostare parte del modello nella RAM di sistema, ma quella parte gira molto più lentamente. Per un 70B occorrono due schede da 24 GB, una da 48 GB o una macchina a memoria unificata con almeno 64 GB.

La RAM di sistema del mio PC conta?

Su un PC con scheda video, solo la memoria della scheda lavora alla massima velocità. Alcuni strumenti possono collocare parte del modello nella RAM di sistema, con un forte calo di velocità. Sulle macchine a memoria unificata, la memoria condivisa è quella usata dalla GPU.

Quanta memoria in più serve per i documenti lunghi?

La memoria del contesto cresce con la lunghezza, quindi conviene prevedere un margine oltre i valori in tabella. Per documenti o chat lunghe, si consiglia il taglio di memoria superiore anziché quello che contiene appena il modello.

Vale la pena usare gli 8 bit, che richiedono il doppio della memoria?

Per la chat generica, la maggior parte delle persone usa i 4 bit e la perdita di qualità è ridotta. Per la programmazione o l'estrazione esatta, gli 8 bit convengono se la memoria è sufficiente.

Verifica quale macchina esegue il suo modelloScelga una dimensione di modello e veda tutte le macchine e le schede con memoria sufficiente a caricarlo.Richiedi una configurazione su misuraCi dica cosa vuole eseguire, il suo budget e il suo paese. Le risponderemo con una configurazione e un preventivo.Ancora dubbi? ChiedaChieda all'assistente di questa guida, del suo budget o di ciò che vuole eseguire e riceva subito una risposta.

Prodotti per questo tema: Hardware per l'IA locale · Schede video · Apple