• Especificaciones del fabricante, nada inventado
  • Cada equipo, con los modelos que puede ejecutar
  • Envíos a todo el mundo, aranceles e impuestos incluidos

¿Cuánta memoria hace falta para ejecutar un LLM en local?

Actualizado el 17 de noviembre de 2026 · 5 min de lectura

La memoria determina qué modelos se pueden ejecutar; la velocidad va después. Un modelo de 7–8B necesita unos 6 GB a 4 bits, uno de 70B unos 42 GB, y los modelos abiertos más grandes que la mayoría usa en casa, unos 80 GB. A continuación se explica de dónde salen estas cifras y qué equipos las cumplen.

La respuesta corta#

Tamaño del modeloEjemplos4-bit8-bitQué lo admite a 4 bits
7–8BLlama 3.1 8B, Mistral 7B, Qwen2.5 7Bunos 6 GBunos 10 GBCasi cualquier tarjeta gráfica moderna o Mac
13–14BPhi-4, Qwen2.5 14Bunos 10 GBunos 16 GBUna tarjeta de 16 GB o un Mac mini con 24 GB
27–34BGemma 2 27B, Qwen2.5 32Bunos 20 GBunos 38 GBUna tarjeta de 24 GB o de 32 GB
70BLlama 3.3 70B, Qwen2.5 72Bunos 42 GBunos 80 GBDos tarjetas de 24 GB, una de 48 GB o al menos 64 GB de memoria unificada
120B+gpt-oss-120b (MoE), Mistral Large 2unos 80 GBunos 140 GBUna tarjeta de 96 GB o un sistema con 128 GB de memoria unificada

Estas cifras son conservadoras a propósito. Tómelas como el mínimo para trabajar con holgura, no como un límite al que ajustarse.

De dónde salen las cifras#

La regla práctica es sencilla: los pesos de un modelo ocupan aproximadamente parámetros × bits ÷ 8 bytes. Un modelo de 70B a 4 bits ocupa unos 35 GB de pesos. Si se suma un 20–30 % para el contexto (la KV cache), los búferes de ejecución y la parte que usa el sistema operativo, se llega a unos 42 GB.

Los modelos se suelen publicar con precisión de 16 bits, en la que cada mil millones de parámetros ocupa 2 GB, así que un modelo de 8B supone 16 GB de pesos antes de cargar nada más. Por eso pocos usuarios trabajan en casa con precisión completa.

Hay cuatro factores que aumentan la memoria necesaria:

¿4 bits u 8 bits?#

La cuantización guarda cada peso en menos bits. A 4 bits se usa aproximadamente la mitad de memoria que a 8 bits, con una pequeña pérdida de calidad, y es como la mayoría de la gente ejecuta modelos en casa. A 8 bits se conserva más de la calidad original y se necesita aproximadamente el doble de memoria.

Para chat y uso general, a muchos usuarios les resulta más útil un modelo más grande a 4 bits que uno más pequeño a 8 bits en la misma memoria. Para programar o extraer datos exactos, donde los pequeños errores salen caros, merece la pena usar 8 bits si se dispone de memoria suficiente.

Memoria gráfica frente a memoria unificada#

En una tarjeta gráfica, el modelo se aloja en la memoria propia de la tarjeta (VRAM). Nuestra guía de modelos considera utilizable en torno al 90 %.

Los equipos con Apple silicon, Ryzen AI Max+ y DGX Spark comparten un único bloque de memoria unificada entre la CPU y la GPU. El sistema operativo reserva una parte y se aplican los límites de la GPU, por lo que la guía de modelos cuenta como utilizable en torno al 75 %. En los equipos Ryzen AI Max+ con Windows, se pueden asignar a la GPU hasta 96 GB de los 128 GB; Linux permite asignar más. macOS también reserva parte del bloque para el sistema.

En la práctica: un Mac mini con 24 GB dispone de unos 18 GB para modelos, suficiente para un modelo de 14B a 8 bits, pero no para uno de 30B a 4 bits. El mismo Mac mini con 64 GB dispone de unos 48 GB, suficiente para un modelo de 70B a 4 bits.

Si un modelo cabe muy justo, tendrá problemas a medida que crezca la conversación. Deje margen para el contexto.

La memoria decide qué cabe; el ancho de banda, la velocidad#

Una vez que el modelo cabe, su velocidad de escritura depende sobre todo del ancho de banda de memoria, porque cada nuevo token recorre los pesos; un modelo que se desborda a la RAM del sistema se ralentiza mucho. La RTX 5090 alcanza 1.792 GB/s; el Mac Studio con M3 Ultra, 819 GB/s, y tanto el Mac mini con M4 Pro como la DGX Spark, 273 GB/s. Un modelo que cabe en dos de estos equipos suele escribir más rápido en el que tiene más ancho de banda.

Qué equipo para cada tamaño#

Un equipo más económico es suficiente si a su trabajo le bastan los modelos pequeños. Resúmenes, chat, autocompletado de código y búsqueda en sus propios documentos funcionan con modelos de 7–14B, que caben en 16 GB. La guía de modelos indica qué modelos caben en cada producto que vendemos.

Preguntas habituales

¿Puedo ejecutar un modelo de 70B en una tarjeta gráfica de 32 GB?

No con holgura. A 4 bits necesita unos 42 GB. Algunas herramientas pueden pasar parte del modelo a la RAM del sistema, pero esa parte va mucho más lenta. Para 70B, prevea dos tarjetas de 24 GB, una de 48 GB o un equipo de memoria unificada con 64 GB o más.

¿Cuenta la RAM del sistema de mi PC?

En un PC con tarjeta gráfica, solo la memoria de la tarjeta funciona a plena velocidad. Algunas herramientas pueden colocar parte del modelo en la RAM del sistema, a costa de perder mucha velocidad. En los equipos de memoria unificada, la memoria compartida es la que usa la GPU.

¿Cuánta memoria adicional necesitan los documentos largos?

La memoria de contexto crece con la longitud, así que conviene dejar margen sobre las cifras de la tabla. Para documentos o conversaciones largas, elija el siguiente tamaño de memoria en lugar del que apenas basta para el modelo.

¿Compensa usar 8 bits a cambio del doble de memoria?

Para chat general, la mayoría usa 4 bits y la pérdida de calidad es pequeña. Para programar o extraer datos con precisión, 8 bits compensa si hay memoria suficiente.

Ver qué equipo ejecuta su modeloElija un tamaño de modelo y vea todos los equipos y tarjetas con memoria suficiente para cargarlo.Solicitar una configuración a medidaDíganos qué quiere ejecutar, su presupuesto y su país. Le responderemos con una configuración y un presupuesto.¿Sigue con dudas? PreguntePregunte al asistente sobre esta guía, su presupuesto o lo que quiere ejecutar, y obtenga una respuesta al momento.

Comprar en esta categoría: Hardware para IA local · Tarjetas gráficas · Apple