Guía · IA local
Cuánta memoria de gráfica necesita la IA local.
Para usar un modelo de IA en tu máquina, el modelo entero tiene que caber en la memoria de la gráfica, y esa memoria se calcula a partir de su número de parámetros y de cuántos bits ocupa cada uno, más un margen para el contexto. Como orientación, con los tamaños que publica Ollama, Llama 3.3 de 70.000 millones de parámetros reducido a 4 bits ocupa 43 GB, y en 16 GB caben modelos de unos 14.000 millones, con margen para el contexto.
Publicada el 25 de octubre de 2026
Qué manda en la IA local
El modelo tiene que caber
Lo que decide qué modelos puedes usar es la memoria de la gráfica, más que su velocidad. Un modelo que cabe responde rápido; uno que no cabe y se reparte con la memoria del sistema responde mucho más despacio. Por eso la primera cifra de una máquina para IA no es la potencia de la tarjeta: es cuántos gigas tiene.
Cómo se calcula: parámetros por bits
Cada parámetro de un modelo ocupa una cantidad fija de memoria según su precisión: 2 bytes en 16 bits, 1 byte en 8 bits y algo más de medio byte en 4 bits. Multiplicando sale el tamaño. Llama 3.3, de 70.000 millones de parámetros, lo muestra bien con los tamaños que publica Ollama:
| Versión | Lo que ocupa |
|---|---|
| Sin reducir, 16 bits | 141 GB |
| 8 bits | 75 GB |
| 4 bits, la que Ollama descarga por defecto | 43 GB |
Reducir los bits se llama cuantizar: el modelo ocupa mucho menos a cambio de perder algo de precisión. Cuánto se nota depende del modelo y de para qué lo uses.
El contexto también ocupa
Además del modelo, la gráfica guarda la conversación o el documento con el que trabaja, y esa memoria crece con cada palabra. Un modelo que cabe justo con un chat corto puede no caber con un contrato de cien páginas. Por eso conviene no dimensionar al límite.
Varias gráficas: en texto se suman, en imagen no suele
Con modelos de lenguaje, un modelo grande se puede repartir entre varias tarjetas, y la memoria disponible pasa a ser la de todas juntas; lo reparte el programa, no un puente NVLink. Para eso hace falta una plataforma con líneas PCIe suficientes para que cada gráfica trabaje a pleno ancho.
En generación de imagen no suele ser así: lo normal es que el modelo tenga que caber en una sola tarjeta.
Qué cabe en cada cantidad de memoria
Tamaños de descarga que publica Ollama, en su versión por defecto (4 bits salvo que se diga otra cosa). A cada cifra hay que sumarle el margen del contexto.
| Memoria de gráfica | Ejemplos que caben |
|---|---|
| 16 GB | Qwen3 14B (9,3 GB) · gpt-oss 20B (14 GB) |
| 24 a 32 GB | Mistral Small 3.2 24B (15 GB) · Qwen3 30B (19 GB) · Qwen3 32B (20 GB) |
| 48 a 64 GB, con dos gráficas | Llama 3.3 70B (43 GB) |
| 96 GB | Llama 3.3 70B en 8 bits (75 GB) · gpt-oss 120B (65 GB) |
| Más de 96 GB, con varias gráficas | Qwen3 235B (142 GB) · Llama 3.3 70B sin reducir (141 GB) |
Tamaños de Ollama y, para Flux.1 dev, el archivo publicado en Hugging Face. Las filas son una cuenta sobre esos tamaños, no una prueba nuestra, y cambian con cada versión de los modelos.
96 GB es la memoria de una sola NVIDIA RTX PRO 6000 Blackwell, según NVIDIA. En generación de imagen existen versiones reducidas de Flux.1 dev; por ejemplo, la FP8 de Unsloth en Hugging Face ocupa unos 11,9 GB.
Qué iClon te corresponde
Usar modelos ya entrenados
Un asistente o generación de imagen, con modelos de tamaño medio. Un iClon Studio, con hasta dos gráficas; la memoria de gráfica se elige según los modelos que vayas a usar.
iClon Studio →Desde 2.799 €, IVA no incluido
Modelos grandes y ajuste fino con tus datos
Un iClon Ultra, con hasta cuatro gráficas alimentadas a pleno ancho por Threadripper y hasta 2 TB de memoria del sistema.
iClon Ultra →Desde 5.599 €, IVA no incluido
Un modelo al servicio de todo el equipo
Un iClon Server en rack, para dar servicio a varias personas a la vez y para entrenamientos largos.
iClon Server →Desde 5.999 €, IVA no incluido
Se entregan listas para usar: controladores de la gráfica, Ollama con un chat en el navegador y un modelo instalado y probado en tu tarjeta; si trabajas con imagen, también ComfyUI. Todas llevan 1 año de garantía iClons y 3 del fabricante en las piezas. Más en IA local.
Errores típicos
- Mirar la memoria del ordenador en vez de la de la gráfica. 128 GB de memoria del sistema no sustituyen a la de la tarjeta.
- Más gráficas de las que la plataforma alimenta. Una plataforma de escritorio llega a dos; para tres o cuatro tarjetas a pleno ancho hace falta Threadripper, como en el iClon Ultra.
- Pensar que entrenar cabe donde cabe usar. Ajustar o entrenar un modelo pide bastante más memoria que hacerle preguntas, porque además de los parámetros hay que guardar lo que se calcula para corregirlos, como explica Hugging Face.
Preguntas frecuentes
Lo que suelen preguntarnos.
¿Cuánta VRAM necesito para un modelo de 70B?
Con los tamaños que publica Ollama, Llama 3.3 70B ocupa 43 GB en 4 bits, 75 GB en 8 bits y 141 GB sin reducir, más el contexto. En 4 bits pide unos 48 GB libres: dos gráficas que los sumen o una de 96 GB.
¿Cuánta memoria de gráfica necesito para Stable Diffusion o Flux?
Depende de la versión. El modelo completo de Flux.1 dev ocupa 23,8 GB solo, sin el codificador de texto; existen versiones reducidas que ocupan bastante menos. Dinos qué modelos usas y lo dimensionamos.
¿Se suma la memoria de dos gráficas?
Con modelos de lenguaje, sí: se reparten entre las tarjetas y la memoria disponible es la de todas, con una plataforma que dé líneas PCIe suficientes a cada una. En generación de imagen no suele ser así, y el modelo tiene que caber en una.
¿Puedo usar la memoria del ordenador si no cabe en la gráfica?
Se puede, pero el modelo responde mucho más despacio. Sirve para probar, no para trabajar a diario.
¿NVIDIA o AMD para IA local?
Montamos las dos, según el caso. NVIDIA tiene el ecosistema más extendido, CUDA, y es la que dan por hecha más programas de IA. AMD tiene modelos con mucha memoria y funciona con ROCm, llama.cpp y Ollama. La elegimos según los programas que vayas a usar.
Te ayudamos a elegir.
Cuéntanos qué modelos quieres usar, con qué documentos y cuántas personas a la vez. Te decimos cuánta memoria hace falta y qué máquina te corresponde.
Fuentes
- Ollama, biblioteca de modelos (Llama 3.3, Qwen3, gpt-oss, Mistral Small 3.2)
- Hugging Face, FLUX.1 dev de Black Forest Labs
- Hugging Face, FLUX.1 dev en FP8 (Unsloth)
- Hugging Face, la caché del contexto (KV caching explained)
- Hugging Face, la memoria del entrenamiento (Model training anatomy)
- NVIDIA, ficha de la RTX PRO 6000 Blackwell