Inicio / Calculadoras / IA local
¿Qué modelo de IA corre en tu compu?
Dime cuánta memoria tiene tu Mac o tu PC y te digo qué modelos de pesos abiertos caben, con qué cuantización y a qué velocidad aproximada. Todo se calcula en tu navegador, sin cuenta y sin guardar nada.
Calculadora de modelos de IA locales
Calculando…
Estimaciones con ±15–25 % de margen: dependen del motor (llama.cpp, MLX…), del controlador y del contexto real que uses. Revisado el 29 de octubre de 2026.
Memoria necesaria por modelo y cuantización (contexto 8K).
Pesos + caché de contexto a 8K en f16 + 0.8 GB de runtime, en GB. Es lo que debe caber en tu VRAM o en la memoria utilizable de tu Mac.
| Modelo | Parámetros | Q4_K_M | Q5_K_M | Q6_K | Q8_0 | FP16 |
|---|---|---|---|---|---|---|
| Llama 3.2 1B | 1.2 B | 1.7 | 1.8 | 1.9 | 2.2 | 3.3 |
| Llama 3.2 3B | 3.2 B | 3.5 | 3.8 | 4.1 | 4.8 | 7.6 |
| Qwen3.5 4B | 4.7 B | 3.7 | 4.1 | 4.6 | 5.6 | 9.7 |
| Gemma 4 E2B | 5.1 B | 3.8 | 4.3 | 4.8 | 5.9 | 10.4 |
| Gemma 4 E4B | 8.0 B | 5.6 | 6.3 | 7.1 | 8.9 | 15.9 |
| Llama 3.1 8B | 8.0 B | 6.3 | 7.1 | 7.9 | 9.7 | 16.7 |
| DeepSeek-R1-0528 Qwen3 8B | 8.2 B | 6.5 | 7.3 | 8.1 | 10.0 | 17.1 |
| Ministral 3 8B | 8.9 B | 6.9 | 7.7 | 8.6 | 10.6 | 18.4 |
| Qwen3.5 9B | 9.7 B | 6.5 | 7.4 | 8.4 | 10.5 | 19.0 |
| Gemma 4 12B | 12.0 B | 8.0 | 9.1 | 10.3 | 13.0 | 23.5 |
| Ministral 3 14B | 14.0 B | 9.9 | 11.3 | 12.7 | 15.8 | 28.0 |
| Phi-4 14B | 14.7 B | 10.7 | 12.0 | 13.5 | 16.8 | 29.6 |
| gpt-oss 20B | 20.9 B (3.6 B activos) | 12.2 MXFP4 nativa | — | — | — | — |
| Devstral Small 2 24B | 24.0 B | 15.7 | 17.9 | 20.3 | 25.8 | 46.7 |
| Gemma 4 26B A4B | 25.8 B (3.8 B activos) | 15.8 | 18.2 | 20.8 | 26.6 | 49.2 |
| Qwen3.8 27B | 27.8 B | 17.1 | 19.7 | 22.5 | 28.7 | 53.0 |
| Gemma 4 31B | 31.3 B | 20.0 | 22.9 | 26.0 | 33.1 | 60.4 |
| DeepSeek-R1-Distill-Qwen 32B | 32.8 B | 21.4 | 24.5 | 27.8 | 35.2 | 63.8 |
| Qwen3.6 35B A3B | 36.0 B (3.0 B activos) | 21.4 | 24.8 | 28.4 | 36.5 | 67.9 |
| Llama 3.3 70B | 70.6 B | 43.4 | 50.1 | 57.2 | 73.1 | 134.7 |
| Qwen3-Coder-Next 80B A3B | 79.7 B (3.0 B activos) | 46.3 | 53.8 | 61.8 | 79.8 | 149.3 |
| GLM-4.5-Air | 110.5 B (12.0 B activos) | 65.1 | 75.5 | 86.6 | 111.5 | 208.0 |
| gpt-oss 120B | 116.8 B (5.1 B activos) | 60.1 MXFP4 nativa | — | — | — | — |
Los modelos gpt-oss se distribuyen ya cuantizados en MXFP4, por eso solo tienen una cifra. Los MoE (mezcla de expertos) necesitan toda la memoria de sus expertos aunque por token lean solo los activos.
Cómo se calcula.
Tres piezas de memoria y una de velocidad. Nada más.
- 1. Pesos del modelo
pesos = parámetros × bits por peso ÷ 8. Un modelo de 8 mil millones de parámetros en Q4_K_M (4.89 bits por peso) pesa unos 4.6 GB. Los bits por peso salen de la tabla de la documentación de llama.cpp. - 2. Caché de contexto (KV)
KV = 2 × capas × cabezas KV × tamaño de cabeza × tokens × bytes. Crece con el contexto que uses. Los modelos con atención híbrida o de ventana deslizante (Qwen3.5 en adelante, Gemma 4, gpt-oss) solo guardan caché completa en parte de sus capas, y la calculadora lo toma de su config.json. - 3. RuntimeUnos 0.8 GB para buffers de cómputo y el propio motor. Pesos + KV + runtime es la memoria que necesitas.
- Memoria disponibleEn un Mac, cerca del 70 % de la memoria unificada (lo que macOS deja a la GPU por defecto; si subes el límite, es tu memoria menos 4 GB). En un PC con GPU, la VRAM; si el modelo no cabe puedes usar offload a la RAM, que es más lento. En un PC sin GPU, tu RAM menos unos 4 GB para el sistema. Aquí 1 GB son 1024³ bytes, como en la RAM.
- Velocidad
tokens/s ≈ ancho de banda ÷ bytes que se leen por token × 0.6. En un modelo denso se lee todo el modelo por token; en un MoE solo los parámetros activos. El 0.6 es la fracción del ancho de banda de ficha técnica que un motor real suele aprovechar, y mostramos un rango de ±25 %.
Qué pesa más: RAM, VRAM o ancho de banda.
La capacidad decide si cabe. Si los pesos más la caché no entran en la memoria que ve el procesador gráfico, el modelo no corre rápido, o no corre. Por eso importa más la VRAM de una tarjeta que su potencia de cómputo.
El ancho de banda decide qué tan rápido va. Generar cada token obliga a leer los pesos activos de la memoria. Por eso una RTX 4090 (1008 GB/s) genera mucho más rápido que un Mac M4 (120 GB/s) con el mismo modelo, siempre que quepa en su VRAM.
La memoria unificada del Mac es un solo pozo compartido por CPU y GPU: no hay que copiar el modelo entre RAM y VRAM, y un Mac con 64 GB o más puede cargar modelos que ninguna tarjeta de consumo aguanta. A cambio, su ancho de banda es menor que el de una GPU de gama alta.
La RAM del PC sirve para el offload, pero es el cuello de botella: una DDR5 de doble canal (unos 90 GB/s) es varias veces más lenta que la VRAM. Si el modelo no cabe en la tarjeta, una mezcla de expertos (MoE) suele resistir mejor porque por token solo toca una fracción de los pesos.
Preguntas frecuentes.
- ¿Puedo correr un modelo de 70B en 16 GB?No. Un 70B en Q4_K_M pesa unos 40 GB solo en pesos, y las cuantizaciones más agresivas (de 2 bits) todavía rondan los 20 GB y pierden calidad. Con 16 GB lo realista son modelos de 8 a 14B. La calculadora te dice cuáles caben con tu configuración.
- ¿Qué es la cuantización?Es guardar los pesos del modelo con menos bits para que ocupen menos. El original va en 16 bits por peso; Q4_K_M usa unos 4.9 y Q8_0 unos 8.5. Cada escalón ahorra memoria y acelera la lectura, a cambio de una pérdida de calidad que en Q8 casi no se nota y en Q4 suele ser aceptable para chat y código. Por debajo de 4 bits ya se nota más.
- ¿Mac o GPU NVIDIA para correr IA local?Depende de qué necesitas. Una GPU NVIDIA da más velocidad por cada GB, pero su VRAM es limitada (8 a 32 GB en las tarjetas de la lista). Un Mac con memoria unificada puede cargar modelos mucho más grandes porque comparte toda su memoria con la GPU, aunque a menor ancho de banda y por eso a menos tokens por segundo en el mismo modelo. Si tu modelo cabe en la VRAM, la tarjeta va más rápido; si no cabe, el Mac con mucha memoria puede ser la única opción cómoda.
- ¿Qué pasa si el modelo no cabe en la VRAM?El motor (por ejemplo llama.cpp) puede dejar parte de las capas en la RAM del sistema y procesarlas con el procesador. Funciona, pero la RAM es mucho más lenta que la VRAM (una DDR5 de doble canal ronda 90 GB/s; una RTX 4070, 504 GB/s) y la velocidad cae a un ritmo cercano al de la RAM. En los modelos MoE conviene dejar en RAM solo los expertos, que rinde mejor que repartir capas.
- ¿"Open source" o "pesos abiertos"? ¿Qué licencia tiene cada modelo?Casi todos estos modelos son de "pesos abiertos": puedes descargar los pesos y correrlos, con las condiciones de su licencia. Llama usa una licencia propia de Meta, que no es una licencia aprobada por la OSI. Otros usan Apache-2.0 o MIT, que sí son licencias OSI, pero eso no basta para llamarlos "código abierto" en el sentido de la definición de IA de la OSI, que además pide información sobre los datos de entrenamiento y el código. Por eso en esta página escribimos "pesos abiertos" y mostramos la licencia de cada uno. Léela antes de usarlo en un producto.
- ¿Correr un modelo local es privado de verdad?Puede serlo, pero depende de la herramienta y de cómo la configures. Si el modelo corre en tu compu y la app no está conectada a un proveedor remoto, tus mensajes no salen de ella. Muchas apps, en cambio, mezclan modelos locales con APIs en la nube, búsqueda web o telemetría. Revisa los ajustes de la herramienta y, si te importa, prueba con la red desconectada o con un cortafuegos que muestre las conexiones salientes. Cómo revisar un repo antes de instalarlo.
Metodología y fuentes.
Datos revisados el 29 de octubre de 2026. Parámetros, capas, cabezas KV y licencia de cada modelo salen del config.json y la ficha oficial en Hugging Face; los bits por peso, del README de llama-quantize en llama.cpp; el ancho de banda de cada equipo, de las fichas técnicas de Apple y NVIDIA o de las reseñas de TechPowerUp, y el de la RAM se calcula a partir de su velocidad (MT/s × 8 bytes × 2 canales).
Estimaciones con ±15–25 % de margen. Dependen del motor (llama.cpp, MLX…), del controlador, de la cuantización exacta del archivo que descargues y del contexto real. Los modelos con visión pueden pedir un poco más de memoria por su codificador de imagen. La velocidad es una cifra orientativa a partir del ancho de banda máximo de ficha técnica, no una medición. Si un dato no se pudo verificar, el modelo o el equipo se dejó fuera.
¿Falta un modelo o un equipo? Escríbeme y lo reviso.