· reAPI Team
LLM local para programar: qué modelos caben en 8, 16, 32 o 64 GB
Un LLM local para programar debe caber en su memoria y mantener un contexto de 64K. Modelos de programación con herramientas en Ollama, por tamaño y contexto.
Elegir un LLM local para programar empieza por dos cifras, no por una clasificación: cuánta memoria tiene su equipo y cuánto contexto puede mantener el modelo. Un agente de programación como Claude Code o Cline necesita un modelo que admita llamadas a herramientas, y la documentación de Ollama indica que las herramientas de programación necesitan un contexto de al menos 64,000 tokens.[1] Los modelos siguientes figuran en la biblioteca de Ollama con soporte de herramientas, ordenados por el tamaño de descarga de sus versiones de 4 bits, según los datos del 4 de noviembre de 2026.[2]
No los clasificamos por calidad. No existe un único benchmark independiente que los cubra a todos con las mismas tareas de agente, y la elección adecuada depende de su repositorio. Lo que sí podemos indicar es cuáles caben, cuáles mantienen suficiente contexto y cuáles funcionan rápido con un ancho de banda de memoria limitado.
LLM local para programar, según la memoria disponible
| Memoria disponible | Modelo (etiqueta de Ollama) | Descarga de 4 bits | Ventana de contexto | Notas |
|---|---|---|---|---|
| Hasta 8 GB | qwen2.5-coder:7b | 4.7 GB | 32K | Por debajo de los 64K que necesitan los agentes |
| Hasta 8 GB | mimo-v2.6:9b-q4_K_M | 6.6 GB | 256K | Xiaomi; entrada de texto e imágenes |
| Hasta 16 GB | qwen2.5-coder:14b | 9.0 GB | 32K | Por debajo de los 64K que necesitan los agentes |
| Hasta 16 GB | gpt-oss:20b | 14 GB | 128K | Modelo de pesos abiertos de OpenAI |
| Hasta 32 GB | qwen3.6:27b-q4_K_M | 17 GB | 256K | Entrada de texto e imágenes; una variante de programación ocupa 18 GB |
| Hasta 32 GB | qwen3-coder:30b | 19 GB | 256K | Etiqueta completa 30b-a3b-q4_K_M |
| Hasta 32 GB | north-mini-code-1.0 | 19 GB | 488K | Cohere; 30B en total, 3B activos |
| Hasta 32 GB | qwen2.5-coder:32b | 20 GB | 32K | Por debajo de los 64K que necesitan los agentes |
| Hasta 64 GB | qwen3-coder-next | 52 GB | 256K | Modelo de Qwen para programación con agentes |
| Más de 64 GB | gpt-oss:120b | 65 GB | 128K | |
| Más de 64 GB | nemotron-3.5-super:120b-a12b-q4_K_M | 90 GB | 1M | NVIDIA; 12B activos |
| Más de 64 GB | qwen3-coder:480b | 290 GB | 256K | Solo para estaciones de trabajo o servidores |
Fuentes: biblioteca de modelos y páginas de etiquetas de Ollama.[2][3]
El tamaño de descarga es un mínimo, no el requisito completo. La caché de contexto crece con la ventana que configure, de modo que un modelo de 19 GB con un contexto de 64K o más necesita más de 19 GB libres. Ollama advierte de que un contexto mayor aumenta la memoria necesaria para ejecutar un modelo.[1]
Por qué la longitud de contexto descarta algunos modelos
Ollama configura el contexto según la memoria de su GPU salvo que usted elija uno: 4K tokens con menos de 24 GiB de VRAM, 32K entre 24 y 48 GiB, y 256K por encima.[1] Su guía de Claude Code pide 64K o más para repositorios grandes.[4] Por tanto, con una tarjeta de 16 GB hay que aumentar el valor predeterminado a mano, y el modelo junto con su caché debe seguir cabiendo.
El límite del propio modelo también importa. Las etiquetas de qwen2.5-coder indican una ventana de contexto de 32K, así que ni siquiera con memoria de sobra pueden alcanzar los 64K que Ollama recomienda para agentes de programación.[3] Siguen siendo útiles para el autocompletado y las modificaciones breves. Para un agente que lee varios archivos y conserva un historial largo de herramientas, las opciones realistas son los modelos de 128K a 488K de la tabla.
Los modelos de mezcla de expertos son más rápidos con la misma memoria
Cohere describe North Mini Code como «un modelo de mezcla de expertos de 30B con 3B de parámetros activos»: unos 30 mil millones de parámetros en total y unos 3 mil millones usados para cada token.[2] La etiqueta de 30B de Qwen3-Coder lleva el mismo sufijo a3b, y la de Nemotron de NVIDIA dice 120b-a12b.[3] Todos los pesos deben permanecer en memoria, así que el tamaño de descarga es el mismo que el de un modelo denso de tamaño total similar. La velocidad de generación es otra cuestión. Cada token solo lee los expertos activos, y el ancho de banda de memoria, más que el cálculo, suele limitar la velocidad a la que un equipo local genera tokens.
El efecto es considerable. En un equipo con 273 GB/s de ancho de banda de memoria, leer 35 GB de pesos de un modelo denso de 70B por token limita la salida a unos 8 tokens por segundo, mientras que leer unos 1.5 GB de pesos de 4 bits de un modelo con 3B activos permite un máximo mucho mayor. Desarrollamos ese cálculo en nuestra guía de especificaciones de DGX Spark. Para los agentes de programación, que generan salidas largas y muchas llamadas a herramientas, esa diferencia se nota en cada turno.
Conectar un modelo local a un agente de programación
Ollama puede iniciar Claude Code con un modelo local mediante ollama launch claude; para scripts, ollama launch claude --model <model> --yes -- -p "..." omite las preguntas interactivas.[4] Ollama indica que las llamadas a herramientas y el razonamiento están disponibles «con modelos compatibles», así que compruebe que la página del modelo tenga la etiqueta de herramientas antes de conectarlo.[4] LM Studio también funciona, a través de su endpoint compatible con Anthropic en el puerto 1234; nuestra comparativa Ollama vs LM Studio cubre ambas configuraciones.
Configure el contexto explícitamente en cualquiera de las dos herramientas. Un modelo que funcione a 4K sin avisar dejará archivos fuera de la conversación y parecerá peor de lo que es.
FAQ
¿Cuánta memoria necesito para un modelo local de programación?
Para un agente con un contexto de 64K, prevea aproximadamente 24 GB o más: un modelo de 17 GB a 19 GB como qwen3.6:27b o qwen3-coder:30b, más espacio para la caché de contexto. Los modelos más pequeños caben en 8 GB a 16 GB, pero los que tienen un límite de 32K son más adecuados para autocompletado que para agentes.[1][3]
¿Qué es Nemotron 3.5 Super?
Ollama lo presenta como «el modelo de visión y lenguaje de NVIDIA para programación, razonamiento, uso de herramientas y comprensión de documentos». La etiqueta local corresponde a un modelo de 120B con 12B de parámetros activos y un contexto de 1M de tokens; su descarga de 4 bits ocupa 90 GB.[2][3]
¿Puedo ejecutar un LLM local para programar en un portátil?
Sí, dentro de los límites de memoria anteriores. Un portátil con 8 GB a 16 GB puede ejecutar mimo-v2.6:9b o gpt-oss:20b, cuyas ventanas de contexto declaradas son de 256K y 128K, pero deje espacio para la caché de contexto.[3]
Cuándo usar un modelo alojado
Un LLM local para programar merece la pena cuando su código no puede salir del equipo o cuando realiza suficientes turnos para que el hardware salga más barato que los tokens. Si su memoria máxima no alcanza lo que necesita un modelo con contexto de 256K, o quiere comparar un modelo local con otro alojado más grande en la misma tarea, una API alojada es más sencilla. reAPI ofrece modelos como Kimi K3, DeepSeek V4 y GLM-5.2 con una única clave compatible con OpenAI, lo que permite hacer esa comparación cambiando una sola línea del modelo.
Referencias
- Ollama. Context length. Consultado el 4 de noviembre de 2026 en docs.ollama.com/context-length
- Ollama. Model library search: tools capability, "coder". Consultado el 4 de noviembre de 2026 en ollama.com/search?c=tools&q=coder
- Ollama. Model tag pages: qwen3-coder, qwen3-coder-next, qwen3.6, north-mini-code-1.0, mimo-v2.6, nemotron-3.5-super, qwen2.5-coder and gpt-oss. Consultado el 4 de noviembre de 2026 en ollama.com/library
- Ollama. Claude Code integration. Consultado el 4 de noviembre de 2026 en docs.ollama.com/integrations/claude-code