Qwen3 Coder Next
El modelo de programación de Qwen para herramientas de agentes como opencode y aider. 80B en total con 3B activos, así que sigue siendo rápido en sesiones largas de programación.
Resumen
Qwen3 Coder Next es un modelo mixture-of-experts para programación con 80B parámetros en total y 3B activados, y un contexto de 262.144 tokens. Está pensado para agentes de programación y para trabajar a escala de repositorio.
Requisitos de hardware
Q4_K_M ocupa 48.5 GB y cabe en una GPU de 80 GB con mucho contexto. Q8_0, con 84.8 GB, necesita una H200 de 141 GB o dos GPUs.
| Cuantización | Pesos |
|---|---|
| Q4_K_M | 48.5 GB |
| Q6_K | 65.6 GB |
| Q8_0 | 84.8 GB |
Los tamaños son los de los archivos GGUF de unsloth/Qwen3-Coder-Next-GGUF. Reserva VRAM adicional para la caché KV, que crece con el tamaño del contexto y las peticiones en paralelo.
Despliegue en Loadcore
- En la consola, abre Modelos y busca
unsloth/Qwen3-Coder-Next-GGUF. - Elige la cuantización que quepa en el servidor de destino e inicia la descarga.
- Inicia una instancia con el tamaño de contexto que necesites y suficientes capas en GPU para descargar el modelo completo en ella.
- Apunta tus herramientas a
http://your-server:9090/v1con tu clave personal.
Ajustes recomendados
| Parámetro | Valor |
|---|---|
| temperature | 1.0 |
| top_p | 0.95 |
| top_k | 40 |
| repeat_penalty | 1.0 |
| min_p | 0.0 |
Los valores de abajo son los ajustes de muestreo que Qwen recomienda para este modelo.
Fuente: Qwen/Qwen3-Coder-Next.