Qwen3 Coder Next
Het programmeermodel van Qwen voor agenttools zoals opencode en aider. 80B in totaal met 3B actief, dus het blijft snel tijdens lange programmeersessies.
Overzicht
Qwen3 Coder Next is een mixture-of-experts-model voor programmeren met 80B parameters in totaal en 3B geactiveerd, en een context van 262.144 tokens. Het is bedoeld voor programmeeragents en werk op de schaal van hele repositories.
Hardware
Q4_K_M is 48.5 GB en past met ruim voldoende context op een GPU van 80 GB. Q8_0 van 84.8 GB heeft een H200 van 141 GB of twee GPU's nodig.
| Kwantisatie | Gewichten |
|---|---|
| Q4_K_M | 48.5 GB |
| Q6_K | 65.6 GB |
| Q8_0 | 84.8 GB |
De groottes zijn de GGUF-bestandsgroottes uit unsloth/Qwen3-Coder-Next-GGUF. Reken op extra VRAM voor de KV-cache, die groeit met de contextgrootte en het aantal parallelle verzoeken.
Uitrollen op Loadcore
- Open in de console Modellen en zoek naar
unsloth/Qwen3-Coder-Next-GGUF. - Kies de kwantisatie die op de doelserver past en start de download.
- Start een instantie met de contextgrootte die je nodig hebt en genoeg GPU-lagen om het volledige model naar de GPU te verplaatsen.
- Laat je tools met je persoonlijke sleutel naar
http://your-server:9090/v1wijzen.
Aanbevolen instellingen
| Parameter | Waarde |
|---|---|
| temperature | 1.0 |
| top_p | 0.95 |
| top_k | 40 |
| repeat_penalty | 1.0 |
| min_p | 0.0 |
De waarden hieronder zijn de samplinginstellingen die Qwen voor dit model aanbeveelt.
Bron: Qwen/Qwen3-Coder-Next.