Qwen3-Next-80B-A3B ist das erste Modell einer neuen Architektur, die das Qwen-Team später in Qwen3.5 übernommen hat. Drei von vier Schichten nutzen eine lineare Attention, deren Aufwand bei langen Texten nur linear statt quadratisch wächst. Laut Qwen-Team verarbeitet das Modell Kontexte über 32.000 Token dadurch mehr als zehnmal so schnell wie Qwen3-32B.
Das Mixture-of-Experts-Modell (MoE) verteilt sein Wissen auf 512 Teilnetze, von denen je verarbeitetem Textbaustein (Token) nur elf rechnen. So sind von 80 Milliarden Parametern nur 3 Milliarden aktiv. Es gibt eine Instruct- und eine Thinking-Version, beide unter der Lizenz Apache 2.0.
Qwen3-Next-80B-A3B (Instruct und Thinking)
Alibaba (Qwen-Team)
September 2025
Apache 2.0
Hybrid-MoE, getrennte Modelle für schnellen Modus (Instruct) und Denkmodus (Thinking)
80 Mrd. total (3 Mrd. aktiv pro Token)
Hybrid aus Gated DeltaNet (lineare Attention) und Gated Attention im Verhältnis 3:1, MoE mit 512 Experten, MTP
48
512 Experten, 10 aktiv je Token, 1 geteilter Experte
262.144 Token nativ, bis 1.010.000 Token mit YaRN
Das Modell für direkte Antworten ohne Denkphase. Laut Qwen-Team fast auf dem Niveau von Qwen3-235B-A22B-Instruct-2507.
Das Modell mit Denkphase, das laut Qwen-Team Gemini 2.5 Flash Thinking in mehreren Tests übertrifft. Beide Versionen gibt es auch in FP8 und GGUF.
| Benchmark | Qwen3-Next-80B-A3B-Thinking | Qwen3-30B-A3B-Thinking-2507 | Qwen3-32B (Thinking) | Qwen3-235B-A22B-Thinking-2507 | Gemini-2.5-Flash-Thinking |
|---|---|---|---|---|---|
| MMLU-Pro | 82,7 | 80,9 | 79,1 | 84,4 | 81,9 |
| GPQA | 77,2 | 73,4 | 68,4 | 81,1 | 82,8 |
| AIME25 | 87,8 | 85,0 | 72,9 | 92,3 | 72,0 |
| HMMT25 | 73,9 | 71,4 | 51,5 | 83,9 | 64,2 |
| LiveBench 241125 | 76,6 | 76,8 | 74,9 | 78,4 | 74,3 |
| LiveCodeBench v6 | 68,7 | 66,0 | 60,6 | 74,1 | 61,2 |
| CFEval | 2071 | 2044 | 1986 | 2134 | 1995 |
| OJBench | 29,7 | 25,1 | 24,1 | 32,5 | 23,5 |
| Arena-Hard v2 | 62,3 | 56,0 | 48,4 | 79,7 | 56,7 |
| BFCL-v3 | 72,0 | 72,4 | 70,3 | 71,9 | 68,6 |
| TAU2-Retail | 67,8 | 58,8 | 49,7 | 71,9 | 66,7 |
| PolyMATH | 56,3 | 52,6 | 47,4 | 60,1 | 49,8 |
Quelle: offizielle Model Card zu Qwen3-Next-80B-A3B-Thinking (Qwen-Team, September 2025). Angaben in Prozent, CFEval als Rating, Arena-Hard v2 als Gewinnrate mit GPT-4.1 als Bewerter. Die Instruct-Version erreicht laut ihrer Model Card etwa 69,5 bei AIME25 und 82,7 bei Arena-Hard v2.
Hybrid-MoE mit linearer Attention und nur 3 Milliarden aktiven Parametern. Wir prüfen mit Ihnen Nutzen, Auslegung und Betriebskosten.
Qwen3-Next wurde auf 15 Billionen Token vortrainiert, einer gleichmäßig gezogenen Teilmenge der 36 Billionen Token von Qwen3. Laut Qwen-Team brauchte das nur 9,3 Prozent der Rechenleistung von Qwen3-32B.
Die Architektur kombiniert lineare Attention mit klassischer Attention und sagt mit Multi-Token Prediction mehrere Token auf einmal voraus. Das beschleunigt die Ausgabe über Speculative Decoding zusätzlich.
Qwen3-Next-80B-A3B eignet sich für Anwendungen mit langen Kontexten und vielen Anfragen. In einer KI-Beratung prüfen wir mit Ihnen, ob Instruct, Thinking oder ein Qwen3.5-Modell passt.
Sehr schnell bei langem Kontext: Laut Qwen-Team über zehnmal so hoher Durchsatz wie Qwen3-32B ab 32.000 Token.
Stark für nur 3 Mrd. aktive Parameter: Bei AIME25 (87,8) und LiveCodeBench vor Qwen3-32B und Gemini 2.5 Flash Thinking.
Günstig trainiert: Weniger als 10 Prozent der Trainingskosten von Qwen3-32B.
Langer Kontext: 262.144 Token nativ, bis zu einer Million mit YaRN.
Kommerziell frei nutzbar: Apache 2.0 ohne Umsatzgrenzen.
Hinter Qwen3-235B-A22B-Thinking-2507: Das große Modell liegt in fast allen Tests vorn, etwa bei AIME25 (92,3 gegenüber 87,8).
Hinter Gemini 2.5 Flash bei Fachwissen: Bei GPQA liegt Gemini 2.5 Flash Thinking vorn (82,8 gegenüber 77,2).
Neue Architektur: Braucht aktuelle Versionen von vLLM, SGLang und Transformers.
Rein textbasiert: Bildverständnis bieten erst die Nachfolger ab Qwen3.5.
Wir planen die Cluster-Auslegung für Qwen3-Next-80B-A3B, übernehmen Inbetriebnahme, Quantisierung und Betrieb und hosten das Modell auf Wunsch DSGVO-konform in unserem zertifizierten Rechenzentrum in Limburg an der Lahn.
Drei von vier Schichten nutzen Gated DeltaNet, eine lineare Attention, deren Rechenaufwand mit der Textlänge nur linear wächst. Die übrigen Schichten nutzen klassische Attention für hohe Genauigkeit. Dazu kommt ein sehr dünn besetztes MoE mit 512 Experten.
In BF16 umfassen die Gewichte rund 163 GB, mit FP8 rund 82 GB. Die FP8-Fassung passt auf eine H200 oder zwei H100. Dank linearer Attention bleibt der KV-Cache auch bei langen Kontexten klein.
Instruct antwortet direkt und eignet sich für Chat, Textarbeit und Agenten. Thinking denkt vor der Antwort nach und ist bei Mathematik und Code stärker, braucht aber mehr Zeit und Kontext.
Ja. Das Qwen-Team von Alibaba veröffentlicht die Gewichte unter der Lizenz Apache 2.0. Sie dürfen das Modell ohne Umsatzgrenzen kommerziell einsetzen, anpassen und weitergeben.
Ja. Über unsere GPU Cloud stellen wir die nötige Rechenleistung bereit. Alternativ bündelt der MaaS Proxy verschiedene Modelle über eine einheitliche Schnittstelle. Beide Wege betreiben wir DSGVO-konform in Deutschland.
Möchten Sie individuell beraten werden?
Unsere KI-Experten sind für Sie da!
