Qwen3-8B ist ein kompaktes dichtes Modell der ersten Qwen3-Generation. Trotz seiner Größe bietet es Denkmodus und schnellen Modus und liegt im Denkmodus bei vielen Tests vor den deutlich größeren Distill-Modellen von DeepSeek-R1.
Mit 8,2 Milliarden Parametern braucht das Modell in BF16 rund 16 GB und läuft damit auf einer GPU mit 24 GB. Es eignet sich für lokale Assistenten und Anwendungen mit vielen Anfragen und steht unter der Lizenz Apache 2.0.
Qwen3-8B
Alibaba (Qwen-Team)
April 2025
Apache 2.0
Dichtes Modell, Hybrid-Reasoning (Denkmodus und schneller Modus), rein textbasiert
8,2 Mrd. (dicht), davon 6,95 Mrd. ohne Embedding
Dichter Transformer mit Grouped-Query Attention (32 Q-, 8 KV-Heads) und QK-Norm
Byte-Level-BPE mit 151.669 Token Vokabular
36
32 Query-Köpfe, 8 Key/Value-Köpfe (Grouped-Query Attention - GQA)
32.768 Token nativ, bis 131.072 Token mit YaRN
Das Modell in BF16 und als offizielle FP8-Fassung, dazu AWQ und GGUF. Außerdem gibt es das Basismodell Qwen3-8B-Base für eigenes Feintuning.
Qwen3-14B ist stärker bei doppeltem Speicherbedarf, Qwen3-1.7B noch genügsamer. Auf Qwen3-8B basiert auch das Distill-Modell DeepSeek-R1-0528-Qwen3-8B.
Eine 2507-Version gibt es für 8B nicht. Neuere Modelle dieser Klasse sind die kleinen Qwen3.5-Modelle mit Bildverständnis.
| Benchmark | Qwen3-8B | Qwen3-4B | DeepSeek-R1-Distill-Qwen-14B | DeepSeek-R1-Distill-Qwen-32B |
|---|---|---|---|---|
| MMLU-Redux | 87,5 | 83,7 | 84,1 | 88,2 |
| GPQA-Diamond | 62,0 | 55,9 | 59,1 | 62,1 |
| LiveBench 2024-11-25 | 67,1 | 63,6 | 52,3 | 45,6 |
| IFEval (strict prompt) | 85,0 | 81,9 | 72,6 | 72,5 |
| Arena-Hard | 85,8 | 76,6 | 48,0 | 60,8 |
| MATH-500 | 97,4 | 97,0 | 93,9 | 94,3 |
| AIME’24 | 76,0 | 73,8 | 69,7 | 72,6 |
| AIME’25 | 67,3 | 65,6 | 44,5 | 49,6 |
| ZebraLogic | 84,8 | 81,0 | 59,1 | 69,6 |
| BFCL v3 | 68,1 | 65,9 | 49,5 | 53,5 |
| LiveCodeBench v5 | 57,5 | 54,2 | 45,5 | 54,5 |
| CodeForces (Rating) | 1785 | 1671 | 1574 | 1691 |
| Multi-IF | 71,2 | 66,3 | 29,8 | 31,3 |
Quelle: Qwen3 Technical Report (Qwen-Team, Mai 2025), gemessen im Denkmodus. Angaben in Prozent, CodeForces als Rating.
Kompaktes Qwen3-Modell mit Denkmodus für GPUs mit 24 GB. Wir prüfen mit Ihnen Nutzen, Auslegung und Betriebskosten.
Die Qwen3-Modelle wurden auf rund 36 Billionen Token in 119 Sprachen und Dialekten vortrainiert, doppelt so viele Token wie beim Vorgänger Qwen2.5. Das Vortraining lief in drei Stufen: allgemeines Wissen, dann gezielt Mathematik, Code und Reasoning, zuletzt lange Texte bis 32.768 Token.
Die kleineren Modelle entstanden per Strong-to-Weak-Distillation: Sie lernen direkt von den Ausgaben der großen Modelle Qwen3-235B-A22B und Qwen3-32B. Das braucht laut Qwen-Team nur rund ein Zehntel der GPU-Stunden des vollständigen vierstufigen Verfahrens.
Qwen3-8B eignet sich für lokale Anwendungen mit begrenzter Hardware. In einer KI-Beratung prüfen wir mit Ihnen, ob das Modell für Ihre Aufgaben ausreicht.
Stark für seine Größe: Im Denkmodus bei LiveBench, Arena-Hard und AIME’25 vor beiden R1-Distill-Modellen der Tabelle.
Läuft auf 24 GB: In BF16 auf einer L4 oder RTX 4090 lauffähig.
Gute Werkzeugnutzung: 68,1 bei BFCL v3, bester Wert der Tabelle.
Basismodell verfügbar: Qwen3-8B-Base eignet sich für eigenes Feintuning.
Kommerziell frei nutzbar: Apache 2.0 ohne Umsatzgrenzen.
Begrenztes Fachwissen: Bei GPQA-Diamond erreicht Qwen3-8B 62,0, das größere Qwen3-32B kommt auf 68,4.
Kurzer nativer Kontext: 32.768 Token nativ, mit YaRN 131.072.
Kein 2507-Update: Anders als die großen Modelle erhielt Qwen3-8B keine 2507-Version, neuere Modelle dieser Klasse kamen erst mit Qwen3.5.
Kein Bildverständnis: Alle Qwen3-Modelle der ersten Generation sind rein textbasiert, für Bilder gibt es Qwen3-VL.
Wir planen die Cluster-Auslegung für Qwen3-8B, übernehmen Inbetriebnahme, Quantisierung und Betrieb und hosten das Modell auf Wunsch DSGVO-konform in unserem zertifizierten Rechenzentrum in Limburg an der Lahn.
In BF16 umfassen die Gewichte rund 16 GB, eine GPU mit 24 GB wie L4 oder RTX 4090 reicht. Mit FP8 oder AWQ läuft das Modell auch auf kleineren GPUs.
Ja. Mit dem Basismodell Qwen3-8B-Base oder dem Chat-Modell lässt sich Qwen3-8B mit überschaubarem Aufwand an Fachsprache und eigene Daten anpassen.
Der Denkmodus ist standardmäßig aktiv. Über den Parameter enable_thinking lässt er sich ganz abschalten, mit /think und /no_think in einer Nachricht wechseln Sie ihn während eines Gesprächs.
Ja. Das Qwen-Team von Alibaba veröffentlicht die Gewichte unter der Lizenz Apache 2.0. Sie dürfen das Modell ohne Umsatzgrenzen kommerziell einsetzen, anpassen und weitergeben.
Ja. Über unsere GPU Cloud stellen wir die nötige Rechenleistung bereit. Alternativ bündelt der MaaS Proxy verschiedene Modelle über eine einheitliche Schnittstelle. Beide Wege betreiben wir DSGVO-konform in Deutschland.
Möchten Sie individuell beraten werden?
Unsere KI-Experten sind für Sie da!
