DeepSeek-V3.2-Exp ist ein experimentelles Zwischenmodell, mit dem DeepSeek erstmals die DeepSeek Sparse Attention (DSA) eingeführt hat. Statt die Beziehungen zwischen allen Token eines Textes zu berechnen, wählt ein schneller Indexer für jedes Token die 2.048 relevantesten vorherigen Token aus. Das senkt die Kosten bei langen Eingaben deutlich, bei nahezu gleicher Leistung wie der Vorgänger DeepSeek-V3.1-Terminus.
Technisch ist V3.2-Exp ein Mixture-of-Experts-Modell (MoE) aus vielen spezialisierten Teilnetzen. Von 671 Milliarden Parametern sind je verarbeitetem Textbaustein (Token) nur 37 Milliarden aktiv. DeepSeek hat das Training bewusst an V3.1-Terminus angeglichen, damit sich der Effekt der neuen Attention sauber messen lässt. Die Gewichte stehen unter der MIT-Lizenz.
DeepSeek-V3.2-Exp (+ DeepSeek-V3.2-Exp-Base)
DeepSeek AI
September 2025
MIT
MoE, experimentelle Sparse Attention, Thinking und Non-Thinking, rein textbasiert
671 Mrd. total (37 Mrd. aktiv pro Token), die HF-Modellseite listet 685 Mrd. inklusive MTP-Modul
MoE mit DeepSeek Sparse Attention (DSA) und Multi-head Latent Attention (MLA)
61 (3 dichte und 58 MoE-Schichten)
256 Experten, 8 aktiv je Token, 1 geteilter Experte
128.000 Token
Das Modell mit Denkmodus und schnellem Modus, als Gewichte nativ in FP8.
Das Basismodell mit Sparse Attention, noch ohne Post-Training. Laut Hugging Face ist es auch das Basismodell von DeepSeek-V3.2 und V3.2-Speciale.
DeepSeek-V3.1-Terminus ist der direkte Vorgänger mit klassischer Attention. Die finale Version DeepSeek-V3.2 nutzt dieselbe Architektur mit deutlich erweitertem Training.
| Benchmark | DeepSeek-V3.2-Exp | DeepSeek-V3.1-Terminus |
|---|---|---|
| MMLU-Pro | 85,0 | 85,0 |
| GPQA-Diamond | 79,9 | 80,7 |
| Humanity’s Last Exam | 19,8 | 21,7 |
| LiveCodeBench | 74,1 | 74,9 |
| AIME 2025 | 89,3 | 88,4 |
| HMMT 2025 | 83,6 | 86,1 |
| Codeforces | 2121 | 2046 |
| Aider-Polyglot | 74,5 | 76,1 |
| BrowseComp | 40,1 | 38,5 |
| BrowseComp-zh | 47,9 | 45,0 |
| SimpleQA | 97,1 | 96,8 |
| SWE Verified | 67,8 | 68,4 |
| SWE-bench Multilingual | 57,9 | 57,8 |
| Terminal-bench | 37,7 | 36,7 |
Quelle: offizielles Repository zu DeepSeek-V3.2-Exp (DeepSeek, September 2025). Angaben in Prozent, Codeforces als Rating. Die etwas niedrigeren Werte bei GPQA, HLE und HMMT führt DeepSeek darauf zurück, dass V3.2-Exp weniger Reasoning-Token erzeugt.
Experimentelle Sparse Attention unter MIT-Lizenz. Wir prüfen mit Ihnen, welches DeepSeek-Modell zu Ihrem Anwendungsfall passt.
Ausgangspunkt war der Checkpoint von V3.1-Terminus. In einer kurzen Aufwärmphase mit rund 2 Milliarden Token lernte zunächst nur der Indexer, welche Token relevant sind. Danach folgte das eigentliche Training mit Sparse Attention über rund 944 Milliarden Token.
Das Post-Training entspricht dem von V3.1-Terminus: Spezialisierte Expertenmodelle für Mathematik, Programmierung, logisches Schließen und Agenten wurden per Reinforcement Learning trainiert, ihr Wissen anschließend in einem Modell gebündelt und in einer gemeinsamen Reinforcement-Learning-Phase verfeinert.
DeepSeek-V3.2-Exp eignet sich vor allem für Forschung und Tests rund um Sparse Attention. Für den produktiven Einsatz empfehlen wir in der Regel die finale Version V3.2. In einer KI-Beratung klären wir das gemeinsam.
Günstiger bei langem Kontext: Sparse Attention senkt die Rechenkosten langer Eingaben deutlich.
Leistung auf Vorgänger-Niveau: Bei BrowseComp (40,1) und Codeforces (2121) sogar vor V3.1-Terminus.
Offene Kernels: Die Rechenkernels für Sparse Attention sind öffentlich verfügbar.
Forschungswert: Gleiches Training wie V3.1-Terminus macht den Effekt der Architektur messbar.
Kommerziell frei nutzbar: Die MIT-Lizenz gilt für Code und Gewichte.
Experimentell: DeepSeek will mögliche Grenzen der Architektur erst in größeren Praxistests ermitteln.
Leicht schwächer bei Wissen und Mathematik: HLE sinkt gegenüber V3.1-Terminus von 21,7 auf 19,8, HMMT 2025 von 86,1 auf 83,6.
Hoher Hardware-Bedarf: Die FP8-Gewichte umfassen rund 690 GB.
Überholt durch V3.2: Die finale Version DeepSeek-V3.2 ist mit gleicher Architektur deutlich stärker.
Wir planen die Cluster-Auslegung für DeepSeek-V3.2-Exp, übernehmen Inbetriebnahme, Quantisierung und Betrieb und hosten das Modell auf Wunsch DSGVO-konform in unserem zertifizierten Rechenzentrum in Limburg an der Lahn.
Bei klassischer Attention berechnet das Modell die Beziehungen zwischen allen Token eines Textes, der Aufwand wächst quadratisch mit der Länge. Die Sparse Attention wählt für jedes Token nur die 2.048 relevantesten vorherigen Token aus. Dadurch sinken die Kosten bei langen Eingaben deutlich.
Beide nutzen dieselbe Architektur. V3.2-Exp war der Test der neuen Attention mit dem Training von V3.1-Terminus, DeepSeek-V3.2 wurde danach deutlich umfangreicher für Reasoning und Agenten trainiert.
DeepSeek veröffentlicht die Gewichte in FP8, zusammen rund 690 GB. Das passt auf einen Server mit acht H200, mit H100 sind zwei Server mit je acht GPUs nötig. Hinzu kommt Reserve für den KV-Cache, den Zwischenspeicher für bereits verarbeitete Teile einer Anfrage.
Ja. Code und Gewichte stehen unter der MIT-Lizenz. Sie dürfen das Modell kommerziell einsetzen, anpassen und weitergeben.
Ja. Über unsere GPU Cloud stellen wir die nötige Rechenleistung bereit. Alternativ bündelt der MaaS Proxy verschiedene Modelle über eine einheitliche Schnittstelle. Beide Wege betreiben wir DSGVO-konform in Deutschland.
Möchten Sie individuell beraten werden?
Unsere KI-Experten sind für Sie da!
