Qwen3-30B-A3B-2507

Kompaktes MoE mit 3,3 Milliarden aktiven Parametern, getrennt als Instruct und Thinking

Instruct und Thinking für eine GPU

Das Qwen3-30B-A3B-2507 Modell im Überblick

Qwen3-30B-A3B-2507 ist die überarbeitete Version von Qwen3-30B-A3B, aufgeteilt in zwei Modelle: Instruct für schnelle Antworten und Thinking für gründliches Reasoning. Beide legen deutlich zu. Die Thinking-Version erreicht bei AIME25 85,0 und liegt damit vor dem großen Qwen3-235B-A22B der ersten Generation.

Technisch ist es ein Mixture-of-Experts-Modell (MoE), von dessen 30,5 Milliarden Parametern je verarbeitetem Textbaustein (Token) nur 3,3 Milliarden rechnen. Der Kontext umfasst 262.144 Token. In FP8 läuft jedes der beiden Modelle auf einer GPU mit 48 GB. Beide stehen unter der Lizenz Apache 2.0.

Name:

Qwen3-30B-A3B-Instruct-2507 und Qwen3-30B-A3B-Thinking-2507

Entwickler:

Alibaba (Qwen-Team)

Veröffentlichung:

Juli 2025

Lizenz:

Apache 2.0

Modelltyp:

MoE, getrennte Modelle für schnellen Modus (Instruct) und Denkmodus (Thinking), rein textbasiert

Parameter:

30,5 Mrd. total (3,3 Mrd. aktiv pro Token)

Architektur:

MoE mit 128 Experten und Grouped-Query Attention (32 Q-, 4 KV-Heads)

Schichten:

48

Experten (MoE):

128 Experten, 8 aktiv je Token

Kontextlänge:

262.144 Token nativ, bis 1.010.000 Token mit Dual Chunk Attention

Variationen von Qwen3-30B-A3B-2507

Qwen3-30B-A3B-Instruct-2507

Das Modell für direkte Antworten ohne Denkphase, erschienen am 30. Juli 2025. Auch als FP8-Fassung verfügbar.

Qwen3-30B-A3B-Thinking-2507

Das Modell mit Denkphase für komplexe Aufgaben, erschienen am 31. Juli 2025. Auch als FP8-Fassung verfügbar.

Verwandte Modelle

Qwen3-Coder-30B-A3B ist die Coding-Variante gleicher Größe. Deutlich effizienter bei langem Kontext ist Qwen3-Next-80B-A3B.

Spezialitäten von Qwen3-30B-A3B-2507

Zwei spezialisierte Modelle

Instruct für direkte Antworten, Thinking für komplexe Aufgaben.

Nur 3,3 Mrd. aktive Parameter

Sehr schnelle Antworten bei hoher Qualität.

Langer Kontext

262.144 Token nativ, bis zu einer Million mit Dual Chunk Attention.

Eine GPU genügt

In FP8 rund 31 GB Gewichte je Modell.

Benchmarks & Leistung

Individuelle KI-Beratung

Ist Qwen3-30B-A3B das passende Modell für Sie?

Kompaktes MoE als Instruct und Thinking, lauffähig auf einer GPU. Wir prüfen mit Ihnen Nutzen, Auslegung und Betriebskosten.

Die Post-Training Pipeline für Qwen3-30B-A3B-2507

Trainingsdaten & Trainingsprozess

Das Qwen-Team nennt für die 2507-Versionen keine eigenen Angaben zu den Trainingsdaten. Sie bauen auf der ersten Qwen3-Generation auf, die auf rund 36 Billionen Token in 119 Sprachen vortrainiert wurde. Neu ist vor allem das getrennte Post-Training für Denkmodus und schnellen Modus.

Hardware & Deployment

  • Unterstützte Inferenz-Software: Transformers (ab 4.51.0), vLLM (ab 0.8.5) und SGLang (ab 0.4.6.post1)
  • Offizielle FP8-Gewichte verfügbar
  • Für eine Million Token Kontext: config_1m.json mit Dual Chunk Attention, aktuelle vLLM- oder SGLang-Version
  • Instruct: temperature 0.7, top_p 0.8, Thinking: temperature 0.6, top_p 0.95

Empfohlene Hardware-Spezifikation

  • Das Qwen-Team nennt keine Mindestausstattung, die Angaben beruhen auf der Größe der Gewichte
  • BF16: rund 61 GB Gewichte je Modell, eine H100
  • FP8: rund 31 GB Gewichte je Modell, eine L40S oder H100
  • Laut Qwen-Team brauchen eine Million Token Kontext rund 240 GB Grafikspeicher inklusive Gewichten und KV-Cache
  • Ohne eigene Hardware: Betrieb in unserer GPU Cloud, DSGVO-konform in Deutschland
Anwendungsfälle

Empfohlene Anwendungsfälle für Qwen3-30B-A3B-2507

Qwen3-30B-A3B-2507 eignet sich für Organisationen, die mit wenig Hardware viel Leistung wollen. In einer KI-Beratung prüfen wir mit Ihnen, ob Instruct, Thinking oder beide passen.

Schnelle Assistenten
Chat und Wissensfragen mit der Instruct-Version.
Reasoning auf einer GPU
Mathematik und Analysen mit der Thinking-Version.
Lange Dokumente
Analyse von Texten bis 262.144 Token.
Werkzeug-Abläufe
Funktionsaufrufe mit starken Werten bei BFCL-v3.
Selbst betriebene Alternative
Offenes Modell im eigenen Rechenzentrum, ohne Daten an Dritte zu geben.
Qwen
Qwen3-30B-A3B-2507

Stärken & Schwächen von Qwen3-30B-A3B-2507

Ihre Qwen3-30B-A3B-2507 Lösung

Qwen3-30B-A3B-2507 im eigenen Rechenzentrum betreiben

Wir planen die Cluster-Auslegung für Qwen3-30B-A3B-2507, übernehmen Inbetriebnahme, Quantisierung und Betrieb und hosten das Modell auf Wunsch DSGVO-konform in unserem zertifizierten Rechenzentrum in Limburg an der Lahn.

FAQ - Häufige Fragen

Wissenswertes zu Qwen3-30B-A3B-2507

Instruct antwortet direkt und eignet sich für Chat, Textarbeit und Werkzeugaufrufe. Thinking denkt vor der Antwort nach und ist bei Mathematik, Code und Analysen deutlich stärker, braucht aber mehr Zeit.

In BF16 umfassen die Gewichte je Modell rund 61 GB und passen auf eine H100. Mit FP8 reichen rund 31 GB. Für eine Million Token Kontext nennt das Qwen-Team rund 240 GB Grafikspeicher.

Die Modi sind getrennt und gezielt trainiert, der Kontext wächst von 32.768 auf 262.144 Token. In beiden Modi steigen die Werte deutlich.

Ja. Das Qwen-Team von Alibaba veröffentlicht die Gewichte unter der Lizenz Apache 2.0. Sie dürfen das Modell ohne Umsatzgrenzen kommerziell einsetzen, anpassen und weitergeben.

Ja. Über unsere GPU Cloud stellen wir die nötige Rechenleistung bereit. Alternativ bündelt der MaaS Proxy verschiedene Modelle über eine einheitliche Schnittstelle. Beide Wege betreiben wir DSGVO-konform in Deutschland.

Möchten Sie individuell beraten werden?

Unsere KI-Experten sind für Sie da!