Kimi K3

Moonshots Frontier-MoE: 2,8 Billionen Parameter, 1M-Kontext, nativ multimodal

Kimi-K3-Generation (2026)

Das Kimi K3 Modell im Überblick

Kimi K3 ist Moonshots Frontier-Generation und ein deutlicher Sprung gegenüber der K2-Reihe: ein Sparse-Mixture-of-Experts mit 2,8 Billionen Parametern total, von denen pro Token 104 Milliarden aktiv sind – 16 von 896 Experten. Moonshot bezeichnet K3 als erstes offenes Modell der 3-Billionen-Klasse. Das Modell versteht Text und Bilder im selben Netz, verarbeitet bis zu 1.048.576 Token Kontext und setzt auf neue Architektur-Bausteine wie Kimi Delta Attention und das Stable-LatentMoE-Framework. Laut Moonshot ergibt sich daraus rund die 2,5-fache Skalierungseffizienz gegenüber Kimi K2.

Name:

Kimi K3

Entwickler:

Moonshot AI

Veröffentlichung:

Juli 2026

Lizenz:

Kimi K3 License

Modelltyp:

Sparse MoE, nativ multimodal, Reasoning durchgängig aktiv

Parameter:

2,8 Bio. total (104 Mrd. aktiv) + MoonViT-V2 ≈ 401 Mio.

Architektur:

93 Layer (69 KDA + 24 Gated MLA), Stable LatentMoE mit 896 Experten (16 aktiv + 2 shared), SiTU-GLU

Kontextlänge:

1.048.576 Token

Spezialitäten von Kimi K3

Extreme Sparsity

2,8 Billionen Parameter, aber nur 16 von 896 Experten pro Token aktiv – Frontier-Kapazität bei kontrollierten Inferenzkosten.

Neue Architektur

Kimi Delta Attention (KDA) im Wechsel mit Gated MLA, dazu Attention Residuals und das Stable-LatentMoE-Framework für stabiles Training in dieser Größenordnung.

Nativ multimodal

Verarbeitet Text und Bilder in einem Modell – mit über 1 Million Token Kontext für sehr lange Eingaben.

Quantization-Aware

QAT ab der SFT-Phase mit MXFP4-Gewichten und MXFP8-Aktivierungen für breite Hardware-Kompatibilität.
Individuelle KI-Beratung

Ist Kimi K3 das passende Modell für Sie?

K3 ist ein Frontier-Modell mit erheblichem Infrastrukturbedarf. Wir prüfen mit Ihnen Nutzen, Hardware und Betriebskonzept – auch im Vergleich zu kompakteren K2-Varianten.

Die Post-Training Pipeline für Kimi K3

Trainingsdaten & Trainingsprozess

Kimi K3 kombiniert Kimi Delta Attention (KDA) und Gated MLA in einem hybriden Attention-Stack – 69 KDA- und 24 Gated-MLA-Layer bei insgesamt 93 Schichten. Attention Residuals sorgen für den Informationsfluss über die Tiefe, das Stable-LatentMoE-Framework ermöglicht stabiles Training bei 896 Experten. Als Aktivierungsfunktion kommt SiTU-GLU zum Einsatz, das Vokabular umfasst 160.000 Token.

Durch Quantization-Aware-Training ab der SFT-Phase mit MXFP4-Gewichten und MXFP8-Aktivierungen bleibt die Inferenz trotz der Modellgröße handhabbar und auf breiter Hardware lauffähig. Eine Besonderheit im Betrieb: K3 wurde im „preserved thinking history“-Modus trainiert – bei mehrstufigen Dialogen und Tool-Calls muss die vollständige Assistant-Nachricht inklusive reasoning_content zurückgegeben werden, sonst verliert das Modell seinen Reasoning-Kontext.

Hardware & Deployment

  • vLLM, SGLang und TokenSpeed mit offiziellen Rezepten
  • OpenAI- und Anthropic-kompatible API; Kimi Code CLI als Agenten-Framework
  • MXFP4-Gewichte senken den Speicherbedarf deutlich – dennoch Frontier-Cluster erforderlich
  • Moonshot nennt für die Inferenz Supernode-Konfigurationen; die eigenen Evaluationen liefen auf H20-GPUs
  • Zahlreiche Community-Quantisierungen für llama.cpp, Ollama und LM Studio verfügbar
Anwendungsfälle

Empfohlene Anwendungsfälle für Kimi K3

Moonshot positioniert K3 für besonders anspruchsvolle, langlaufende Aufgaben.

Long-Horizon-Coding und autonome Entwicklung
Navigation und Refactoring in sehr großen Repositories
Agentische Wissensarbeit und Deep Research
Dokumenten- und Bildanalyse
Wissenschaftliche Forschung und komplexes Reasoning
Moonshot AI
Kimi K3

Stärken & Schwächen von Kimi K3

Mit dem richtigen Modell Ergebnisse maximieren

Frontier-KI aus dem eigenen Rechenzentrum

Wir planen mit Ihnen die Cluster-Auslegung für Kimi K3 und übernehmen Deployment und Betrieb, sobald die Gewichte verfügbar sind – DSGVO-konform aus Deutschland.