Kimi-K2-Instruct

Offenes MoE mit einer Billion Parametern, gebaut für Werkzeugnutzung und Agenten

Agenten und Werkzeugnutzung

Das Kimi-K2-Instruct Modell im Überblick

Mit Kimi K2 hat Moonshot AI im Juli 2025 ein offenes Modell mit einer Billion Parametern veröffentlicht, das speziell für Werkzeugnutzung und Agenten trainiert wurde. Unter den Modellen ohne Denkphase erreichte es bei Veröffentlichung in vielen Tests Bestwerte, etwa bei LiveCodeBench v6 (53,7), GPQA-Diamond (75,1) und bei der Werkzeugaufgabe Tau2 telecom.

Technisch ist K2 ein Mixture-of-Experts-Modell (MoE) aus 384 spezialisierten Teilnetzen, von denen je verarbeitetem Textbaustein (Token) acht rechnen. So sind nur 32 Milliarden Parameter aktiv. Neben dem Instruct-Modell veröffentlicht Moonshot das Basismodell Kimi-K2-Base, beide unter einer modifizierten MIT-Lizenz.

Name:

Kimi-K2-Instruct (+ Kimi-K2-Base)

Entwickler:

Moonshot AI

Veröffentlichung:

Juli 2025

Lizenz:

Modifizierte MIT-Lizenz: Bei kommerziellen Produkten mit mehr als 100 Mio. monatlich aktiven Nutzern oder mehr als 20 Mio. US-Dollar Monatsumsatz muss „Kimi K2“ sichtbar in der Oberfläche stehen.

Modelltyp:

MoE, Instruct-Modell ohne Denkphase, Werkzeugnutzung, rein textbasiert

Parameter:

1 Bio. total (32 Mrd. aktiv pro Token)

Architektur:

MoE mit Multi-head Latent Attention (MLA), 64 Attention-Heads, Gewichte in FP8

Schichten:

61 (davon 1 dichte Schicht)

Experten (MoE):

384 Experten, 8 aktiv je Token, 1 geteilter Experte

Kontextlänge:

128.000 Token

Variationen von Kimi-K2-Instruct

Kimi-K2-Instruct

Das nachtrainierte Modell für Chat und Agenten, ohne lange Denkphase. Die Gewichte liegen in Block-FP8 vor.

Kimi-K2-Base

Das Basismodell nach dem Vortraining für Forschung und eigenes Feintuning.

Nachfolger

Kimi-K2-Instruct-0905 verbessert agentisches Coding und verdoppelt den Kontext. Kimi K2 Thinking ergänzt eine Denkphase.

Spezialitäten von Kimi-K2-Instruct

Werkzeugnutzung

Speziell auf Funktionsaufrufe trainiert, mit über 20.000 synthetischen Werkzeugen.

Stabiles Training

15,5 Billionen Token mit dem Optimierer MuonClip, ohne einen einzigen Einbruch im Training.

Direkte Antworten

Ohne lange Denkphase und damit schnell in interaktiven Anwendungen.

Basismodell verfügbar

Kimi-K2-Base eignet sich als Ausgangspunkt für eigenes Feintuning.

Benchmarks & Leistung

Individuelle KI-Beratung

Ist Kimi-K2-Instruct das passende Modell
für Sie?

Das offene Modell mit einer Billion Parametern für Agenten und Werkzeugnutzung. Wir prüfen mit Ihnen Nutzen, Auslegung und Betriebskosten.

Die Post-Training Pipeline für Kimi-K2-Instruct

Trainingsdaten & Trainingsprozess

Kimi K2 wurde auf 15,5 Billionen Token vortrainiert, mit dem eigens entwickelten Optimierer MuonClip. Er begrenzt bestimmte Werte in der Attention und verhindert so Instabilitäten, das Training lief laut Moonshot AI ohne einen einzigen Einbruch. Anschließend wurde das Kontextfenster auf 128.000 Token erweitert.

Für das Post-Training hat Moonshot über 3.000 echte MCP-Werkzeuge gesammelt und daraus über 20.000 synthetische Werkzeuge mit passenden Aufgaben erzeugt. Im Reinforcement Learning lernt das Modell aus überprüfbaren Ergebnissen und aus Bewertungen nach festen Kriterien, die es teils selbst vornimmt.

Hardware & Deployment

  • Empfohlene Inferenz-Software: vLLM (ab 0.10.0rc1), SGLang, KTransformers und TensorRT-LLM
  • Gewichte in Block-FP8, zusammen rund 1,03 TB
  • Für Werkzeugaufrufe den Tool-Call-Parser kimi_k2 aktivieren
  • Empfohlen: temperature 0.6

Empfohlene Hardware-Spezifikation

  • Laut Moonshot AI mindestens ein Cluster mit 16 GPUs vom Typ H200 oder H20 für die FP8-Gewichte bei 128.000 Token Kontext
  • Verteilung per Tensor-Parallelität oder Daten- und Experten-Parallelität über zwei Server
  • Ohne eigene Hardware: Betrieb in unserer GPU Cloud, DSGVO-konform in Deutschland
Anwendungsfälle

Empfohlene Anwendungsfälle für Kimi-K2-Instruct

Kimi-K2-Instruct eignet sich für Organisationen, die Agenten mit Werkzeugnutzung selbst betreiben wollen. In einer KI-Beratung prüfen wir mit Ihnen, ob ein neueres Kimi-Modell besser passt.

Agenten mit Werkzeugnutzung
Assistenten, die selbstständig Funktionen und Schnittstellen aufrufen.
Coding-Assistenz
Programmieraufgaben in agentischen Coding-Umgebungen.
Eigenes Feintuning
Anpassung an Fachsprache und eigene Daten auf Basis von Kimi-K2-Base.
Texte und Wissen
Allgemeine Fragen und Textarbeit mit schnellen Antworten.
Selbst betriebene Alternative
Offenes Modell im eigenen Rechenzentrum, ohne Daten an Dritte zu geben.
Moonshot AI
Kimi-K2-Instruct

Stärken & Schwächen von Kimi-K2-Instruct

Ihre Kimi-K2-Instruct Lösung

Kimi-K2-Instruct im eigenen Rechenzentrum betreiben

Wir planen die Cluster-Auslegung für Kimi-K2-Instruct, übernehmen Inbetriebnahme, Quantisierung und Betrieb und hosten das Modell auf Wunsch DSGVO-konform in unserem zertifizierten Rechenzentrum in Limburg an der Lahn.

FAQ - Häufige Fragen

Wissenswertes zu Kimi-K2-Instruct

Die Gewichte liegen in FP8 vor und umfassen rund 1,03 TB. Moonshot AI nennt als kleinste Einheit einen Cluster mit 16 GPUs vom Typ H200 oder H20, verteilt auf zwei Server.

MuonClip ist ein von Moonshot entwickelter Optimierer, also das Verfahren, mit dem das Modell im Training seine Gewichte anpasst. Er verhindert Instabilitäten, die bei sehr großen Modellen sonst zu Einbrüchen im Training führen.

K2-Base ist das Modell direkt nach dem Vortraining und eignet sich als Grundlage für eigenes Feintuning. K2-Instruct ist zusätzlich für Chat, Werkzeugnutzung und Agenten nachtrainiert.

Ja. Code und Gewichte stehen unter einer modifizierten MIT-Lizenz. Die einzige Auflage: Hat Ihr Produkt mehr als 100 Millionen monatlich aktive Nutzer oder mehr als 20 Millionen US-Dollar Monatsumsatz, muss „Kimi K2“ sichtbar in der Oberfläche stehen.

Ja. Über unsere GPU Cloud stellen wir die nötige Rechenleistung bereit. Alternativ bündelt der MaaS Proxy verschiedene Modelle über eine einheitliche Schnittstelle. Beide Wege betreiben wir DSGVO-konform in Deutschland.

Möchten Sie individuell beraten werden?

Unsere KI-Experten sind für Sie da!