Kimi-K2-Thinking

Das Reasoning-Modell der K2-Reihe mit nativer INT4-Quantisierung und Hunderten Werkzeugaufrufen

Denken mit Werkzeugen

Das Kimi K2 Thinking Modell im Überblick

Kimi K2 Thinking ist das Reasoning-Modell der K2-Reihe. Es wurde darauf trainiert, Denkschritte und Werkzeugaufrufe zu verschränken, und bleibt laut Moonshot AI über 200 bis 300 aufeinanderfolgende Werkzeugaufrufe stabil. Bei agentischer Recherche wie HLE mit Tools (44,9) und BrowseComp (60,2) lag es bei Veröffentlichung vor GPT-5 und Claude Sonnet 4.5.

Technisch ist K2 Thinking ein Mixture-of-Experts-Modell (MoE) mit einer Billion Parametern, von denen je verarbeitetem Textbaustein (Token) nur 32 Milliarden aktiv sind. Die Experten wurden direkt auf INT4 trainiert. Das verdoppelt laut Moonshot im Low-Latency-Modus die Ausgabegeschwindigkeit ohne Qualitätsverlust und bringt das Modell auf einen Server mit acht H200. Es steht unter einer modifizierten MIT-Lizenz.

Name:

Kimi K2 Thinking

Entwickler:

Moonshot AI

Veröffentlichung:

November 2025

Lizenz:

Modifizierte MIT-Lizenz: Bei kommerziellen Produkten mit mehr als 100 Mio. monatlich aktiven Nutzern oder mehr als 20 Mio. US-Dollar Monatsumsatz muss „Kimi K2“ sichtbar in der Oberfläche stehen.

Modelltyp:

MoE, Reasoning-Modell mit Denkphase, rein textbasiert

Parameter:

1 Bio. total (32 Mrd. aktiv pro Token)

Architektur:

MoE mit Multi-head Latent Attention (MLA), native INT4-Quantisierung

Schichten:

61 (davon 1 dichte Schicht)

Experten (MoE):

384 Experten, 8 aktiv je Token, 1 geteilter Experte

Kontextlänge:

256.000 Token

Variationen von Kimi K2 Thinking

Kimi K2 Thinking

Das Reasoning-Modell mit nativen INT4-Gewichten. Die Gewichte lassen sich bei Bedarf in FP8 oder BF16 umwandeln.

Heavy Mode

Ein Betriebsmodus, in dem acht Lösungswege parallel entstehen und anschließend zu einer Antwort zusammengeführt werden. Er steigert etwa HLE mit Tools auf 51,0.

Vorgänger und Nachfolger

Kimi-K2-Instruct-0905 ist das Instruct-Modell ohne Denkphase. Nachfolger ist Kimi K2.5, das Denkphase, INT4 und Bildverständnis verbindet.

Spezialitäten von Kimi K2 Thinking

Denken mit Werkzeugen

Denkschritte und Werkzeugaufrufe greifen ineinander, stabil über 200 bis 300 Aufrufe.

Native INT4-Quantisierung

Direkt auf INT4 trainiert, laut Moonshot im Low-Latency-Modus doppelt so schnell bei der Ausgabe.

Agentische Recherche

Starke Werte bei BrowseComp, Seal-0 und HLE mit Tools.

Heavy Mode

Acht parallele Lösungswege werden zu einer Antwort zusammengeführt.

Benchmarks & Leistung

Individuelle KI-Beratung

Ist Kimi-K2-Thinking das passende Modell für Sie?

Reasoning mit Hunderten Werkzeugaufrufen, lauffähig auf acht H200. Wir prüfen mit Ihnen Nutzen, Auslegung und Betriebskosten.

Die Post-Training Pipeline für Kimi-K2-Thinking

Trainingsdaten & Trainingsprozess

K2 Thinking teilt die Architektur von Kimi-K2-Instruct, das mit dem Optimierer MuonClip auf 15,5 Billionen Token vortrainiert wurde. Eine eigene Veröffentlichung zum Training des Thinking-Modells gibt es nicht.

Laut Moonshot wurde das Modell durchgehend darauf trainiert, Denkschritte und Werkzeugaufrufe zu verschränken. Die INT4-Quantisierung der Experten ist schon im Post-Training eingebaut, statt sie nachträglich anzuwenden.

Hardware & Deployment

  • Unterstützte Inferenz-Software: vLLM, SGLang und KTransformers
  • Gewichte nativ in INT4, zusammen rund 594 GB
  • Tool-Call-Parser und Reasoning-Parser kimi_k2 verwenden
  • Empfohlen: temperature 1.0
  • Bei Überschreiten von 256.000 Token frühere Werkzeugausgaben ausblenden

Empfohlene Hardware-Spezifikation

  • Ein Server mit acht H200, laut Moonshot AI per Tensor-Parallelität
  • Alternative laut Moonshot: KTransformers mit acht L20 und zwei Server-CPUs
  • Reserve für den KV-Cache bei langen Agenten-Läufen
  • Ohne eigene Hardware: Betrieb in unserer GPU Cloud, DSGVO-konform in Deutschland
Anwendungsfälle

Empfohlene Anwendungsfälle für Kimi K2 Thinking

Kimi K2 Thinking eignet sich für Organisationen, die agentische Recherche und Reasoning mit einem offenen Modell selbst betreiben wollen. In einer KI-Beratung prüfen wir mit Ihnen, ob ein neueres Kimi-Modell besser passt.

Recherche-Agenten
Mehrstufige Websuche mit Hunderten Werkzeugaufrufen.
Coding-Agenten
Entwicklungsaufgaben mit Denkphase und Werkzeugnutzung.
Mathematik und Wissenschaft
Anspruchsvolles Reasoning, im Heavy Mode mit Spitzenwerten bei AIME25.
Lange Texte
Ausführliche Texte und Berichte mit gründlicher Planung.
Selbst betriebene Alternative
Offenes Modell im eigenen Rechenzentrum, ohne Daten an Dritte zu geben.
Moonshot AI
Kimi-K2-Thinking

Stärken & Schwächen von Kimi K2 Thinking

Ihre Kimi K2 Thinking Lösung

Kimi K2 Thinking im eigenen Rechenzentrum betreiben

Wir planen die Cluster-Auslegung für Kimi K2 Thinking, übernehmen Inbetriebnahme, Quantisierung und Betrieb und hosten das Modell auf Wunsch DSGVO-konform in unserem zertifizierten Rechenzentrum in Limburg an der Lahn.

FAQ - Häufige Fragen

Wissenswertes zu Kimi-K2-Thinking

Quantisierung speichert die Gewichte mit geringerer Zahlengenauigkeit. Bei K2 Thinking wurden die Experten direkt im Training auf INT4 ausgelegt, statt sie nachträglich zu verkleinern. Das verdoppelt laut Moonshot im Low-Latency-Modus die Ausgabegeschwindigkeit und senkt den Speicherbedarf auf rund 594 GB.

Moonshot AI zeigt den Betrieb auf einem Server mit acht H200, auf die das Modell per Tensor-Parallelität aufgeteilt wird. Für lange Agenten-Läufe sollten Sie Reserve für den KV-Cache einplanen, den Zwischenspeicher für bereits verarbeitete Teile einer Anfrage.

Im Heavy Mode entstehen acht Lösungswege parallel, die das Modell anschließend zu einer Antwort zusammenführt. Das kostet deutlich mehr Rechenzeit, steigert aber etwa HLE mit Tools von 44,9 auf 51,0.

Ja. Code und Gewichte stehen unter einer modifizierten MIT-Lizenz. Die einzige Auflage: Hat Ihr Produkt mehr als 100 Millionen monatlich aktive Nutzer oder mehr als 20 Millionen US-Dollar Monatsumsatz, muss „Kimi K2“ sichtbar in der Oberfläche stehen.

Ja. Über unsere GPU Cloud stellen wir die nötige Rechenleistung bereit. Alternativ bündelt der MaaS Proxy verschiedene Modelle über eine einheitliche Schnittstelle. Beide Wege betreiben wir DSGVO-konform in Deutschland.

Möchten Sie individuell beraten werden?

Unsere KI-Experten sind für Sie da!