Llama 4 Maverick

Das stärkste offene Llama-Modell, multimodal mit 1 Million Token Kontext

Llama-4-Generation von Meta

Das Llama 4 Maverick Modell im Überblick

Llama 4 Maverick ist das größere der beiden offenen Modelle aus Llama 4 und das stärkste Llama-Modell mit offenen Gewichten. Es verarbeitet Text und Bilder mit bis zu 1 Million Token Kontext. Meta sah es bei Erscheinen vor GPT-4o und Gemini 2.0 Flash, gemessen an heutigen offenen Modellen ist es aber nicht mehr führend.

Maverick ist ein Mixture-of-Experts-Modell (MoE) mit 400 Milliarden Parametern und 128 Experten, von denen je verarbeitetem Textbaustein (Token) nur 17 Milliarden rechnen. Meta hat es mit dem nie veröffentlichten Behemoth als Lehrermodell trainiert. Die offizielle FP8-Fassung passt auf einen Server mit acht H100. Wichtig für Unternehmen in der EU: Die Nutzungsrichtlinie schränkt die Rechte an den multimodalen Llama-4-Modellen ein.

Name:

Llama 4 Maverick 17B-128E (Base und Instruct)

Entwickler:

Meta

Veröffentlichung:

April 2025

Lizenz:

Llama 4 Community License mit Nutzungsrichtlinie, eingeschränkt für Unternehmen mit Hauptsitz in der EU

Modelltyp:

MoE, nativ multimodal (Text und Bild als Eingabe, Text als Ausgabe)

Parameter:

400 Mrd. total (17 Mrd. aktiv pro Token)

Architektur:

Abwechselnd dichte und MoE-Schichten, Grouped-Query Attention (40 Q-, 8 KV-Heads), iRoPE

Tokenizer:

202.048 Token Vokabular

Schichten:

48 (davon 24 MoE-Schichten)

Experten (MoE):

128 Experten, 1 aktiv je Token, 1 geteilter Experte

Kontextlänge:

bis 1.000.000 Token

Variationen von Llama 4 Maverick

Maverick Instruct und FP8

Das Chat-Modell in BF16 und als offizielle FP8-Fassung. FP8 betrifft nur die MoE-Schichten und halbiert den Speicherbedarf etwa.

Maverick Basismodell

Die Fassung vor dem Post-Training, gedacht für eigenes Feintuning.

Verwandte Modelle

Llama 4 Scout ist kleiner, läuft mit Int4 auf einer H100 und bietet bis zu 10 Millionen Token Kontext. Die Arena-Version „Llama-4-Maverick-03-26-Experimental“ ist nicht veröffentlicht.

Spezialitäten von Llama 4 Maverick

Starke Bildverarbeitung

73,4 bei MMMU, 90,0 bei ChartQA und 94,4 bei DocVQA.

1 Million Token

Langer Kontext für umfangreiche Dokumente und Projekte.

Offizielle FP8-Fassung

Rund 417 GB Gewichte, passend für einen Server mit acht H100.

Schnell durch MoE

Je Token rechnen nur 17 Milliarden von 400 Milliarden Parametern.

Benchmarks & Leistung

Individuelle KI-Beratung

Ist Llama 4 Maverick das passende Modell für Sie?

Ein 400B-MoE braucht einen ganzen GPU-Server, dazu kommt die Lizenzfrage in der EU. Wir bewerten mit Ihnen Nutzen, Auslegung und Alternativen.

Die Post-Training Pipeline für Llama 4 Maverick

Trainingsdaten & Trainingsprozess

Laut Meta umfasst der Datenmix für das Vortraining mehr als 30 Billionen Token aus Text, Bildern und Videos in 200 Sprachen, davon über 100 Sprachen mit jeweils mehr als einer Milliarde Token. Laut Model Card sah Maverick rund 22 Billionen Token, bei 2,38 Millionen GPU-Stunden auf H100. Der Wissensstand reicht bis August 2024. Wichtige Einstellungen wie die Lernrate legte Meta mit einem eigenen Verfahren namens MetaP fest.

Das Post-Training lief in drei Stufen: ein leichtes Feintuning mit Beispielantworten, dann Reinforcement Learning, bei dem das Modell aus Bewertungen seiner eigenen Antworten lernt, und zum Schluss eine leichte Präferenzoptimierung (DPO).

Für das Feintuning sortierte Meta mehr als die Hälfte der als leicht eingestuften Daten aus. Zusätzlich lernte Maverick von Llama 4 Behemoth als Lehrermodell (Codistillation). Laut Meta verbesserte das die Qualität deutlich.

Hardware & Deployment

  • Unterstützte Inferenz-Software: Transformers (ab 4.51.0), vLLM (ab 0.8.3), TGI und llama.cpp
  • BF16: rund 803 GB Gewichte
  • FP8: rund 417 GB Gewichte, laut Meta auf einem Server mit acht H100
  • Laut vLLM in FP8 auf acht H100 bis rund 430.000 Token, auf acht H200 bis 1 Million Token Kontext

Empfohlene Hardware-Spezifikation

  • Eigene Abschätzung auf Basis der Gewichtsgrößen
  • FP8: acht H100 für mittlere Kontexte, acht H200 für den vollen Kontext
  • BF16: acht H200
  • Ohne eigene Hardware: Betrieb in unserer GPU Cloud, DSGVO-konform in Deutschland
Anwendungsfälle

Empfohlene Anwendungsfälle für Llama 4 Maverick

Llama 4 Maverick eignet sich für anspruchsvolle multimodale Assistenten. In einer KI-Beratung prüfen wir mit Ihnen Lizenzlage, Nutzen und Auslegung.

Assistenten und Chat
Mehrsprachige Assistenten mit Bildverständnis.
Bild- und Dokumentanalyse
Diagramme, Tabellen und gescannte Dokumente auswerten.
Coding-Assistenz
Code erklären und erzeugen, mit 43,4 bei LiveCodeBench.
RAG im Unternehmen
Lange Dokumente und Wissensbestände durchsuchen.
Texterstellung
Inhalte in zwölf offiziell unterstützten Sprachen.
Meta
Llama 4 Maverick

Stärken & Schwächen von Llama 4 Maverick

Lizenz und Betrieb klären

Llama 4 Maverick oder eine offene Alternative?

Wir prüfen mit Ihnen, ob Llama 4 Maverick für Ihr Vorhaben in Frage kommt, und zeigen offene Modelle ohne Lizenzhürde für Unternehmen in der EU. Den Betrieb übernehmen wir auf Wunsch DSGVO-konform in unserem zertifizierten Rechenzentrum in Limburg an der Lahn.

FAQ - Häufige Fragen

Wissenswertes zu Llama 4 Maverick

Die offizielle FP8-Fassung umfasst rund 417 GB und läuft laut Meta auf einem Server mit acht H100. In BF16 sind es rund 803 GB, dafür empfehlen wir acht H200.

Meta warb zum Start mit einem Elo-Wert von 1417 auf LMArena. Erzielt hatte ihn eine experimentelle, auf Gespräche optimierte Chat-Version, die nicht veröffentlicht wurde. Die öffentlichen Gewichte schnitten dort deutlich schlechter ab. LMArena passte daraufhin seine Regeln an.

Die Nutzungsrichtlinie von Llama 4 schließt Personen mit Wohnsitz und Unternehmen mit Hauptsitz in der EU von den Rechten an multimodalen Llama-4-Modellen aus. Llama 4 Maverick verarbeitet Text und Bilder und fällt damit unter diese Regel. Nicht betroffen sind Endnutzer eines Produkts oder Dienstes, der die Modelle enthält. Lassen Sie Ihr Vorhaben vor dem Einsatz rechtlich prüfen. Offene Alternativen ohne diese Einschränkung sind etwa Qwen3.6, GLM-5.2 oder Metas Muse Glimmer.

Ja, etwa bei Amazon Bedrock, dort aber nur in US-Regionen, sowie in Azure AI Foundry. Metas eigene Model API führt keine Llama-Modelle mehr.

Ja. Über unsere GPU Cloud stellen wir die nötige Rechenleistung bereit. Alternativ bündelt der MaaS Proxy verschiedene Modelle über eine einheitliche Schnittstelle. Beide Wege betreiben wir DSGVO-konform in Deutschland.

Möchten Sie individuell beraten werden?

Unsere KI-Experten sind für Sie da!