Mit Llama 4 hat Meta im April 2025 die erste Llama-Generation veröffentlicht, die Text und Bilder von Grund auf gemeinsam verarbeitet. Offen verfügbar sind zwei Modelle: Llama 4 Scout mit bis zu 10 Millionen Token Kontext und Llama 4 Maverick als stärkeres Modell mit 1 Million Token. Das sehr große Lehrermodell Llama 4 Behemoth hat Meta nie veröffentlicht.
Beide Modelle sind als Mixture-of-Experts (MoE) aufgebaut, also aus vielen spezialisierten Teilnetzen. Von 109 bzw. 400 Milliarden Parametern rechnen je verarbeitetem Textbaustein (Token) nur 17 Milliarden. Das macht die Antworten schnell, der Speicherbedarf richtet sich aber nach der Gesamtgröße. Wichtig für Unternehmen in der EU: Die Nutzungsrichtlinie schränkt die Rechte an den multimodalen Modellen ein.
Llama 4 (Scout, Maverick, Behemoth)
Meta
April 2025
Llama 4 Community License mit Nutzungsrichtlinie, eingeschränkt für Unternehmen mit Hauptsitz in der EU
MoE, nativ multimodal (Text und Bild als Eingabe, Text als Ausgabe)
Scout: 109 Mrd. total, Maverick: 400 Mrd. total, je 17 Mrd. aktiv pro Token
MoE mit geteiltem Experten, Early Fusion für Text und Bild, iRoPE für lange Kontexte
202.048 Token Vokabular
48 (Scout und Maverick)
Scout: 16 Experten, Maverick: 128 Experten, je 1 aktiv plus 1 geteilter Experte
Scout: bis 10 Mio. Token, Maverick: bis 1 Mio. Token
Llama 4 Scout hat 109 Milliarden Parameter mit 16 Experten und bis zu 10 Millionen Token Kontext. Mit Int4-Quantisierung passt es laut Meta auf eine H100.
Llama 4 Maverick hat 400 Milliarden Parameter mit 128 Experten und 1 Million Token Kontext. Die offizielle FP8-Fassung läuft auf einem Server mit acht H100.
Das Lehrermodell mit 288 Milliarden aktiven und fast zwei Billionen Parametern insgesamt. Meta nutzte es zum Training von Maverick, hat es aber nie veröffentlicht.
Llama Guard 4 prüft Ein- und Ausgaben auf Text und Bildern, Llama Prompt Guard 2 erkennt Prompt-Injection und Jailbreaks. Beide erschienen im April 2025.
| Benchmark | Llama 4 Maverick | Llama 4 Scout | Llama 3.1 70B | Llama 3.1 405B |
|---|---|---|---|---|
| MMLU | 85,5 | 79,6 | 79,3 | 85,2 |
| MMLU-Pro | 62,9 | 58,2 | 53,8 | 61,6 |
| MATH | 61,2 | 50,3 | 41,6 | 53,5 |
| MBPP | 77,6 | 67,8 | 66,4 | 74,4 |
| TydiQA | 31,7 | 31,5 | 29,9 | 34,3 |
| ChartQA | 85,3 | 83,4 | nur Text | nur Text |
| DocVQA | 91,6 | 89,4 | nur Text | nur Text |
Quelle: Model Card von Meta, Basismodelle vor dem Post-Training. Werte der Instruct-Modelle stehen auf den Seiten zu Scout und Maverick.
Llama 4 bietet multimodale Modelle mit sehr langem Kontext, die Lizenz setzt Unternehmen in der EU aber Grenzen. Wir prüfen mit Ihnen, welches Modell passt.
Laut Meta umfasst der Datenmix für das Vortraining mehr als 30 Billionen Token aus Text, Bildern und Videos in 200 Sprachen, davon über 100 Sprachen mit jeweils mehr als einer Milliarde Token. Laut Model Card sah Scout rund 40 Billionen Token, Maverick rund 22 Billionen. Der Wissensstand reicht bis August 2024. Wichtige Einstellungen wie die Lernrate legte Meta mit einem eigenen Verfahren namens MetaP fest.
Das Post-Training lief in drei Stufen: ein leichtes Feintuning mit Beispielantworten, dann Reinforcement Learning, bei dem das Modell aus Bewertungen seiner eigenen Antworten lernt, und zum Schluss eine leichte Präferenzoptimierung (DPO).
Bei Maverick sortierte Meta für das Feintuning mehr als die Hälfte der als leicht eingestuften Daten aus und trainierte zusätzlich mit Behemoth als Lehrermodell (Codistillation), was laut Meta die Qualität deutlich verbessert hat.
Llama 4 eignet sich für Anwendungen, die Bilder und lange Dokumente verarbeiten. In einer KI-Beratung klären wir mit Ihnen Lizenzlage und passende Alternativen.
Nativ multimodal: Text und Bilder in einem Modell, Maverick erreicht 73,4 bei MMMU.
Sehr lange Kontexte: Bis zu 10 Millionen Token bei Scout und 1 Million bei Maverick.
Schnelle Antworten: Nur 17 Milliarden aktive Parameter je Token bei beiden Modellen.
Deutlicher Sprung gegenüber Llama 3: Maverick erreicht 69,8 bei GPQA Diamond, Llama 3.3 70B kommt auf 50,5.
Lizenzhürde in der EU: Die Nutzungsrichtlinie von Llama 4 gewährt Unternehmen mit Hauptsitz in der EU keine Rechte an den multimodalen Modellen. Ausgenommen sind nur Endnutzer eines Produkts, das die Modelle enthält.
Keine Weiterentwicklung: Seit April 2025 hat Meta keine neuen Llama-Gewichte veröffentlicht. Das Spitzenmodell Muse Spark ist nicht offen, als offenes Meta-Modell erschien im August 2026 Muse Glimmer mit 30 Milliarden Parametern.
Hoher Speicherbedarf: Trotz nur 17 Milliarden aktiver Parameter müssen alle Gewichte in den Grafikspeicher, bei Maverick in FP8 rund 417 GB.
Behemoth nie erschienen: Das stärkste Modell der Serie hat Meta nicht veröffentlicht.
Wir prüfen mit Ihnen, ob Llama 4 für Ihr Vorhaben in Frage kommt, und zeigen offene Modelle ohne Lizenzhürde für Unternehmen in der EU. Den Betrieb übernehmen wir auf Wunsch DSGVO-konform in unserem zertifizierten Rechenzentrum in Limburg an der Lahn.
Beide haben 17 Milliarden aktive Parameter. Scout ist mit 109 Milliarden Parametern insgesamt kleiner und bietet bis zu 10 Millionen Token Kontext. Maverick hat 400 Milliarden Parameter und 128 Experten und ist in fast allen Benchmarks der Model Card stärker, etwa bei GPQA Diamond mit 69,8 gegenüber 57,2.
Die Gewichte sind offen verfügbar, aber unter der Llama 4 Community License. Sie verlangt unter anderem den Hinweis „Built with Llama“, bei Weitergabe abgeleiteter Modelle „Llama“ am Anfang des Namens und für Anbieter mit mehr als 700 Millionen monatlich aktiven Nutzern zum Veröffentlichungstag eine eigene Lizenz von Meta.
Die Nutzungsrichtlinie von Llama 4 schließt Personen mit Wohnsitz und Unternehmen mit Hauptsitz in der EU von den Rechten an multimodalen Llama-4-Modellen aus. Llama 4 verarbeitet Text und Bilder und fällt damit unter diese Regel. Nicht betroffen sind Endnutzer eines Produkts oder Dienstes, der die Modelle enthält. Lassen Sie Ihr Vorhaben vor dem Einsatz rechtlich prüfen. Offene Alternativen ohne diese Einschränkung sind etwa Qwen3.6, GLM-5.2 oder Metas Muse Glimmer.
Nein. Meta hat Behemoth im April 2025 als noch im Training angekündigt, aber nie veröffentlicht. Das aktuelle Spitzenmodell Muse Spark ist nicht offen. Offen veröffentlicht hat Meta im August 2026 das kleinere Muse Glimmer unter Apache 2.0.
Ja. Über unsere GPU Cloud stellen wir die nötige Rechenleistung bereit. Alternativ bündelt der MaaS Proxy verschiedene Modelle über eine einheitliche Schnittstelle. Beide Wege betreiben wir DSGVO-konform in Deutschland.
Möchten Sie individuell beraten werden?
Unsere KI-Experten sind für Sie da!
