Llama Guard 4 ist Metas Sicherheitsmodell aus der Llama-4-Reihe. Es prüft Nutzereingaben und Modellantworten auf Verstöße gegen 14 Gefahrenkategorien und antwortet mit „safe“ oder „unsafe“ samt der verletzten Kategorien. Anders als die Vorgänger verarbeitet ein einziges Modell Text und mehrere Bilder. Es ersetzt damit Llama Guard 3 8B und Llama Guard 3 11B Vision.
Meta hat das Modell aus Llama 4 Scout gewonnen, indem alle Experten bis auf den geteilten entfernt wurden. So entstand ein dichtes Modell mit 12 Milliarden Parametern, das auf eine einzelne GPU passt. Weil es multimodal ist, gilt auch hier die Einschränkung der Llama-4-Nutzungsrichtlinie für Unternehmen in der EU.
Llama Guard 4 12B
Meta
April 2025
Llama 4 Community License mit Nutzungsrichtlinie, eingeschränkt für Unternehmen mit Hauptsitz in der EU
Dichter Sicherheitsklassifikator, multimodal (Text und Bild)
12 Mrd.
Aus Llama 4 Scout abgeleitet: nur der geteilte Experte bleibt, dadurch ein dichtes Modell
202.048 Token Vokabular (wie Llama 4)
48
keine Herstellerangabe, getestet mit Text und meist drei Bildern je Anfrage
Die einzige Größe, in BF16 veröffentlicht. Die Kategorien lassen sich per Prompt abwählen oder durch eigene ersetzen.
Llama Guard 3 gab es getrennt als 8B für Text und 11B Vision für Bilder. Llama Guard 4 vereint beides.
Llama Prompt Guard 2 ist ein sehr kleiner Klassifikator, der gezielt Prompt-Injection und Jailbreaks erkennt. Beide lassen sich kombinieren.
| Benchmark | Recall | Falsch-Positiv-Rate | F1 | Recall ggü. Vorgänger (Punkte) | F1 ggü. Vorgänger (Punkte) |
|---|---|---|---|---|---|
| Englisch (Text) | 69 % | 11 % | 61 % | +4 % | +8 % |
| Mehrsprachig (Text) | 43 % | 3 % | 51 % | −2 % | 0 % |
| Ein Bild | 41 % | 9 % | 38 % | +10 % | +8 % |
| Mehrere Bilder | 61 % | 9 % | 52 % | +20 % | +17 % |
Quelle: Model Card von Meta, interne Testdaten zur Prüfung von Modellantworten. Vorgänger: Llama Guard 3 8B für Text, Llama Guard 3 11B Vision für Bilder, das bei mehreren Bildern nur das letzte erhielt.
Llama Guard 4 prüft Text und Bilder mit einem Modell. Wir klären mit Ihnen, ob es für Ihr Vorhaben in Frage kommt, und integrieren die passende Schutzschicht.
Llama Guard 4 entstand ohne zusätzliches Vortraining aus Llama 4 Scout. Meta entfernte die 16 spezialisierten Experten und behielt den geteilten Experten, der jeden Token verarbeitet.
Für das Post-Training kombinierte Meta die Daten von Llama Guard 3 8B und 11B Vision mit neuen Beispielen aus mehreren Bildern (meist zwei bis fünf) sowie mehrsprachigen Daten, teils von Menschen geschrieben, teils übersetzt. Text- und Bilddaten stehen etwa im Verhältnis 3 zu 1.
Llama Guard 4 eignet sich als Schutzschicht vor und hinter einem Sprachmodell. In einer KI-Beratung klären wir mit Ihnen Lizenzlage und passende Alternativen.
Ein Modell für Text und Bilder: Ersetzt zwei getrennte Llama-Guard-3-Modelle.
Deutlich besser bei mehreren Bildern: Recall 20 Prozentpunkte über Llama Guard 3 11B Vision, das im Test allerdings nur das letzte Bild sah.
Anpassbare Kategorien: Kategorien lassen sich per Prompt abwählen oder durch eigene ersetzen.
Eine GPU genügt: Mit 12 Milliarden Parametern deutlich kleiner als die Modelle, die es absichert.
Lizenzhürde in der EU: Die Nutzungsrichtlinie von Llama 4 gewährt Unternehmen mit Hauptsitz in der EU keine Rechte an den multimodalen Modellen. Ausgenommen sind nur Endnutzer eines Produkts, das die Modelle enthält.
Lückenhafte Erkennung: Im englischen Test erkennt es 69 % der Verstöße, mehrsprachig nur 43 %.
Keine KI-Bilder: Laut Meta nicht für die Prüfung von Bildern gedacht, die selbst mit KI erzeugt wurden.
Nur Klassifikation: Das Modell bewertet Inhalte, beantwortet aber keine Anfragen.
Wir prüfen mit Ihnen, ob Llama Guard 4 für Ihr Vorhaben in Frage kommt, und zeigen offene Modelle ohne Lizenzhürde für Unternehmen in der EU. Den Betrieb übernehmen wir auf Wunsch DSGVO-konform in unserem zertifizierten Rechenzentrum in Limburg an der Lahn.
Gewaltverbrechen, sonstige Straftaten, Sexualstraftaten, sexuelle Ausbeutung von Kindern, Verleumdung, spezialisierte Beratung, Privatsphäre, geistiges Eigentum, Massenvernichtungswaffen, Hass, Suizid und Selbstverletzung, sexuelle Inhalte, Wahlen sowie Missbrauch von Code-Interpretern.
Ja. Die Kategorien stehen im Prompt. Sie können einzelne abwählen oder eigene Beschreibungen einsetzen, die Transformers-Vorlage bietet dafür passende Optionen.
Die Nutzungsrichtlinie von Llama 4 schließt Personen mit Wohnsitz und Unternehmen mit Hauptsitz in der EU von den Rechten an multimodalen Llama-4-Modellen aus. Llama Guard 4 verarbeitet Text und Bilder und fällt damit unter diese Regel. Nicht betroffen sind Endnutzer eines Produkts oder Dienstes, der die Modelle enthält. Lassen Sie Ihr Vorhaben vor dem Einsatz rechtlich prüfen. Offene Alternativen ohne diese Einschränkung sind etwa Qwen3.6, GLM-5.2 oder Metas Muse Glimmer.
Ja. Meta hat es unter anderem mit Deutsch, Französisch und Spanisch getestet. Die Erkennungsrate liegt mehrsprachig mit 43 % aber deutlich unter der englischen mit 69 %. Bei Anfragen mit Bildern empfiehlt Meta englischen Text.
Ja. Über unsere GPU Cloud stellen wir die nötige Rechenleistung bereit. Alternativ bündelt der MaaS Proxy verschiedene Modelle über eine einheitliche Schnittstelle. Beide Wege betreiben wir DSGVO-konform in Deutschland.
Möchten Sie individuell beraten werden?
Unsere KI-Experten sind für Sie da!
