Mistral hat Mistral Large 4 vorgestellt, genannt « Le Chonk », ein multimodales, mehrsprachiges und Mixture-of-Experts-Modell, das Text und Bilder als Eingabe verarbeitet und Text erzeugt. Es verfügt über insgesamt etwa 1T Parameter und ein Kontextfenster von 1M tokens, wobei ein Token die Texteinheit bezeichnet, die das Modell verarbeitet. Es wird unter der Mistral Ecosystem Open-Weight License vertrieben, einer von der MIT-Lizenz abgeleiteten Lizenz, die Beschränkungen für model-as-a-service-Angebote festlegt.
- Mistral stellt Mistral Large 4 vor, ein multimodales Mixture-of-Experts-Modell mit rund 1 Billion Parametern.
- Das Modell erreicht 82 % im Artificial Analysis Cyber Index und setzt auf defensive Cybersicherheit.
- Es ist unter einer Open-Weight-Lizenz verfügbar und mit transformers, vLLM und llama.cpp kompatibel.
- Das Modell lässt sich fein abstimmen, und Dell bietet ein optimiertes Deployment-Rezept an.
Das Modell ist in zwei offiziellen Varianten erhältlich, FP8 und NVFP4. GGUF-Formate, die lokal ausgeführt werden können, wurden von Unsloth und dem Team llama.cpp erstellt.
Ein Modell mit Fokus auf defensive Cybersicherheit
Laut Mistral erreicht Mistral Large 4 82 % im Artificial Analysis Cyber Index, einem Test, bei dem eine reale Schwachstelle in Open-Source-Software reproduziert und anschließend behoben werden muss. Mistral gibt an, dass mehrere führende geschlossene Modelle bei diesem Test nahezu null Punkte erzielen, da sie sich weigern, ihn zu versuchen. In internen Tests erwies sich das Modell auch als nützlich für Malware-Analyse, Priorisierung von Schwachstellen und das Verfassen von Erkennungsregeln – Anwendungsfälle, für die es nicht speziell trainiert wurde.
Mistral hebt vor allem eine defensive Nutzung hervor. Laut dem Unternehmen können die Suche nach Schwachstellen und Incident Response in den Anfragen an ein Modell wie Angriffe wirken und durch Filter blockiert werden. Ein Team, das von einer API abhängig ist, kann zudem während einer Krise den Zugriff verlieren. Modelle mit offenen Gewichten überlassen dem Nutzer hingegen die Kontrolle über Nutzungsrichtlinien und Deployment. Das Modell lehnt jedoch gefährliche Anfragen ab: Bei den Cyber-Anfragen der Benchmarks JailbreakBench, StrongREJECT und AgentHarm liegt seine durchschnittliche Ablehnungsrate laut Quelle über der aller anderen Modelle mit offenen Gewichten.
Architektur und angekündigte Ergebnisse
Der Textdecoder besteht aus 72 Schichten, einer versteckten Dimension von 6.144 und 64 Attention-Heads. Er kombiniert Multi-head Latent Attention (MLA) mit einem DeepSeek Sparse Attention (DSA) Indexer, der bis zu 2.048 Schlüsselpositionen pro Anfrage auswählt. In den MoE-Schichten wählt ein Router vier Experten aus 128 für jedes Token aus, hinzu kommt ein geteilter Experte, also fünf aktive Experten pro Token. Der Bildencoder ist ein Pixtral-Encoder mit 1,6B.
Mistral gibt Scores von 61,7 % auf DeepSWE v1.1, 59,4 % auf SWE-Atlas-QnA und 28,3 % auf Terminal-Bench 4 an, mit einem kombinierten Coding Agent Index von 49,8 %, vor DeepSeek V4 Pro 0813 und Qwen3.8 Max. Auf Cybench löst das Modell 93 % einer Serie von 40 Herausforderungen aus Sicherheitswettbewerben und erreicht 93,3 % Resistenz gegen Angriffe im B3-Benchmark von Lakera. Laut Quelle ist es am 29. Oktober 2026 das fünftbeste Modell mit offenen Gewichten im Artificial Analysis Intelligence Index.
Deployment und Anpassung
Mistral Large 4 ist ab Markteinführung kompatibel mit transformers, vLLM und llama.cpp. Auf einem Server mit acht NVIDIA H200 GPUs über Inference Endpoints erreicht die FP8-Variante bei einer einzelnen Anfrage etwa 65 Tokens pro Sekunde und bis zu 120 bis 138 Tokens pro Sekunde bei Gesprächs-Prompts. Auf einem Mac M3 Ultra generiert die Q2_K-Version etwa 15 Tokens pro Sekunde.
Das Modell kann auch einem fine-tuning unterzogen werden, also einer zusätzlichen Anpassung an spezifische Daten. Ein Beispiel wird mit TRL, der Bibliothek von Hugging Face, auf einem Knoten mit acht B300-GPUs gezeigt, um dem Modell beizubringen, in der vom System-Prompt geforderten Sprache zu argumentieren. Die TRL-Beispiele enthalten einen Slurm-Launcher. Dell bietet zudem ein optimiertes Rezept an, um das Modell auf seinen Dell AI-Servern, insbesondere auf einem NVIDIA B300-Knoten, zu deployen.
