Mistral ha presentato Mistral Large 4, soprannominato «Le Chonk», un modello multimodale, multilingue e a miscela di esperti (Mixture-of-Experts) che accetta in input testo e immagini e produce testo. Conta circa 1T di parametri totali e una finestra di contesto di 1M token, dove il token indica l’unità di testo elaborata dal modello. È distribuito con la Mistral Ecosystem Open-Weight License, una licenza derivata dalla MIT che stabilisce limiti per le offerte di tipo model-as-a-service.
- Mistral Large 4 è un modello multimodale e multilingue con circa 1T di parametri e una finestra di contesto di 1M token.
- Il modello ottiene l’82 % nell’Artificial Analysis Cyber Index, mentre diversi modelli chiusi ottengono quasi zero perché rifiutano la prova.
- Mistral punta su un uso difensivo della cybersecurity, perché i modelli a peso aperto lasciano all’utente il controllo della politica d’uso.
- Il modello è compatibile con transformers, vLLM e llama.cpp e può essere sottoposto a fine-tuning con TRL.
Il modello esiste in due varianti ufficiali, FP8 e NVFP4. Versioni in formato GGUF, destinate all’esecuzione locale, sono state create da Unsloth e dal team llama.cpp.
Un modello orientato alla cybersecurity difensiva
Secondo Mistral, Mistral Large 4 ottiene 82 % nell’Artificial Analysis Cyber Index, un test che richiede di riprodurre una vulnerabilità reale in un software open source e poi di correggerla. Mistral indica che diversi modelli chiusi all’avanguardia ottengono un punteggio vicino allo zero in questa prova, poiché rifiutano di tentarla. Durante test interni, il modello si è anche rivelato utile per l’analisi di malware, la priorizzazione delle vulnerabilità e la redazione di regole di rilevamento, usi per i quali non era stato specificamente addestrato.
Mistral sottolinea soprattutto un uso difensivo. Secondo l’azienda, la ricerca di falle e la risposta agli incidenti possono assomigliare ad attacchi nelle richieste inviate a un modello, ed essere bloccate da filtri. Un team che dipende da un’API può inoltre perdere l’accesso nel pieno di una crisi. I modelli a peso aperto lasciano invece all’utente il controllo della politica d’uso e del deployment. Il modello rifiuta comunque le richieste pericolose: sulle query cyber dei benchmark JailbreakBench, StrongREJECT e AgentHarm, il suo tasso di rifiuto medio è, secondo la fonte, superiore a quello di qualsiasi altro modello a peso aperto.
Architettura e risultati annunciati
Il decodificatore di testo comprende 72 strati, una dimensione nascosta di 6.144 e 64 teste di attenzione. Combina Multi-head Latent Attention (MLA) e un indicizzatore DeepSeek Sparse Attention (DSA), che seleziona fino a 2.048 posizioni di chiavi per ogni query. Negli strati MoE, un router sceglie quattro esperti tra 128 per ogni token, ai quali si aggiunge un esperto condiviso, per un totale di cinque esperti attivi per token. L’encoder di immagini è un encoder Pixtral da 1,6B.
Mistral annuncia punteggi del 61,7% su DeepSWE v1.1, 59,4% su SWE-Atlas-QnA e 28,3% su Terminal-Bench 4, per un Coding Agent Index combinato del 49,8%, davanti a DeepSeek V4 Pro 0813 e Qwen3.8 Max. Su Cybench, il modello risolve il 93% di una serie di 40 sfide provenienti da competizioni di sicurezza, e raggiunge il 93,3% di resistenza agli attacchi sul benchmark B3 di Lakera. Secondo la fonte, al 29 ottobre 2026 è il quinto miglior modello a peso aperto sull’Artificial Analysis Intelligence index.
Deployment e adattamento
Mistral Large 4 è compatibile fin dal lancio con transformers, vLLM e llama.cpp. Su un server con otto GPU NVIDIA H200 tramite Inference Endpoints, la variante FP8 raggiunge, per una singola query, circa 65 token al secondo, e fino a 120-138 token al secondo su prompt di conversazione. Su un Mac M3 Ultra, la versione Q2_K mostra circa 15 token al secondo in generazione.
Il modello può anche essere sottoposto a fine-tuning, ovvero a una regolazione complementare su dati specifici. Un esempio è proposto con TRL, la libreria di Hugging Face, su un nodo con otto GPU B300, per insegnare al modello a ragionare nella lingua richiesta dal prompt di sistema. Gli esempi di TRL includono uno script di lancio Slurm. Dell propone inoltre una ricetta ottimizzata per distribuire il modello sui propri server Dell AI, in particolare su un nodo NVIDIA B300.
