Mistral Large 4 chega ao Hugging Face com o nome de código « Le Chonk »

Mistral Large 4 chega ao Hugging Face com o nome de código « Le Chonk »
3 min de leitura

A Mistral apresentou o Mistral Large 4, apelidado de «Le Chonk», um modelo multimodal, multilingue e de mistura de especialistas (Mixture-of-Experts) que recebe texto e imagens como entrada e produz texto. Conta com cerca de 1T de parâmetros no total e uma janela de contexto de 1M de tokens, sendo o token a unidade de texto que o modelo processa. É distribuído sob a Mistral Ecosystem Open-Weight License, uma licença derivada da MIT que estabelece limites para ofertas do tipo model-as-a-service.

  • A Mistral lançou o Mistral Large 4, um modelo multimodal de pesos abertos com cerca de 1T de parâmetros.
  • O modelo destaca-se na cibersegurança defensiva, com 82 % no Artificial Analysis Cyber Index.
  • Obtém bons resultados em programação, com 49,8 % no Coding Agent Index combinado.
  • É compatível com transformers, vLLM e llama.cpp, e pode ser ajustado com a TRL da Hugging Face.

O modelo existe em duas variantes oficiais, FP8 e NVFP4. Foram criadas versões no formato GGUF, destinadas a execução local, pela Unsloth e pela equipa llama.cpp.

Um modelo orientado para a cibersegurança defensiva

Segundo a Mistral, o Mistral Large 4 obtém 82 % no Artificial Analysis Cyber Index, um teste que pede para reproduzir uma vulnerabilidade real num software de código aberto e depois corrigi-la. A Mistral indica que vários modelos fechados de ponta obtêm uma pontuação próxima de zero neste teste, porque se recusam a tentá-lo. Em testes internos, o modelo também se revelou útil para análise de malware, priorização de vulnerabilidades e redação de regras de deteção, usos para os quais não tinha sido especificamente treinado.

A Mistral destaca sobretudo um uso defensivo. Segundo a empresa, a procura de falhas e a resposta a incidentes podem assemelhar-se a ataques nos pedidos feitos a um modelo, e serem bloqueadas por filtros. Uma equipa que depende de uma API pode também perder o acesso em plena crise. Os modelos de pesos abertos, pelo contrário, dão ao utilizador o controlo da política de uso e da implementação. O modelo recusa, no entanto, pedidos perigosos: nos pedidos cibernéticos dos benchmarks JailbreakBench, StrongREJECT e AgentHarm, a sua taxa média de recusa é, segundo a fonte, superior à de qualquer outro modelo de pesos abertos.

Arquitetura e resultados anunciados

O descodificador de texto possui 72 camadas, uma dimensão oculta de 6 144 e 64 cabeças de atenção. Combina Multi-head Latent Attention (MLA) e um indexador DeepSeek Sparse Attention (DSA), que seleciona até 2 048 posições de chaves para cada consulta. Nas camadas MoE, um router escolhe quatro especialistas entre 128 para cada token, aos quais se junta um especialista partilhado, perfazendo cinco especialistas ativos por token. O codificador de imagens é um codificador Pixtral de 1,6B.

A Mistral anuncia pontuações de 61,7 % no DeepSWE v1.1, 59,4 % no SWE-Atlas-QnA e 28,3 % no Terminal-Bench 4, para um Coding Agent Index combinado de 49,8 %, à frente do DeepSeek V4 Pro 0813 e do Qwen3.8 Max. No Cybench, o modelo resolve 93 % de uma série de 40 desafios provenientes de competições de segurança, e atinge 93,3 % de resistência a ataques no benchmark B3 da Lakera. Segundo a fonte, é a 29 de outubro de 2026 o quinto melhor modelo de pesos abertos no Artificial Analysis Intelligence index.

Implementação e adaptação

O Mistral Large 4 é compatível desde o lançamento com transformers, vLLM e llama.cpp. Num servidor com oito GPU NVIDIA H200 via Inference Endpoints, a variante FP8 atinge, para um pedido único, cerca de 65 tokens por segundo, e até 120 a 138 tokens por segundo em prompts de conversação. Num Mac M3 Ultra, a versão Q2_K apresenta cerca de 15 tokens por segundo em geração.

O modelo também pode ser sujeito a fine-tuning, ou seja, a um ajuste complementar com dados específicos. Um exemplo é fornecido com a TRL, a biblioteca da Hugging Face, num nó de oito GPU B300, para ensinar o modelo a raciocinar na língua solicitada pelo prompt do sistema. Os exemplos da TRL incluem um lançador Slurm. A Dell oferece ainda uma receita otimizada para implementar o modelo nos seus servidores Dell AI, nomeadamente num nó NVIDIA B300.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x