WebAI lancia TwIL-8B, un modello di ragionamento da 8,8 miliardi di parametri che raggiunge 98,2 su MATH-500

WebAI lancia TwIL-8B, un modello di ragionamento da 8,8 miliardi di parametri che raggiunge 98,2 su MATH-500
3 min di lettura

La società webAI ha pubblicato TwIL-8B, un modello di ragionamento da 8,79 miliardi di parametri destinato alla matematica, al codice e al rispetto delle istruzioni. Derivato da Granite 4.2 8B, il modello di IBM, è disponibile su Hugging Face con una licenza non commerciale. Secondo webAI, l’argomento principale del lancio riguarda il costo per task piuttosto che la dimensione grezza del modello.

  • webAI pubblica TwIL-8B, un modello di ragionamento da 8,79 miliardi di parametri derivato da Granite 4.2 8B di IBM.
  • Il modello raggiunge 98,2 su MATH-500, ma resta indietro su GPQA Diamond con 70,2 contro 81,7 di Qwen3.5-9B.
  • Usa meno token di Qwen3.5-9B, ma ottiene un punteggio inferiore su AIME 2026.
  • Il modello è disponibile su Hugging Face con licenza non commerciale e richiede un budget di generazione ampio.

TwIL-8B è un modello cosiddetto ‘denso’, in cui tutti i parametri vengono utilizzati in ogni calcolo, e che elabora solo testo in inglese, sia in input che in output. Contiene 40 layer, una dimensione nascosta di 4096 e 32 teste di attenzione, di cui 8 teste KV. Prima di ogni risposta, redige un blocco di ragionamento segnalato dal tag . La sua finestra di contesto raggiunge 131.072 token, una capacità ereditata dal modello base.

Il modello esiste in due varianti con architettura e tokenizer identici. La variante Balanced, quella predefinita, produce ragionamenti più brevi. La variante Verbose ragiona più a lungo ed è mirata ai problemi difficili di tipo concorso.

Secondo webAI, l’addestramento si è svolto in tre fasi: un fine-tuning completo su tracce di ragionamento in matematica, STEM e rispetto delle istruzioni, poi due fasi di apprendimento per rinforzo, GRPO/DAPO da un lato, che dà la variante Verbose, e un apprendimento per rinforzo che tiene conto della lunghezza dall’altro, che dà la variante Balanced. I dataset di addestramento sono stati decontaminati mediante ricerca di corrispondenze su sequenze di 13 parole rispetto a AIME, HMMT, MATH-500, GPQA e altre valutazioni.

Risultati contrastanti a seconda dei domini

Sempre secondo webAI, che precisa che tutti i suoi punteggi sono auto-dichiarati, TwIL-8B ottiene 98,2 su MATH-500, il punteggio più alto nel confronto pubblicato dall’azienda. Su LiveCodeBench, la variante Verbose raggiunge 81,6, contro 65,6 di Qwen3.5-9B e 80,0 di Gemma 4 31B. webAI indica che la versione di LiveCodeBench utilizzata per il proprio punteggio non è stata specificata, mentre i punteggi dei concorrenti corrispondono alla versione 6.

Nel rispetto delle istruzioni, IFBench raggiunge 74,4 per la variante Verbose, contro 64,5 di Qwen3.5-9B. Su IFEval, i due modelli sono alla pari, con 91,8 per TwIL-8B e 91,5 per Qwen3.5-9B. Il punto debole riguarda le conoscenze: su GPQA Diamond, TwIL-8B ottiene 70,2, cioè 11,5 punti in meno di Qwen3.5-9B a 81,7, mentre Gemma 4 31B registra 84,3. Su MMLU-Pro, la variante Verbose raggiunge 76,5, contro 82,5 di Qwen3.5-9B. Sui 13 benchmark comuni con Qwen3.5-9B, TwIL-8B ottiene 7 vittorie e subisce 6 sconfitte. Confrontato con Gemma 4 31B, la cui dimensione è circa 3,5 volte superiore, il bilancio è di 3 vittorie contro 11 sconfitte.

Su AIME 2026, TwIL-8B ottiene 88,3, contro 92,5 di Qwen3.5-9B e 89,2 di Gemma 4 31B. Il modello utilizza in media circa 19,5k token in output per problema, contro 31,2k di Qwen3.5-9B, cioè il 38% in meno, per un punteggio inferiore di 4,2 punti. Su HMMT Feb 2026, il divario è di 32,9k contro 40,6k token, cioè il 19% in meno. webAI cita inoltre circa 5k token per problema AIME 2026 per GPT-5.5, precisando che gli ambienti di test e i tokenizer differiscono, e che queste cifre vanno lette solo a titolo indicativo.

Formato locale e utilizzo

La versione 4 bit più leggera, in formato GGUF Q4_K_M, pesa 4,98 GiB ed è destinata all’esecuzione su CPU o su scheda grafica con memoria modesta. La versione bf16 completa occupa 16,38 GiB. Secondo la scheda del modello, l’esecuzione con llama.cpp è possibile in diversi formati, tra cui Q8_0 a 8,70 GiB e F16 a 16,38 GiB per la sola variante Verbose. webAI raccomanda un budget di generazione ampio, l’esempio nella scheda utilizza max_new_tokens=32768, e avverte che un budget ridotto tronca il ragionamento e degrada nettamente i punteggi. I risultati pubblicati sono stati ottenuti in bf16, per cui si prevedono leggere diminuzioni in Q4_K_M. Nessun fornitore di inferenza ospitata offre ancora il modello su Hugging Face.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x