AMD ottimizza le sue CPU per l’IA agentica con i processori Epyc Venice

AMD ottimizza le sue CPU per l’IA agentica con i processori Epyc Venice
3 min di lettura

AMD dettaglia i suoi processori server Epyc di sesta generazione, conosciuti con il nome in codice «Venice», che presenta come adatti ai carichi di lavoro dell’IA agentica. Secondo l’azienda, questi chip offrono una velocità di elaborazione 1,9 volte superiore rispetto ai processori Epyc 9005 «Turin» della generazione precedente.

Questa notizia arriva mentre l’IA agentica, in cui un sistema esegue una serie di passaggi per raggiungere un obiettivo, è destinata a crescere rapidamente. Alcuni analisti prevedono una crescita di quasi il 43% annuo fino al 2034. Secondo il testo, questa evoluzione modifica anche l’infrastruttura dei data center. Le ondate successive dell’IA generativa hanno favorito i produttori di GPU, come Nvidia, ma le esigenze degli agenti differiscono da quelle dei chatbot: le unità centrali di elaborazione (CPU) svolgono un ruolo più importante, per orchestrare i compiti, applicare le regole di sicurezza ed eseguire il codice generato dai modelli.

Il rapporto tra GPU e CPU nei data center si attualmente tra 1:4 e 1:8. Le aspettative menzionate nella fonte puntano a un rapporto di 1:1 con l’ascesa dell’IA agentica. Dan McNamara, vicepresidente senior e direttore generale del calcolo e dell’IA aziendale presso AMD, ha spiegato in un post sul blog pubblicato a maggio che «la forma del carico di lavoro cambia completamente». «Invece di rispondere a una singola richiesta, un agente suddivide un obiettivo in passaggi, decide il prossimo passo, chiama più modelli, interroga database, si connette a API, esegue applicazioni aziendali, verifica le autorizzazioni, recupera memoria, convalida i risultati, quindi ripete il processo», ha scritto.

Mike Clark, Corporate Fellow, vicepresidente senior e capo architetto di Zen presso AMD, ha sottolineato che l’azienda non aveva anticipato l’ampiezza assunta dall’IA agentica. «Abbiamo sempre creduto che il Core Complex Die avrebbe svolto un ruolo critico nell’IA», ha dichiarato, ricordando l’investimento fatto con Zen 5 e poi proseguito con Zen 6.

Madhu Rangarajan, vicepresidente aziendale responsabile dei prodotti di calcolo e IA aziendale, ha presentato la gamma come il culmine di un’evoluzione iniziata con la prima generazione «Naples», nel 2018. Secondo lui, AMD dispone ora «di un portafoglio pronto per l’era dell’IA agentica», con oltre 1000 istanze.

Sul piano tecnico, AMD indica che la frequenza passa da 5,0 GHz a 5,3 GHz, che la larghezza di banda della memoria evolve da 12 canali DDR5 a 614 GB/s verso 16 canali a 1,6 TB/s, e che la larghezza di banda delle operazioni di input/output raddoppia, con il passaggio dal PCI-Express Gen 5 al Gen 6. Secondo l’azienda, il chip da 256 core che consuma 400 watt offre 3,3 volte più agenti per watt rispetto al Vera di Nvidia, 1,8 volte più agenti per dollaro rispetto agli Xeon di sesta generazione di Intel, e 1,5 volte più agenti per rack Helion AI rispetto a un rack Vera. Questi dati provengono da AMD e non sono stati verificati in modo indipendente.

Madhu Rangarajan ha anche insistito sugli strumenti effimeri, ambienti di esecuzione brevi e isolati, creati durante una sessione di agente e poi distrutti automaticamente. «Non esiste un benchmark ben definito per questo», ha affermato, aggiungendo che AMD ha selezionato alcuni carichi di lavoro rappresentativi, tra cui l’analisi di documenti e la compilazione. I modelli Verano e Venice-X sono attesi per il prossimo anno.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x