Addestrare i modelli di intelligenza artificiale più grandi non si riduce più solo ad aggiungere GPU (unità di elaborazione grafica, al centro del calcolo dei modelli). Secondo questa intervista, pubblicata come contenuto sponsorizzato, la disponibilità di energia diventa un forte vincolo fisico, che spinge i team infrastrutturali a considerare l’esecuzione di un singolo carico di addestramento su più data center.
- L’energia disponibile limita l’addestramento dei modelli di IA più grandi su un solo data center.
- Il carico di addestramento viene quindi distribuito su più data center geograficamente separati.
- La rete diventa parte del calcolo, perché un rallentamento anche parziale blocca l’intera attività.
- Cisco propone l’approccio «Scale-Across», basato su Silicon One, ottica coerente e cifratura hardware.
Questo scenario pone un problema di rete molto diverso da quello dei collegamenti tradizionali tra siti, progettati per trasportare traffico. L’addestramento dell’IA richiede flussi voluminosi e sincroni, una perdita di pacchetti minima e una comunicazione strettamente coordinata tra GPU. Se una parte del cluster rallenta, l’effetto può propagarsi all’intera attività.
Una rete che diventa parte del calcolo
In questa intervista condotta da Tim Phillips di The Register, con Rakesh Chopra, SVP, Silicon and Systems Architecture, Cisco Fellow, si parla di ciò che Cisco chiama l’imperativo «Scale-Across». Rakesh Chopra spiega che le esigenze dell’IA stanno evolvendo il ruolo della rete, che passa da un semplice mezzo di trasporto a un elemento integrato nel sistema di calcolo. La sfida consiste nel far funzionare strutture geograficamente separate come un’unica macchina deterministica.
Il buffering (memorizzazione temporanea), l’ottica coerente ad alta velocità e il silicio strettamente integrato assumono particolare importanza quando i carichi di lavoro si estendono su collegamenti in fibra a lunga distanza. L’architettura Silicon One di Cisco e Intelligent Collective Networking sono presentate come progettate per gestire i burst sincronizzati di traffico GPU, ridurre i colli di bottiglia e migliorare il tempo di completamento delle attività. Il consumo energetico della rete e il suo bilanciamento con l’energia disponibile per le GPU figurano anch’essi tra i temi centrali.
Sicurezza e scalabilità
L’intervista affronta anche la sicurezza, con i protocolli MACsec e IPsec accelerati dall’hardware. Sono protocolli di cifratura per lo scambio di dati sulla rete. Viene inoltre menzionato il ruolo della programmabilità, che consente alle infrastrutture di adattarsi all’evoluzione dei carichi di lavoro dell’IA.
Destinato ai responsabili delle infrastrutture e dei data center che pianificano ambienti di IA più grandi e distribuiti, lo scambio offre una panoramica delle sfide di rete che emergono quando un singolo sito non basta più. L’intera intervista è disponibile in video.
