Het trainen van de grootste intelligence artificielle modellen komt niet meer alleen neer op het toevoegen van GPU’s (grafische processoren, de kern van de modelberekeningen). Volgens dit interview, gepubliceerd als gesponsorde content, wordt de beschikbaarheid van energie een sterke contrainte physique, die infrastructuurteams ertoe brengt om de uitvoering van eenzelfde trainingsworkload over meerdere datacenters te overwegen.
Dit scenario stelt een heel ander netwerkprobleem dan dat van traditionele verbindingen tussen locaties, die zijn ontworpen voor het routeren van verkeer. AI-training vereist volumineuze en synchrone stromen, minimaal pakketverlies en nauw gecoördineerde communicatie tussen GPU’s. Als een deel van het cluster vertraagt, kan het effect zich door de hele taak verspreiden.
Een netwerk dat onderdeel wordt van de berekening
In dit interview, afgenomen door Tim Phillips van The Register, met Rakesh Chopra, SVP, Silicon and Systems Architecture, Cisco Fellow, gaat het over wat Cisco het « Scale-Across » imperatief noemt. Rakesh Chopra legt uit dat de behoeften van AI de rol van het netwerk doen evolueren, van een simpel transportmiddel naar een element dat is geïntegreerd in het berekeningssysteem. De uitdaging bestaat erin geografisch gescheiden faciliteiten als één deterministische machine te laten functioneren.
Mise en mémoire tampon (buffering), optique cohérente à haut débit en nauw geïntegreerde siliciumtechnologie krijgen bijzonder belang wanneer workloads zich uitstrekken over langeafstandsfiberverbindingen. Cisco’s Silicon One architectuur en Intelligent Collective Networking worden gepresenteerd als ontworpen om de gesynchroniseerde bursts van GPU-verkeer te beheren, knelpunten te verminderen en de taakvoltooiingstijd te verbeteren. Het stroomverbruik van het netwerk, en de afweging daarvan met de energie beschikbaar voor GPU’s, staat ook centraal.
Veiligheid en schaalbaarheid
Het interview behandelt ook veiligheid, met de door hardware versnelde MACsec en IPsec protocollen. Dit zijn protocollen voor het versleutelen van gegevensuitwisselingen over het netwerk. De rol van programmeerbaarheid, die infrastructuur in staat stelt zich aan te passen aan de evolutie van AI-workloads, wordt eveneens besproken.
Bestemd voor infrastructuur- en datacenterverantwoordelijken die grotere en meer gedistribueerde AI-omgevingen plannen, biedt de uitwisseling een overzicht van de netwerkuitdagingen die opduiken wanneer één locatie niet meer volstaat. Het volledige interview is beschikbaar op video.
