AMD geeft details over zijn zesde generatie Epyc-serverprocessors, bekend onder de codenaam ‘Venice’, die het presenteert als geschikt voor de werklasten van agentische AI. Volgens het bedrijf bieden deze chips een 1,9 keer hogere doorvoer dan de processoren van de vorige generatie, de Epyc 9005 ‘Turin’.
Deze aankondiging komt op een moment dat agentische AI, waarbij een systeem stappen aan elkaar koppelt om een doel te bereiken, naar verwachting snel zal groeien. Sommige analysebureaus voorspellen een groei van bijna 43% per jaar tot 2034. Volgens de tekst verandert deze ontwikkeling ook de infrastructuur van datacenters. De opeenvolgende golven van generatieve AI hebben GPU-fabrikanten, waaronder Nvidia, ten goede gekomen, maar de behoeften van agents verschillen van die van chatbots: centrale verwerkingseenheden (CPU’s) spelen hier een grotere rol, voor het orkestreren van taken, het toepassen van veiligheidsregels en het uitvoeren van de door modellen gegenereerde code.
De verhouding tussen GPU en CPU in datacenters ligt momenteel tussen 1:4 en 1:8. De verwachtingen die in de bron worden genoemd, gaan uit van een verhouding van 1:1 met de opkomst van agentische AI. Dan McNamara, senior vice-president en algemeen directeur van bedrijfsrekenen en AI bij AMD, legde in een blogpost van mei uit dat ‘de aard van de werklast volledig verandert’. ‘In plaats van op één enkele vraag te reageren, breekt een agent een doel op in stappen, beslist over het vervolg, roept meerdere modellen aan, raadpleegt databases, maakt verbinding met API’s, voert bedrijfstoepassingen uit, controleert machtigingen, haalt geheugen op, valideert resultaten en herhaalt vervolgens het proces’, schreef hij.
Mike Clark, Corporate Fellow, senior vice-president en hoofdarchitect van Zen bij AMD, benadrukte op zijn beurt dat het bedrijf de omvang van agentische AI niet had voorzien. ‘We hebben altijd geloofd dat de Core Complex Die een cruciale rol zou spelen in AI’, zei hij, verwijzend naar de investering die met Zen 5 is gedaan en vervolgens is voortgezet met Zen 6.
Madhu Rangarajan, corporate vice-president voor bedrijfsrekenen en AI-producten, presenteerde de reeks als het hoogtepunt van een evolutie die sinds de eerste generatie ‘Naples’ in 2018 is ingezet. Volgens hem heeft AMD nu ‘een portefeuille die klaar is voor het tijdperk van agentische AI’, met meer dan 1000 instanties.
Technisch gezien geeft AMD aan dat de frequentie stijgt van 5,0 GHz naar 5,3 GHz, dat de geheugenbandbreedte evolueert van 12 DDR5-kanalen bij 614 GB/s naar 16 kanalen bij 1,6 TB/s, en dat de I/O-bandbreedte verdubbelt met de overgang van PCI-Express Gen 5 naar Gen 6. Volgens het bedrijf biedt de chip met 256 kernen en een verbruik van 400 watt 3,3 keer meer agents per watt dan de Vera van Nvidia, 1,8 keer meer agents per dollar dan de zesde generatie Xeon van Intel, en 1,5 keer meer agents per Helion AI-rack dan een Vera-rack. Deze cijfers zijn afkomstig van AMD en zijn niet onafhankelijk geverifieerd.
Madhu Rangarajan benadrukte ook de kortstondige tools, korte en geïsoleerde uitvoeringsomgevingen die tijdens een agentsessie worden gecreëerd en daarna automatisch worden vernietigd. ‘Er bestaat geen goed gedefinieerde benchmark hiervoor’, zei hij, eraan toevoegend dat AMD enkele representatieve werklasten heeft geselecteerd, waaronder het parseren van documenten en compilatie. De Verano- en Venice-X-modellen worden volgend jaar verwacht.
