AMD szczegółowo opisuje swoje procesory serwerowe Epyc szóstej generacji, znane pod kryptonimem „Venice », które prezentuje jako dostosowane do obciążeń związanych z agentową sztuczną inteligencją. Firma twierdzi, że układy te oferują przepustowość 1,9 razy większą niż procesory Epyc 9005 „Turin » poprzedniej generacji.
- AMD prezentuje procesory Epyc szóstej generacji Venice, dostosowane do agentowej SI.
- Firma twierdzi, że mają 1,9 razy większą przepustowość niż Epyc Turin.
- Agenci zwiększają rolę procesorów CPU, więc stosunek GPU do CPU może wzrosnąć do 1 :1.
- Dane AMD, takie jak 3,3 razy więcej agentów na wat niż Vera Nvidii, nie zostały zweryfikowane niezależnie.
Ogłoszenie to następuje w czasie, gdy agentowa SI, w której system łączy kroki w celu osiągnięcia celu, ma się szybko rozwijać. Niektóre firmy analityczne przewidują wzrost na poziomie blisko 43% rocznie do 2034 roku. Jak czytamy, zmienia to również infrastrukturę centrów danych. Kolejne fale generatywnej SI przyniosły korzyści producentom GPU, w tym Nvidii, ale potrzeby agentów różnią się od potrzeb chatbotów: procesory centralne (CPU) odgrywają w nich większą rolę, koordynując zadania, stosując zasady bezpieczeństwa i wykonując kod generowany przez modele.
Stosunek GPU do CPU w centrach danych wynosi obecnie od 1:4 do 1:8. Oczekiwania przywoływane w źródle zakładają stosunek 1:1 wraz z rozwojem agentowej SI. Dan McNamara, starszy wiceprezes i dyrektor generalny ds. obliczeń i SI korporacyjnej w AMD, wyjaśnił w wpisie na blogu z maja, że „całkowicie zmienia się charakter obciążenia ». „Zamiast odpowiadać na pojedyncze zapytanie, agent dzieli cel na etapy, decyduje o kolejnych krokach, wywołuje wiele modeli, odpytywuje bazy danych, łączy się z API, uruchamia aplikacje korporacyjne, sprawdza uprawnienia, pobiera pamięć, weryfikuje wyniki, a następnie powtarza proces » – napisał.
Mike Clark, Corporate Fellow, starszy wiceprezes i główny architekt Zen w AMD, podkreślił z kolei, że firma nie przewidziała skali, jaką przybierze agentowa SI. „Zawsze wierzyliśmy, że Core Complex Die odegra kluczową rolę w SI » – powiedział, przypominając o inwestycji poczynionej wraz z Zen 5 i kontynuowanej z Zen 6.
Madhu Rangarajan, wiceprezes korporacyjny ds. produktów obliczeniowych i SI korporacyjnej, przedstawił serię jako zwieńczenie ewolucji rozpoczętej od pierwszej generacji „Naples » w 2018 roku. Jego zdaniem AMD ma obecnie „portfolio gotowe na erę agentowej SI », z ponad 1000 instancjami.
W aspekcie technicznym AMD wskazuje, że częstotliwość wzrasta z 5,0 GHz do 5,3 GHz, przepustowość pamięci zmienia się z 12 kanałów DDR5 przy 614 GB/s na 16 kanałów przy 1,6 TB/s, a przepustowość wejścia-wyjścia podwaja się wraz z przejściem z PCI-Express Gen 5 na Gen 6. Według firmy, układ o 256 rdzeniach i poborze mocy 400 watów oferuje 3,3 razy więcej agentów na wat niż układ Vera Nvidii, 1,8 razy więcej agentów na dolara niż Xeony szóstej generacji Intela i 1,5 razy więcej agentów na szafę Helion AI niż szafa Vera. Dane te pochodzą od AMD i nie zostały zweryfikowane niezależnie.
Madhu Rangarajan podkreślił również znaczenie narzędzi efemerycznych – krótkotrwałych, izolowanych środowisk wykonawczych, tworzonych podczas sesji agenta i automatycznie niszczonych. „Nie ma dla tego dobrze zdefiniowanego benchmarku » – stwierdził, dodając, że AMD wybrało kilka reprezentatywnych obciążeń, w tym parsowanie dokumentów i kompilację. Modele Verano i Venice-X są oczekiwane w przyszłym roku.
