W treści sponsorowanej przez HPE i NVIDIA firmy przedstawiają koncepcję «AI factory», zintegrowanej infrastruktury przeznaczonej do powtarzalnej i efektywnej transformacji danych w inteligencję. Proponują trzy modele, od rozwiązania typu „klucz w ręku » po architekturę suwerenną, i podkreślają, że wybór powinien zaczynać się od zastosowań, a nie od sprzętu.
Infrastruktura projektowana z myślą o zastosowaniach
AI factory obejmuje cały cykl życia sztucznej inteligencji: pozyskiwanie danych, rozwój modeli, ich trenowanie, dostrajanie (fine-tuning), wnioskowanie, czyli ich wykonanie, a także monitorowanie i ciągłe doskonalenie. Tekst precyzuje, że ta integracja ma służyć zarówno lekarzowi, inżynierowi czy służbom publicznym, jak i przedsiębiorstwu. Wybór przyspieszonego procesora nie wystarczy: obliczenia muszą odpowiadać modelowi biznesowemu, sieć i przepływy danych muszą zasilać akceleratory, pamięć masowa musi nadążać za wolumenem danych, a bezpieczeństwo, zarządzanie oraz współdzielenie infrastruktury przez wielu użytkowników muszą być przemyślane z wyprzedzeniem. Zasilanie i chłodzenie muszą wreszcie nadążać za gęstością systemu, zarówno dziś, jak i w przyszłości. Thierry Pienaar, HPE Fellow, wiceprezes i dyrektor techniczny (CTO) ds. sprzedaży HPC i AI, mówi: „Bez odpowiedniej architektury, zarządzania i wiedzy operacyjnej organizacje nie mogą bezpiecznie wykorzystywać swoich danych, integrować AI z kluczowymi procesami ani przekształcać innowacji w trwałą przewagę konkurencyjną ».
Trzy modele w zależności od potrzeb
Portfolio HPE AI Factory with NVIDIA łączy akceleratory, sieć i oprogramowanie AI firmy NVIDIA z infrastrukturą, oprogramowaniem i usługami HPE. Pierwsza oferta, HPE Private Cloud AI, to kompleksowe rozwiązanie typu „klucz w ręku », instalowane lokalnie, przeznaczone do dostrajania, RAG (generacji wspomaganej wyszukiwaniem, która łączy model z dokumentami) i wnioskowania, z zapotrzebowaniem sięgającym 256 GPU. Druga, HPE AI Factory at-scale, skierowana jest do twórców modeli, dostawców usług i dużych przedsiębiorstw, z zasobami od kilkuset do dziesiątek tysięcy GPU, scentralizowanym sterowaniem i działaniem wielodostępnym, gdzie wielu użytkowników współdzieli tę samą infrastrukturę. Trzecia, HPE Sovereign AI Factory, opiera się na tej architekturze, dodając bardziej zaawansowaną kontrolę operacyjną, bezpieczeństwo i lokalizację danych oraz konfiguracje „air-gapped », odizolowane od wszelkich sieci zewnętrznych.
Eksploatacja całości jako jednego systemu
W miarę rozwoju AI w organizacji, różne zespoły mają różne potrzeby dotyczące zasobów, poziomów usług i zakresów danych. Według tekstu, sztuczne wprowadzenie do produkcji, zrealizowane z oddzielnych komponentów, wymaga umiejętności, których wiele działów IT nigdy wcześniej nie potrzebowało w takiej skali. Źle zaprojektowany system może działać technicznie, ale być nieopłacalny: niewykorzystane GPU, wąskie gardła w przepływach danych, ograniczenia zasilania lub chłodzenia, czy trudne w obsłudze systemy zarządzania. „Portfolio HPE AI Factory with NVIDIA oferuje przedsiębiorstwom szereg rozwiązań AI współtworzonych z NVIDIA, wspartych wiedzą inżynierską i możliwościami technicznymi HPE, aby zaprojektować AI factory dostosowaną do ich potrzeb i zoptymalizować ją pod kątem wydajności na dużą skalę » – precyzuje Thierry Pienaar.
Suwerenność i wsparcie
Chmura, środowiska prywatne i podejścia hybrydowe mogą wszystkie odgrywać rolę w strategii AI. Dla organizacji podlegających wymogom suwerenności wybór zależy głównie od pożądanego poziomu kontroli: miejsca przechowywania danych i modeli, tożsamości administratorów, właściwej jurysdykcji, zasad zarządzania i stopnia izolacji obciążeń. Kaushik Shirhatti, wiceprezes ds. AI Factory w NVIDIA, mówi: „Narzędzia suwerennej AI HPE i NVIDIA dają przedsiębiorstwu, a nawet państwu, pełną kontrolę nad tym, jak budowane, wdrażane, eksploatowane i zarządzane są ich systemy AI ». Tekst wymienia dwa niedawne wdrożenia: TELUS Sovereign AI Factory w Kanadzie oraz suwerenną AI factory na Uniwersytecie Utah w USA. HPE AI Services wspiera klientów od planowania po eksploatację, podczas gdy HPE Financial Services oferuje m.in. przyspieszoną amortyzację. Obaj partnerzy odsyłają do strony HPE AI Factory po więcej informacji.
