In een door HPE en NVIDIA gesponsorde content presenteren de twee bedrijven het concept van de «AI factory», een geïntegreerde infrastructuur ontworpen om data herhaaldelijk en efficiënt om te zetten in intelligentie. Ze bieden drie formules aan, van de kant-en-klare oplossing tot de soevereine architectuur, en benadrukken dat de keuze moet uitgaan van de gebruiksscenario’s in plaats van de hardware.
- HPE en NVIDIA presenteren de «AI factory», een geïntegreerde infrastructuur die data efficiënt omzet in intelligentie.
- De keuze voor een oplossing hangt af van de gebruiksscenario’s, niet van de hardware.
- HPE biedt drie formules aan : Private Cloud AI, AI Factory at-scale en Sovereign AI Factory.
- Soevereiniteitseisen bepalen het gewenste controleniveau, en HPE AI Services begeleidt klanten van planning tot exploitatie.
Een infrastructuur ontworpen vanuit de gebruiksscenario’s
Een AI factory omvat de volledige levenscyclus van AI: de inname van data, de ontwikkeling van modellen, hun training, hun aanpassing (het fine-tuning), de inferentie, dat wil zeggen hun uitvoering, evenals de monitoring en continue verbetering. De tekst preciseert dat deze integratie evenzeer een arts, een ingenieur of een overheidsdienst als een bedrijf moet dienen. Een versnelde processor kiezen is niet genoeg: de rekenkracht moet passen bij het bedrijfsmodel, het netwerk en de datastromen moeten de versnellers voeden, de opslag moet het datavolume aankunnen, en de veiligheid, governance en het delen van de infrastructuur tussen meerdere gebruikers moeten vooraf worden bedacht. De stroomvoorziening en koeling moeten ten slotte de dichtheid van het systeem bijhouden, vandaag en in de toekomst. Thierry Pienaar, HPE Fellow, vicepresident en technisch directeur (CTO) voor HPC- en AI-verkoop, verklaart: «Zonder de juiste architectuur, governance en operationele expertise kunnen organisaties hun data niet veilig benutten, AI integreren in kernprocessen of innovatie omzetten in een duurzaam concurrentievoordeel.»
Drie formules afhankelijk van de behoeften
Het portfolio HPE AI Factory with NVIDIA combineert de versnellers, het netwerk en de AI-software van NVIDIA met de infrastructuur, software en diensten van HPE. Het eerste aanbod, HPE Private Cloud AI, is een kant-en-klare oplossing, on-premises geïnstalleerd, bedoeld voor fine-tuning, RAG (retrieval-augmented generation, die een model koppelt aan documenten) en inferentie, met een behoefte die kan oplopen tot 256 GPU’s. Het tweede, HPE AI Factory at-scale, richt zich op modelbouwers, dienstverleners en grote ondernemingen, met bronnen variërend van enkele honderden tot tienduizenden GPU’s, centrale controle en een multi-tenant werking, waarbij meerdere gebruikers dezelfde infrastructuur delen. Het derde, HPE Sovereign AI Factory, neemt deze architectuur over en voegt een verdergaande operationele controle, veiligheid en dataresidency toe, evenals «air-gapped» configuraties, geïsoleerd van elk extern netwerk.
Het geheel benutten als één systeem
Naarmate AI zich ontwikkelt binnen een organisatie, hebben teams verschillende behoeften aan bronnen, serviceniveaus en datascopes. Volgens de tekst vraagt een kunstmatige productie-implementatie, opgebouwd uit losse componenten, om vaardigheden die veel IT-afdelingen nooit op deze schaal hebben gehad. Een slecht ontworpen systeem kan technisch werken maar toch onrendabel zijn: onderbenutte GPU’s, knelpunten in de datastromen, beperkingen in stroomvoorziening of koeling, of moeilijk te exploiteren beheersystemen. «Het portfolio HPE AI Factory with NVIDIA biedt ondernemingen een reeks AI-oplossingen die samen met NVIDIA zijn ontwikkeld, gesteund op de engineeringexpertise en technische capaciteiten van HPE, om een AI factory te ontwerpen die past bij hun behoeften en deze te optimaliseren voor prestaties op grote schaal», preciseert Thierry Pienaar.
Soevereiniteit en begeleiding
De cloud, private omgevingen en hybride benaderingen kunnen allemaal een rol spelen in een AI-strategie. Voor organisaties die onderworpen zijn aan soevereiniteitseisen, hangt de keuze vooral af van het gewenste controleniveau: opslaglocatie van data en modellen, identiteit van beheerders, toepasselijke jurisdictie, governance-regels en mate van isolatie van workloads. Kaushik Shirhatti, vicepresident, AI Factory bij NVIDIA, verklaart: «De soevereine AI-tools van HPE en NVIDIA geven een bedrijf, of zelfs een staat, volledige controle over hoe zijn AI-systemen worden gebouwd, geïmplementeerd, geëxploiteerd en bestuurd.» De tekst noemt twee recente implementaties: de TELUS Sovereign AI Factory, in Canada, en een soevereine AI factory aan de universiteit van Utah, in de Verenigde Staten. HPE AI Services begeleidt klanten van planning tot exploitatie, terwijl HPE Financial Services onder andere versnelde afschrijvingen aanbiedt. De twee partners verwijzen naar de pagina HPE AI Factory voor meer informatie.
