In un contenuto sponsorizzato da HPE e NVIDIA, le due aziende presentano il concetto di «AI factory», un’infrastruttura integrata destinata a trasformare i dati in intelligenza in modo ripetuto ed efficiente. Propongono tre formule, dalla soluzione chiavi in mano all’architettura sovrana, e insistono sul fatto che la scelta deve partire dagli utilizzi piuttosto che dall’hardware.
Un’infrastruttura pensata a partire dagli utilizzi
Una AI factory raggruppa l’intero ciclo di vita dell’IA: l’ingestione dei dati, lo sviluppo dei modelli, il loro addestramento, il loro adattamento (il fine-tuning), l’inferenza, cioè la loro esecuzione, nonché il monitoraggio e il miglioramento continuo. Il testo precisa che questa integrazione deve servire tanto un medico, un ingegnere o un servizio pubblico quanto un’azienda. Scegliere un processore accelerato non basta: il calcolo deve corrispondere al modello economico, la rete e i flussi di dati devono alimentare gli acceleratori, lo storage deve seguire il volume dei dati, e la sicurezza, la governance così come la condivisione dell’infrastruttura tra più utenti devono essere pensate in anticipo. L’alimentazione elettrica e il raffreddamento devono infine seguire la densità del sistema, oggi come domani. Thierry Pienaar, HPE Fellow, vicepresidente e direttore tecnico (CTO) per le vendite HPC e IA, dichiara: «Senza un’architettura, una governance e un’esperienza operativa appropriate, le organizzazioni non possono sfruttare in sicurezza i propri dati, integrare l’IA nei processi centrali o trasformare l’innovazione in un vantaggio competitivo duraturo.»
Tre formule in base alle esigenze
Il portafoglio HPE AI Factory with NVIDIA combina gli acceleratori, la rete e i software di IA di NVIDIA con l’infrastruttura, i software e i servizi di HPE. La prima offerta, HPE Private Cloud AI, è una soluzione chiavi in mano, installata in loco, destinata al fine-tuning, al RAG (generazione aumentata dalla ricerca, che collega un modello a dei documenti) e all’inferenza, con un bisogno che può raggiungere 256 GPU. La seconda, HPE AI Factory at-scale, si rivolge ai creatori di modelli, ai fornitori di servizi e alle grandi aziende, con risorse che vanno da poche centinaia a decine di migliaia di GPU, un controllo centralizzato e un funzionamento multi-tenant, dove più utenti condividono la stessa infrastruttura. La terza, HPE Sovereign AI Factory, riprende questa architettura aggiungendo un controllo operativo più approfondito, la sicurezza e la residenza dei dati, nonché configurazioni «air-gapped», isolate da qualsiasi rete esterna.
Sfruttare l’insieme come un unico sistema
Man mano che l’IA si sviluppa in un’organizzazione, i team hanno esigenze diverse in termini di risorse, livelli di servizio e perimetri dei dati. Secondo il testo, una messa in produzione artificiale, realizzata a partire da componenti separati, richiede competenze che molti dipartimenti IT non hanno mai avuto a questa scala. Un sistema mal progettato può funzionare tecnicamente pur essendo poco redditizio: GPU sottoutilizzate, colli di bottiglia nei flussi di dati, vincoli di alimentazione o raffreddamento, o ancora sistemi di gestione difficili da sfruttare. «Il portafoglio HPE AI Factory with NVIDIA offre alle aziende una gamma di soluzioni di IA co-sviluppate con NVIDIA, sostenute dall’esperienza ingegneristica e dalle capacità tecniche di HPE, per progettare una AI factory adatta alle loro esigenze e ottimizzarla per le prestazioni su larga scala», precisa Thierry Pienaar.
Sovranità e accompagnamento
Il cloud, gli ambienti privati e gli approcci ibridi possono tutti giocare un ruolo in una strategia di IA. Per le organizzazioni soggette a requisiti di sovranità, la scelta dipende soprattutto dal livello di controllo ricercato: luogo di archiviazione dei dati e dei modelli, identità degli amministratori, giurisdizione applicabile, regole di governance e grado di isolamento dei carichi di lavoro. Kaushik Shirhatti, vicepresidente, AI Factory presso NVIDIA, dichiara: «Gli strumenti di IA sovrana di HPE e NVIDIA danno a un’azienda, o addirittura a uno Stato, un controllo completo su come i suoi sistemi di IA sono costruiti, distribuiti, sfruttati e governati.» Il testo cita due implementazioni recenti: la TELUS Sovereign AI Factory, in Canada, e una sovereign AI factory all’Università dello Utah, negli Stati Uniti. HPE AI Services accompagna i clienti dalla pianificazione all’operatività, mentre HPE Financial Services propone tra l’altro ammortamenti accelerati. I due partner rimandano alla pagina HPE AI Factory per saperne di più.
