Num conteúdo patrocinado pela HPE e NVIDIA, as duas empresas apresentam o conceito de «AI factory», uma infraestrutura integrada destinada a transformar dados em inteligência de forma repetida e eficiente. Propõem três fórmulas, desde a solução chave na mão até à arquitetura soberana, e insistem que a escolha deve partir dos usos e não do hardware.
Uma infraestrutura pensada a partir dos usos
Uma AI factory reúne todo o ciclo de vida da IA: a ingestão de dados, o desenvolvimento dos modelos, o seu treino, a sua adaptação (o fine-tuning), a inferência, ou seja, a sua execução, bem como o acompanhamento e a melhoria contínua. O texto especifica que esta integração deve servir tanto um médico, um engenheiro ou um serviço público como uma empresa. Escolher um processador acelerado não basta: o cálculo deve corresponder ao modelo económico, a rede e os fluxos de dados devem alimentar os aceleradores, o armazenamento deve acompanhar o volume dos dados, e a segurança, a governação e a partilha da infraestrutura entre vários utilizadores devem ser pensadas a montante. A alimentação elétrica e o arrefecimento devem, por fim, acompanhar a densidade do sistema, hoje e amanhã. Thierry Pienaar, HPE Fellow, vice-presidente e diretor técnico (CTO) para as vendas de HPC e IA, declara: «Sem a arquitetura, governação e experiência operacional adequadas, as organizações não podem explorar em segurança os seus dados, integrar a IA nos processos centrais ou transformar a inovação numa vantagem competitiva sustentável.»
Três fórmulas consoante as necessidades
O portefólio HPE AI Factory with NVIDIA combina os aceleradores, a rede e os softwares de IA da NVIDIA com a infraestrutura, os softwares e os serviços da HPE. A primeira oferta, HPE Private Cloud AI, é uma solução chave na mão, instalada no local, destinada ao fine-tuning, ao RAG (geração aumentada por pesquisa, que liga um modelo a documentos) e à inferência, com uma necessidade que pode atingir 256 GPUs. A segunda, HPE AI Factory at-scale, dirige-se aos criadores de modelos, aos fornecedores de serviços e às grandes empresas, com recursos que vão de algumas centenas a dezenas de milhares de GPU, um controlo centralizado e um funcionamento multi-inquilino, onde vários utilizadores partilham uma mesma infraestrutura. A terceira, HPE Sovereign AI Factory, retoma esta arquitetura ao adicionar um controlo operacional mais aprofundado, a segurança e a residência dos dados, bem como configurações «air-gapped», isoladas de qualquer rede exterior.
Explorar o conjunto como um único sistema
À medida que a IA se desenvolve numa organização, as equipas têm necessidades diferentes em recursos, níveis de serviço e perímetros de dados. Segundo o texto, uma implementação em produção artificial, realizada a partir de componentes separados, exige competências que muitos departamentos de informática nunca tiveram a esta escala. Um sistema mal concebido pode funcionar tecnicamente mas ser pouco rentável: GPUs subutilizadas, estrangulamentos nos fluxos de dados, restrições de alimentação ou de arrefecimento, ou ainda sistemas de gestão difíceis de explorar. «O portefólio HPE AI Factory with NVIDIA oferece às empresas uma gama de soluções de IA codesenvolvidas com a NVIDIA, apoiadas na experiência de engenharia e nas capacidades técnicas da HPE, para conceber uma AI factory adaptada às suas necessidades e otimizá-la para o desempenho em grande escala», especifica Thierry Pienaar.
Soberania e acompanhamento
A cloud, os ambientes privados e as abordagens híbridas podem todos desempenhar um papel numa estratégia de IA. Para as organizações sujeitas a exigências de soberania, a escolha depende sobretudo do nível de controlo pretendido: local de armazenamento dos dados e dos modelos, identidade dos administradores, jurisdição aplicável, regras de governação e grau de isolamento das cargas de trabalho. Kaushik Shirhatti, vice-presidente, AI Factory na NVIDIA, declara: «As ferramentas de IA soberana da HPE e NVIDIA dão a uma empresa, ou mesmo a um Estado, um controlo completo sobre a forma como os seus sistemas de IA são construídos, implementados, explorados e governados.» O texto cita duas implementações recentes: a TELUS Sovereign AI Factory, no Canadá, e uma sovereign AI factory na Universidade do Utah, nos Estados Unidos. Os HPE AI Services acompanham os clientes do planeamento à exploração, enquanto os HPE Financial Services propõem, nomeadamente, amortizações aceleradas. Os dois parceiros remetem para a página HPE AI Factory para saber mais.
