Nvidia publica NVKE e NVKR em open source para Kubernetes gerido em infraestrutura GPU

Nvidia publica NVKE e NVKR em open source para Kubernetes gerido em infraestrutura GPU
4 min de leitura

A NVIDIA publicou em open source dois projetos destinados a fazer funcionar Kubernetes gerido numa infraestrutura de GPU: NVIDIA Kubernetes Engine (NVKE) e NVIDIA Kubernetes Recipes (NVKR). Anunciados recentemente como componentes da plataforma NVIDIA DSX AI Factory, estes dois softwares são distribuídos sob licença Apache 2.0 e estão em pré-visão pública.

Kubernetes é uma ferramenta que organiza aplicações contentorizadas em vários servidores. O NVKE constitui o seu plano de controlo para um serviço Kubernetes gerido. Instalado por uma «AI factory» na sua própria infraestrutura de processadores gráficos (GPU), expõe uma API REST e controladores num cluster de gestão. Os clientes recebem clusters padrão, que utilizam com a ferramenta kubectl, enquanto o operador os administra através da API NVKE ou da linha de comandos nvkectl.

O repositório do projeto descreve o NVKE como «a self-hosting factory for Kubernetes clusters», e não como uma distribuição. O software baseia-se em Kubernetes upstream, em kubeadm e em Cluster API, e está escrito em Go. Não depende em tempo de execução do NVKR.

O NVKR é, por sua vez, um sistema de compilação baseado em definições declarativas. Produz executáveis, imagens de contentores, charts Helm e imagens de nós para as arquiteturas amd64 e arm64. As suas «recipes» definem combinações validadas de versões de software e gerações de GPU. Os workflows alojados associam assinaturas, SBOM e informações de proveniência, ligadas a referências OCI fixadas por digest. O NVKR pode também gerar artefactos para outros sistemas de gestão Kubernetes. O repositório ainda não menciona nenhuma versão qualificada.

Uma implementação em cinco etapas

De acordo com o artigo técnico publicado pela NVIDIA, a instalação passa por cinco etapas. O comando nvkectl bootstrap site lança primeiro um cluster kind temporário de nó único, num host de bootstrap. O NVKE pede depois três servidores ao NICo, que os inicia a partir da imagem de nó, e o cluster temporário é removido. O NICo gere o ciclo de vida do hardware nu (bare metal), e o CAPNICo, um fornecedor Cluster API, liga o NICo ao NVKE. Os operadores publicam depois uma imagem de máquina, uma versão de cluster e uma versão de pool de nós, que os clientes selecionam pelo nome.

Cada cluster de cliente dispõe do seu próprio plano de controlo, da sua base etcd e dos seus pools de nós. O NVKE instala-lhe OVN-Kubernetes e NodeLocal DNSCache. Um nó deve apresentar uma identidade SPIFFE atestada antes de obter as suas credenciais de ligação, e o README indica que o SPIRE se baseia num TPM para essa atestação. A encriptação do etcd está disponível por cluster, e um chart Helm baseado no OpenTelemetry exporta registos, métricas e traços via OTLP. Três projetos complementares integram-se nos clusters de cliente: AI Cluster Runtime (AICR) para o ambiente GPU, NodeWright para os pacotes de nós e NVSentinel para a automatização de reparações.

Certificação e limites da pré-visão

O NVKE é apresentado como certificado Certified Kubernetes AI Platform e Certified Kubernetes Installer, com testes de conformidade em Kubernetes 1.36. Nenhum benchmark de débito nem de tempo de provisionamento é publicado. Uma vez terminada a instalação, a API NVKE responde em HTTP simples na porta 30080, com a autenticação desativada, e nenhum procedimento de atualização ou de cópia de segurança do plano de gestão está documentado.

Vários atores já integram os dois projetos. Os parceiros cloud da NVIDIA Firmus e SK Telecom integram-nos nas suas AI factories, enquanto a Mirantis, Rafay, Spectro Cloud, OpenNebula Systems e vCluster adicionam componentes às suas ofertas Kubernetes geridas. A Netris ativa o NVKE para a sua automatização de rede. Uma avaliação local requer no mínimo 6 processadores, 12 GiB de memória livre, 100 GiB de espaço em disco, Docker e suporte de um TPM virtual, sem GPU nem conta NVIDIA. Uma instalação real requer uma implementação NICo com capacidades registadas, um host de compilação com KVM, um servidor HTTP e um registo de contentores.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x