NVIDIA heeft twee projecten als open source vrijgegeven die bedoeld zijn om beheerde Kubernetes te laten werken op een GPU-infrastructuur: NVIDIA Kubernetes Engine (NVKE) en NVIDIA Kubernetes Recipes (NVKR). Onlangs aangekondigd als onderdelen van het NVIDIA DSX AI Factory-platform, worden deze twee softwarepakketten gedistribueerd onder de Apache 2.0-licentie en zijn ze in openbare preview.
Kubernetes is een tool die gecontaineriseerde applicaties organiseert over meerdere servers. NVKE vormt hiervan het controleplane voor een beheerde Kubernetes-service. Geïnstalleerd door een ‘AI factory’ op haar eigen infrastructuur van grafische processoren (GPU’s), stelt het een REST-API en controllers bloot op een beheerscluster. Klanten ontvangen standaardclusters, die ze gebruiken met het tool kubectl, terwijl de operator ze beheert via de NVKE-API of de opdrachtregel nvkectl.
De repository van het project beschrijft NVKE als ‘a self-hosting factory for Kubernetes clusters’, en niet als een distributie. De software bouwt voort op upstream Kubernetes, op kubeadm en op Cluster API, en is geschreven in Go. Het is tijdens runtime niet afhankelijk van NVKR.
NVKR is op zijn beurt een compilatiesysteem gebaseerd op declaratieve definities. Het produceert uitvoerbare bestanden, containerimages, Helm-charts en node-images voor de amd64- en arm64-architecturen. De ‘recipes’ definiëren gevalideerde combinaties van softwareversies en GPU-generaties. Gehoste workflows koppelen hier handtekeningen, SBOM’s en herkomstinformatie aan, gekoppeld aan OCI-referenties vastgepind op digest. NVKR kan ook artefacten genereren voor andere Kubernetes-beheersystemen. De repository vermeldt nog geen gekwalificeerde versies.
Een implementatie in vijf stappen
Volgens het technische bericht gepubliceerd door NVIDIA verloopt de installatie in vijf stappen. Het commando nvkectl bootstrap site start eerst een tijdelijke single-node kind-cluster op een bootstrap-host. Vervolgens vraagt NVKE drie servers aan bij NICo, die deze opstart vanaf de node-image, waarna de tijdelijke cluster wordt verwijderd. NICo beheert de levenscyclus van de bare metal-hardware, en CAPNICo, een Cluster API-provider, verbindt NICo met NVKE. Operators publiceren vervolgens een machine-image, een clusterversie en een node pool-versie, die klanten selecteren op naam.
Elke klantcluster heeft zijn eigen controleplane, zijn eigen etcd-database en zijn eigen node pools. NVKE installeert hier OVN-Kubernetes en NodeLocal DNSCache. Een node moet een geverifieerde SPIFFE-identiteit tonen voordat hij zijn verbindingsgegevens krijgt, en de README geeft aan dat SPIRE voor deze verificatie vertrouwt op een TPM. Versleuteling van etcd is beschikbaar per cluster, en een Helm-chart gebaseerd op OpenTelemetry exporteert logs, metrische gegevens en traces via OTLP. Drie aanvullende projecten integreren in de klantclusters: AI Cluster Runtime (AICR) voor de GPU-omgeving, NodeWright voor node-pakketten en NVSentinel voor het automatiseren van reparaties.
Certificering en beperkingen van de preview
NVKE wordt gepresenteerd als gecertificeerd Certified Kubernetes AI Platform en Certified Kubernetes Installer, met conformiteitstesten op Kubernetes 1.36. Er zijn geen benchmarks voor doorvoer of inrichtingstijd gepubliceerd. Zodra de installatie voltooid is, reageert de NVKE-API in gewoon HTTP op poort 30080, met authenticatie uitgeschakeld, en er is geen procedure gedocumenteerd voor het bijwerken of back-uppen van het beheersplane.
Verschillende partijen integreren de twee projecten al. De cloudpartners van NVIDIA, Firmus en SK Telecom, integreren ze in hun AI factories, terwijl Mirantis, Rafay, Spectro Cloud, OpenNebula Systems en vCluster componenten toevoegen aan hun aanbod van beheerde Kubernetes. Netris activeert NVKE voor zijn netwerkautomatisering. Een lokale evaluatie vereist minimaal 6 processorkernen, 12 GiB vrij geheugen, 100 GiB schijfruimte, Docker en ondersteuning voor een virtuele TPM, zonder GPU of NVIDIA-account. Een echte installatie vereist een NICo-implementatie met geregistreerde capaciteiten, een build-host met KVM, een HTTP-server en een containerregistry.
