NVIDIAは、GPUインフラ上で管理Kubernetesを動作させることを目的とした2つのプロジェクトをオープンソースとして公開しました:NVIDIA Kubernetes Engine (NVKE)とNVIDIA Kubernetes Recipes (NVKR)です。NVIDIA DSX AI Factoryプラットフォームのコンポーネントとして最近発表されたこれら2つのソフトウェアは、Apache 2.0ライセンスの下で配布され、パブリックプレビュー段階にあります。
Kubernetesは、コンテナ化されたアプリケーションを複数のサーバー上で編成するツールです。NVKEは、管理Kubernetesサービスのためのコントロールプレーンを構成します。独自のGPUインフラ上に「AIファクトリー」によってインストールされ、管理クラスター上でREST APIとコントローラーを公開します。クライアントは標準的なクラスターを受け取り、kubectlツールを使用して利用します。一方、オペレーターはNVKE APIまたはnvkectlコマンドラインを通じてそれらを管理します。
プロジェクトのリポジトリは、NVKEをディストリビューションではなく「Kubernetesクラスターのためのセルフホスティングファクトリー」と説明しています。このソフトウェアは、アップストリームのKubernetes、kubeadm、およびCluster APIに依存し、Go言語で書かれています。実行時にはNVKRに依存しません。
一方、NVKRは宣言的な定義に基づくビルドシステムです。amd64およびarm64アーキテクチャ向けに、実行ファイル、コンテナイメージ、Helmチャート、ノードイメージを生成します。その「レシピ」は、検証済みのソフトウェアバージョンとGPU世代の組み合わせを定義します。ホストされたワークフローは、ダイジェストでピン留めされたOCI参照に紐付けられた、署名、SBOM(ソフトウェア部品表)、およびプロベナンス情報を関連付けます。NVKRは、他のKubernetes管理システム向けのアーティファクトも生成できます。リポジトリには、まだ認定されたバージョンは記載されていません。
5段階のデプロイメント
NVIDIAが公開した技術ブログ記事によると、インストールは5つのステップを経て行われます。まず、nvkectl bootstrap siteコマンドが、ブートストラップホスト上に単一ノードの一時的なkindクラスターを起動します。次に、NVKEがNICoに3つのサーバーを要求し、NICoがノードイメージからそれらを起動します。その後、一時クラスターは削除されます。NICoはベアメタルハードウェアのライフサイクルを管理し、CAPNICoというCluster APIプロバイダーがNICoをNVKEに接続します。オペレーターはその後、マシンイメージ、クラスターバージョン、ノードプールバージョンを公開し、クライアントはそれらを名前で選択します。
各クライアントクラスターは、独自のコントロールプレーン、etcdデータベース、およびノードプールを持ちます。NVKEはそこにOVN-KubernetesとNodeLocal DNSCacheをインストールします。ノードは、接続認証情報を取得する前に、証明されたSPIFFE IDを提示する必要があり、READMEによると、SPIREはこの証明のためにTPMを利用します。etcdの暗号化はクラスターごとに利用可能で、OpenTelemetryベースのHelmチャートが、OTLP経由でログ、メトリクス、トレースをエクスポートします。3つの補完的なプロジェクトがクライアントクラスターに統合されます:GPU環境のためのAI Cluster Runtime (AICR)、ノードパッケージのためのNodeWright、修復自動化のためのNVSentinelです。
認定とプレビューバージョンの制限
NVKEは、Certified Kubernetes AI PlatformおよびCertified Kubernetes Installerとして認定されており、Kubernetes 1.36での適合性テストが行われています。スループットやプロビジョニング時間に関するベンチマークは公開されていません。インストールが完了すると、NVKE APIはポート30080でプレーンHTTPで応答し、認証は無効化されています。また、管理プレーンの更新やバックアップの手順は文書化されていません。
すでに複数のプレイヤーがこれら2つのプロジェクトを統合しています。NVIDIAのクラウドパートナーであるFirmusとSK Telecomは、それらを自社のAIファクトリーに統合しています。一方、Mirantis、Rafay、Spectro Cloud、OpenNebula Systems、vClusterは、自社の管理Kubernetesオファリングにコンポーネントを追加しています。Netrisは、ネットワーク自動化のためにNVKEを有効にしています。ローカルでの評価には、最低6 CPU、12 GiBの空きメモリ、100 GiBのディスク容量、Docker、および仮想TPMのサポートが必要で、GPUやNVIDIAアカウントは不要です。実際のインストールには、登録済みの容量を持つNICoデプロイメント、KVMを備えたビルドホスト、HTTPサーバー、およびコンテナレジストリが必要です。
