Marktechpostは、AIモデルの推論（学習後の実行）向けに、クラウドGPUレンタル価格を比較する無料ツール「GPU Leaderboard」を公開した。同サイトにはChrome拡張機能「GPU Leaderboard: Deploy It」も用意され、同じデータを利用できる。開発者によれば、目的は「必要なGPUはどれか、最も安価な場所はどこか」という問いに一箇所で答えることだ。
このダッシュボードは、クラウドでレンタル可能なGPUを「時間当たりGPU単価」でランク付けする。データは各プロバイダーの料金ページから取得され、オンデマンド料金と中断リスクのある割安なスポット料金の両方が対象。バージョン1では4つのビューを提供。「Inference pricing」は単純な時間単価ではなく、実行全体のコストを計算する。「Leaderboard」は全てのオファーを時間当たりGPU単価（ドル）でランク付けし、GPU、階層、リージョン、可用性でフィルタリング可能。「Cheapest Inference」は追跡対象GPUごとの最低オンデマンド単価を示す。最後にプロバイダー一覧では、インスタンス数、リージョン、ステータスページの障害報告、価格チェック履歴を掲載。
実行全体のコスト計算ツール
ユーザーはアクセラレータ、GPU数、期間、使用率を選択。計算機は各プロバイダーでの正確な実行コストを算出し、モデル入力欄でリストを絞り込める。デフォルト例はH100 8基を72時間、90%使用率（合計576 GPU時間）で、最安値はLatitudeの1GPU時間あたり1.68ドル、総額967.68ドル。15プロバイダー中央値は1,716.48ドル、最高値はCoreWeaveの3,545.28ドル。
計算機は実効使用時間あたりの「実質」コストも表示。アイドル時間も課金対象となるため、例では90%使用率で1GPU時間あたり1.68ドルが1.87ドルに上昇。サイトによれば、これは予算計画で最も見落とされがちな数字だという。
モデル選択を支援する拡張機能
拡張機能「Deploy It」は、開発者がモデルを選択する場面にこのデータを近づけることを目指す。Chrome Web Storeの説明によれば、3箇所で機能する。Hugging Faceのモデルページではモデルサイズを検知し、FP16、INT8、INT4といった数値精度フォーマット（必要メモリを削減）での推定VRAMを表示し、モデルを収容可能な最安GPU時間単価を提示。GitHubリポジトリではモデルへの言及を検出し、ページ内で直接ハードウェア見積もりを提供。最後にブラウザのツールバー検索から任意のモデルやGPUを問い合わせ可能。
サイトは24プロバイダーによる201のオンラインGPUオファーを掲載。記事によれば、データの網羅性と日次更新が、従来の追跡ツールとの主な差異となっている。
