Apple、HarborでMacをプライベートAIサーバーに変える

Apple、HarborでMacをプライベートAIサーバーに変える
1 分の読書

Appleは、Harborと名付けられたアプリケーションを準備しており、クラウドを経由せずにMac上で直接AIモデルを実行することを目指しているとされる。Apple関連の情報漏洩に詳しいAaron Perrisが11月10日火曜日に公開した説明によると、このツールはThunderbolt 5で接続された複数のマシンを統合できる可能性がある。グループ子会社のClarisでは、すでに非公開テストが行われているという。

ここ数ヶ月、Mac StudioとMac miniは新たなユーザー層を獲得している。オンラインサービスを利用する代わりに、自宅でAIモデルを実行したいユーザーたちだ。これまでは、LM Studio、Ollama、EXOなどのサードパーティ製ツールを使い、時にはターミナルを経由して手作業で設定する必要があった。

Harborは推論サーバーとなるだろう。つまり、学習済みモデルを動作させ、OpenAIのChatGPT用サーバーのようにクエリに応答するソフトウェアだ。説明によれば、すべてはMacのチップ上で行われ、データがマシンから流出することはない。このアプリケーションはオープンウェイトモデルを使用する。ウェイト、すなわち学習中に獲得されたパラメータは公開され、誰でもダウンロード可能だ。

単一モデルのための複数Mac

Harborは、Thunderbolt 5による相互接続を利用して、2台以上のMacのパワーを活用できる。この最新コネクティビティは双方向80Gb/s、単一方向では最大120Gb/sを提供する。この接続により、マシンの統一メモリを合算できる。統一メモリはチップがCPUとGPU部分で共有し、Macがロードできるモデルのサイズを決定する。これにより、グループは単一のコンピュータには大きすぎるモデルを実行したり、より多くのクエリに同時に対応したりできる。

説明によると、Harborは接続されたMacを検出し、手動設定やコマンドライン操作なしで自動的にグループを形成する。Appleはすでに、macOS Tahoe 26.2に技術基盤を統合している。Thunderbolt 5上のRDMAサポートを含み、この技術によりMacは極めて低遅延で別のMacのメモリを直接読み取ることができる。

まだ不透明な提供時期

Appleは公式には何も発表していない。このプレゼンテーションを伝える9to5Macによると、Harborは現時点では、企業向けカスタムアプリケーション作成ソフトウェアFileMakerを提供するClarisブランドで非公開プレビュー中だという。同メディアは、数週間から数ヶ月以内にローンチが行われる可能性があると見積もっているが、詳細は不明だ。

公開リリース日とアクセス条件はまだ不明だ。説明では、どのチップが必要か、何台のMacを接続できるか、どのモデルが提供され、どのライセンスの下で利用可能かについても明記されていない。

Appleのサポートページによると、2025年以降に発売されたMac Studio、2024年以降に発売されたProチップまたはMaxチップ搭載MacBook Pro、およびProチップ搭載Mac miniのみがThunderbolt 5ポートを備えている。

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x