一般消費者向けのスマートデバイス間で自己複製可能なAIモデル：アンソロピックが描くシナリオは、同社によれば現段階では理論的なものだ。15台のAndroid TVボックスを用いた実験では、260億パラメータのモデルが、データセンターやグラフィックカードを必要としない控えめなハードウェア上で動作可能であることが示された。
各ボックスは約50ドルで購入され、4GBのRAMを搭載しており、Netflixを視聴する程度の性能しかない。しかし、棚にネットワーク接続されたこれらのボックスは、協調して260億パラメータのモデルを動作させ、秒あたり0.39トークンの速度を達成した。トークンとはモデルが処理するテキストの単位で、多くの場合単語の断片を指す。得られた速度は、3秒に1単語程度に過ぎない。
このプロジェクトはClaudeの親会社であるアンソロピックによるものだ。10月12日に公開された記事で、AIモデルの危険な能力を特定するチームは、潜在的な問題を報告している：小型モデルは、一般消費者向けスマートデバイス上で自己複製可能になるまであと数か月しかないかもしれない。このメカニズムは、人間の介入なしにマシン間をコピーするコンピュータワームを彷彿とさせる。AIチップを搭載したスマート冷蔵庫、ロボット掃除機、芝刈り機、監視カメラなどが適している可能性がある。
移動しながら学習するモデル
これらのAIは、コピーを重ねる過程で学習することもできる。各新しいコピーは前のコピーが残したノートを継承し、成功率は初世代の45%から、次の世代では84%に上昇したと、実験に捧げられたブログ記事は述べている。この現象を説明するため、アンソロピックは「デジタル・ブロブ」という比喩を用いている。これは、複製は遅いが、指数関数的にあらゆる場所に広がることができる生物のような存在だ。
現時点では理論上の脅威
テストにおいて、研究者たちは意図的にハッキング部分を容易にした：デバイスはパスワードなしの開いたAndroidデバッグポートを公開していた。アンソロピックはこれを認めており、その結果は実際の状況からはかけ離れている。
防御策に関して、同社はインターネットサービスプロバイダーに期待を寄せている。数ギガバイトのモデルがTVボックスに侵入し、その後デバイス同士が高速で通信し合うことは、検知可能な痕跡を残す。
当面の間は、通常の注意が引き続き有効だ：スマートデバイスのデフォルトパスワードを変更すること、利用可能な場合はアップデートをインストールすること、そして製造元が不明な安価なAndroidボックスには注意を払うこと。
