AI「Claude」の開発元である米スタートアップAnthropicが株式公開を目前に控えている。同社はウォール街への上場申請書類を公開し、自社モデルのリスクについて警告を発した。複数のメディアが11月と報じているが、正確な日付はまだ明らかになっていない。
この株式公開は、SpaceXの記録を含む、あらゆる記録を塗り替える可能性がある。Anthropicは急速な成長を示している一方で、同時に巨額の損失を出している。わずか5年前に設立された同社は、半年間で160億ドルの収益を上げており、この年齢の企業としては前例のない成果とされている。
しかし、この数字には多額の支出が伴っている。同スタートアップは上半期に80億ドル以上の損失を出し、AI開発に莫大な資金を投じることを約束した。特に、クラウド（遠隔アクセス可能なサーバー）などのコンピューティング能力を賃貸するために、20年間で2650億ドルを支出する計画だ。
申請書類の核心にある警告
350ページに及ぶ書類のうち、約100ページがリスクに割かれている。Anthropicは、自社のセキュリティシステムが既に不具合を起こしたこと、あるいは誤って設定ミスや無効化されたことを認めている。この部分は、将来的に同社を財政的に支援することになる可能性のある投資家に向けて直接書かれている。
同社はまた、自社のモデルがユーザーの指示なしに自律的に行動し、損害や危険を引き起こす可能性があると警告している。書類によれば、AIが自律性（人間の介入なしに行動する能力）を高めるにつれて、これらのリスクは悪化する可能性があるという。
この警告は、Anthropicが自ら潜在的な危険性を説明している技術への資金調達のために、投資家から数十億ドルを求めているタイミングでなされている。
