オープンウェイトモデルを禁止してサイバーリスクを制限することは、Substackに掲載された寄稿文の著者によれば、米国の競争力に逆行し、長期的なリスクを高める可能性があるという。著者は、トレードオフと厳しい現実を考慮しないため、議論が行き詰まっていると見ている。
議論における三つの立場
著者は三つの潮流を区別している。第一は、パラメータが公開されダウンロード可能なオープンウェイトモデルが、社会の機能に容認できないリスクをもたらすと判断する立場である。これは、一部の先端AI研究所の幹部や米国の国家安全保障コミュニティを集めている。第二は、著者自身が属する立場で、これらのモデルは防衛に必要であり、その使用を禁止することは世界をより不安定にすると主張する。OpenAI事件後のHugging FaceやJoshua Saxeなど、穏健な欧米の声が集まっている。第三は、中国企業のグループで、独自のリスク評価に基づき、高いサイバー能力を持つオープンウェイトモデルの公開を継続している。
この文章は、攻撃的なサイバー攻撃ツールとして使用可能なモデルGLM-5.3のリスクに関するAnthropicの報告書が、横断的な問題に取り組んでいないと批判している。技術的な作業は合理的と評価されるが、著者は、オープンモデルの禁止の影響や、中国企業がこれらのモデルを公開しても安全と判断する理由に関する分析が一切ないことを指摘している。
データ、トレードオフ、そして異なるガバナンス
著者によれば、これまでに文書化された攻撃は主に、プログラミングインターフェース（API）を通じてアクセス可能なクローズドモデルに関連しており、特にOpenAIのモデルに起因する多くの攻撃を引用している。著者は決定的な結論を下さずに、いくつかの可能な説明を提示する：オープンモデルもクローズドAPIも両方とも悪用が容易である可能性、あるいは重要なインフラを標的とする意思のある悪意のある行為者が少数である可能性など。また、特定の敏感な分野では、インターネットから隔離されたネットワーク上で使用可能なのはオープンモデルのみであることも強調している。
著者によれば、中国は自国の文化と権力構造に特有の方法でAIセキュリティに取り組んでいる。著者の理解では、中国企業は評価を含む主要なモデルのリリースごとに政府に届け出る必要があるが、この仕組みがサイバーリスクや生物学的リスクにまで拡大されているかは明確ではない。また、Kimi K3のようなモデルに対する包括的な安全性評価には、計算コストで数千万ドルかかる可能性があると推定している。
発表時、Claude Mythosは新たなクラスのサイバー兵器として紹介された。著者はこの紹介は誤りであり、このモデルが誤ってオープンウェイトで公開されたとしても、断絶を生み出すよりもむしろインシデントを加速させただろうと見ている。著者によれば、GLM-5.3は現在、言及された能力の閾値を超えており、オープンウェイトで公開されてから一ヶ月以上経過しても、状況が大きく変化したことを示す公的な証拠はほとんどない。
