機械知能研究所（MIRI）の所長、ネイト・ソアレスは、約10年前から老後のための積立をしていない。人工知能が人類を滅ぼす前に消滅させる可能性があると考えているからだ。彼の発言はポッドキャストで語られ、複数のメディアで報じられた。一方、イーロン・マスクは1月、反対の理由から老後の心配をするなと助言している。
ネイト・ソアレスは、米誌『The Atlantic』のニコラス・トンプソンがホストを務めるポッドキャスト「The Most Interesting Thing in AI」で語った。「私は今、老後のための貯蓄をしていません」と説明した。「Googleで働いていた頃の401(k)退職貯蓄プランはありますが、10年間そこに拠出していません」。401(k)は米国の退職貯蓄制度である。カリフォルニア州バークレーに拠点を置く非営利団体MIRIに加わる前、彼はGoogleとMicrosoftでソフトウェアエンジニアを務めていた。フルタイムでAIアライメント（人工知能システムが人類の生存と両立する目標を追求するよう研究すること）に専念し始めた時点で、拠出を止めたという。
「50％以上」の確率で10年持たない
人類に残された時間について問われると、ネイト・ソアレスは「私たちに10年の猶予がない可能性は50％以上ある」と答えた。「私はAIによる雇用の終末を信じるタイプではありません。AIがすべての人類を殺すと信じるタイプです」と付け加え、この技術は「核兵器よりも明らかに危険」だと判断した。なぜなら核爆弾は「都市を破壊できても、惑星を破壊することはできない」からだ。
彼が恐れているのは悪意のあるAIではなく、自律化したシステムが、人間がそれを止めようとすれば障害と見なす可能性があることだ。しかし、まだ何も決まっていないと考えている：「私はそれが起こらないように全力を尽くしています。避けられないとは思いません」。ネイト・ソアレスは政府に対し、汎用AIの訓練を禁止し、がん治療や自動運転車など特定の用途に研究を限定するよう求めている。彼は2025年9月に出版された『If Anyone Builds It, Everyone Dies』をMIRI創設者のエリエザー・ユドコウスキーと共著している。
他の研究者はより低い数字を示す
ネイト・ソアレスだけがこのリスクを数値化しているわけではないが、他の推定値ははるかに低い。Anthropicでアライメント研究を率いるエバン・ヒュービンガーは、今後10年で10％以上と推定している。2024年ノーベル物理学賞受賞者のジェフリー・ヒントンは、数十年で10〜20％と述べ、これは計算ではなく直感だと付け加えた。
AI Impactsの調査では、回答した研究者の51％が、AIによる人類絶滅または深刻な制御喪失の可能性を少なくとも10％と見積もった。一方、RAND Corporationのアナリストは、AIが人類を脅かすには4つの異なる能力を備える必要があり、そのような脅威が構築されるには長い時間がかかると見ている。
イーロン・マスクは豊かさを語る
イーロン・マスクは、ネイト・ソアレスとは逆の経路から同じ結論に達している。2026年1月初旬、ピーター・ディアマンディスのポッドキャスト「Moonshots」で、テスラとスペースXのCEOは「10年後や20年後の老後のために貯蓄することを心配するな」と助言し、「それは重要ではなくなる」と付け加えた。彼によれば、AIとロボットは世界を豊かな経済に導くべきだが、移行は困難になるだろうという。2026年1月9日、彼のAI企業xAIはスペースXに吸収された。
