ジョージタウン大学のCenter for Security and Emerging Technology(CSET)エグゼクティブディレクターであり、OpenAIの元理事であるヘレン・トナーは、政策決定者が信頼できる人工知能に関する情報を必要としていると考えている。The VergeのポッドキャストDecoderのホスト、ニレイ・パテルとのインタビューで、彼女は研究所のガバナンス、AGIの概念、中国との競争について語った。
2019年に設立され約50名のスタッフを擁するCSETは、学術機関ではない分析センターとして位置づけられている。長い報告書や忙しい政策担当者向けの短いブリーフィングを作成している。ヘレン・トナーによれば、ワシントンとシリコンバレーの間には確かなギャップがあるが、それは専門知識の問題だけではなく、議会スタッフは「一般に評価されているよりも賢い」と彼女は考えている。
以前のOpenAI
ヘレン・トナーはサム・アルトマンの解任に賛成票を投じたOpenAI理事4名の一人だった。この出来事は「the blip」とも呼ばれ、サム・アルトマンのCEO復帰、ヘレン・トナーの退任、新理事会の設置で終結した。OpenAIはその後、全面的に再編された。
非営利の理事会は、企業が安全なAI構築という目標を利益や成長のために犠牲にしないよう監督する使命を持っていた。ホストによると、理事会がこのレバーを動かそうとした際、責任メカニズムは機能しなかった。ヘレン・トナーは、安全性に関する約束が商業的なインセンティブと衝突した場合に何が起こるかを目の当たりにしたと述べている。彼女は未来が一人の信頼性に依存すべきではないと考えており、もしそうなら「我々は大変なことになる」と語った。
AGI、自動改善、シンギュラリティ
AGI(汎用人工知能)について尋ねられたヘレン・トナーは、その段階に達したとは言わない。むしろ、すでに達成されたものもある「曖昧な定義の雲」について話している。人間ができるすべてをこなせる意識を持つAIのような定義はまだ遠い。彼女はこのテーマについて自身のSubstackに記事を書いている。
また、シリコンバレーで広く信じられている考え方、自己改善の再帰的プロセス(RSI、recursive self-improvement)についても説明している。これはAIがより高度なシステムの開発に関わり、超知能に至る可能性を指す。彼女によれば、企業は研究開発の増大部分でAIを活用しているが、全プロセスを任せているわけではない。Googleのデミス・ハサビスの「我々はシンギュラリティの麓にいる」という発言を引用している。
設計者の意図に沿うようモデルを調整する「アラインメント」の概念について、ヘレン・トナーは用語が広すぎると考えている。彼女によれば最も一貫した定義は、AIがユーザーの望むことを行うようにすることだが、この課題は「順調に解決に向かっているとは言えない」。ただし、これらの問題は時間を要する科学的研究の領域であると強調している。
規制については、すべてのAIを対象とする法律よりも、最も先進的なシステムに焦点を当てた規則の方が望ましいと述べている。カリフォルニア、ニューヨーク、イリノイ州がほぼ同一の法律を採択しており、この動きは州レベルで続く可能性があると指摘している。
