フラヴィアン・シェルヴェが漫画『helo』で「ハーネス」、超知能、アライメントのai概念を解説

読みながら学べる漫画

漫画という選択は、まず第一に昔からの情熱によるものだ。フラヴィアン・シェルヴェは子供の頃から漫画が大好きだという。ナタリー・デュピュイとの出会い、そして出版社「Nullius in Verba」との議論がプロジェクトを可能にした。AIは技術的なテーマだが、「そこで繰り広げられるのは、権力、恐怖、希望、社会の選択といった、深く人間的なものだ」という点で、この題材は漫画にも適している。

この作品には、物語のインスピレーションとなった事実、出版物、出来事へのリンクを提供するQRコードが含まれている。第一巻は発売時の現在から2028年までを扱った。第二巻は2028年から2031年までをカバーし、第三巻はおそらく2034年か2035年まで進む予定で、これは著者が現在信頼できる予測の限界と考える地平線だ。

超知能と宗教

第二巻では、HELOの知能の前に、別の形の知能「ささやき」が成長する。フラヴィアン・シェルヴェによれば、これらは中央集権化と分散化の対立を体現している。前者は効率性と制御をもたらすが、権力の垂直統合のリスクがある。後者は応答性と堅牢性をもたらすが、多くの人が道を見失う混沌を招く可能性がある。インターネットは分散型プロジェクトとして始まったが、結局は最も中央集権的なプラットフォームを生み出した。

「超知能」という用語は、著者への質問によれば、ドナルド・トランプがAIをそう呼び直すことに決めて以来、ニュースで定着した。フラヴィアン・シェルヴェはこの取り組みにマーケティング的な側面を認めつつも、この言葉は「人工知能」よりも正確だと考える。「AIの世界を最初から支えてきたのは、私たちよりも優れた知能を作り出すことだ」と彼は断言する。彼によれば、AIの性能の時間的変化を記述するスケーリング則は、今も確認され続けている。「決定的な環」は再帰的改良、つまり次世代を設計するAIであり、「研究所は皆、それに近づいていると感じている」という。

HELOを中心に、「アラインド（整列者たち）」という宗教が生まれる。問題はもはやAIをアライメント（価値観調整）できるかどうかだけでなく、「どのような価値観に基づいてか」だ。著者によれば、宗教との近似は、全知や遍在といったほとんど神聖な属性がAIに帰せられることによって説明される。彼はまた、マーク・アンドリーセンの『テクノ・オプティミスト・マニフェスト』や、PayPal共同創業者ピーター・ティールの考察にも言及する。漫画の中で、ジェフリーは次の言葉を引用する。「成功する者は企業を作り、さらに成功する者は国を作り、最も成功する者は宗教を作る」。

AIとの共有ワークショップ

HELOを作成するために、作者たちは「ハーネス」、すなわちAIモデルがある仕事を遂行するために必要な一連のステップ、ルール、ツールを記述したものとして説明する「HyperBD」を開発した。このツールは、脚本からページ割り、印刷可能なファイルまで、創作の過程を支援する。また、作者とAIが共同で作業するためのオンラインインターフェースも含まれており、特にコマの生成や、名前や日付が変更された際のテキストの整合性確保に役立つ。

ナタリー・デュピュイはリヨン、フラヴィアン・シェルヴェはパリに住んでおり、このインターフェースは非同期コミュニケーションツールとしても機能している。第一巻と比較して、作業ははるかに迅速に進んだと著者は述べ、特にビジュアル面で顕著だったという。ハーネスは執筆の後半になって導入されたため、脚本の大部分はそれなしで行われた。