新智元（シン・ジーユアン）発
編集：KingHZ
【新智元リード】ピーター・ティール氏を説得しようとし、イーロン・マスク氏に警告を発し、そして今や「適応能力が不可欠だ」と公言するに至ったデミス・ハサビス氏の歴史的転身。AI 安全の窓は永久に閉ざされつつある。彼はもはや制度への幻想を抱かず、自らの全財産を賭けに出た。影響力という賭けに、良心という賭けに、そして自分自身という賭けに。
AI による人類絶滅を最も恐れる人物が、今や必死に AI を造っている。
ガバナンス（統治）を最も信じていた人物が、今や自らの口で「ガバナンスは完全に当てにならない」と認めている。
安全性を最も強調していた DeepMind でさえ、戦時下の軍拡競争に引きずり込まれている。
ほんの数時間前、DeepMind 創設者デミス・ハサビス氏自身が、AI 安全への幻想を自ら打ち砕き、理想主義者から現実主義者へと完全に転身を遂げた。
氏は認めた。超知能は人類を絶滅させる可能性があるが、自ら「席を確保しテーブルに着く」ことでしか、その暴走を防ぐことはできないと。
厳格な制度、法的拘束力、そして倫理委員会によって AI を檻の中に閉じ込めると誓っていたハサビス氏は、古びたシャンデリアの下でこう無念を吐露した。
「もはや安全はガバナンス構造には依存しない。取締役会があったとしても、正念場で彼らが正しい選択をするとは限らないのだ」
そして氏は、極めて現実的であり、どこか悲劇的な色彩を帯びた新たな解決策を提示した。「私がテーブルに着き、影響力を手中に収めるしかない」と。
幾度も幻想が砕け散り、ハサビス氏は転身を遂げた
ハサビス氏は、単なる加速主義者ではない。
一般的に、AI 界のリーダーたちは二派に分かれる。OpenAI のサム・アルトマン氏に代表されるように、技術がいずれ技術がもたらす問題を解決すると信じる「加速主義者」派と、AI が核兵器のように人類を絶滅させかねないと憂慮する「終末予言者」派だ。
しかしハサビス氏は、極めて複雑な矛盾体である。彼は「終末」を阻止するために、自らの手で AI を造ることを選んだのだ。
このパラドックスにも似た原動力は、氏の並外れて深遠な不安から生まれている。
ハサビス氏は「AI による絶滅リスク」を誰よりも熟知しており、その理解度は最も過激な抗議者たちさえ凌駕している。
氏と DeepMind のもう一人の共同創業者であるシェーン・レッグ氏は、AI 安全に関するある講義で出会った。
現在、シェーン・レッグ氏はグーグル DeepMind の主席 AGI 科学者を務め、AGI 安全委員会の共同議長として、AGI（汎用人工知能）以後の世界がどのようになるかの研究を率いている。
氏はかつて「シンギュラリティ・サミット」において、ピーター・ティール氏を捕まえては、機械がいかに人間を凌駕するかという幻説を売り込もうとしたこともある。
また、イーロン・マスク氏の目前で、「火星入植など無意味だ。もし超知能が悪意を持てば、銀河を横断するロケットさえ造れる。火星など人類の避難所にはなりえない」と言い放ったこともある。
この不安が、氏の初期における英雄主義的な「シングルトン・シナリオ（単一主体支配）」構想を生み出した。
氏は真摯に、世界中のトップ科学者たちを連れ、モロッコの砂漠の中か、あるいは世から隔絶された孤島にある秘密の「バンカー（避難所）」へと籠もる計画を練っていた。
そこでは、資本の圧力も、地政学的競争も、世俗の干渉もない状態で、人類に代わって史上初となる「絶対安全」な超知能を、まるでマンハッタン計画のように開発するというのだ。
ハサビス氏はマスク氏に背後から刺されたのか？
「この世で火種を握っている手が一つだけなら、まだ火勢を制御できる」。これがハサビス氏当初のロジックだった。
このロジックのため、氏は 2014 年に DeepMind をグーグルに売却する際、史上稀に見る奇妙な買収条件を突きつけた。
グーグルが代金を支払ったとしても、ハサビス氏は AI 安全問題において絶対的な独立性を保持すること。
プロセス全体を監督するため、独立した専門家による外部委員会を設置すること。
AI の軍事利用は厳格に禁止されること。
ハサビス氏は少年時代から強力な AI の構築を志していた。しかし、その安全性が保証されて初めて、自らの人生をかけた事業に正当な理由を見出せるのだ。
グーグルによる買収の直前、ハサビス氏は DeepMind の研究者志願者たちにこう警告していた。契約を結ぶ以上、心の準備をしておくようにと。最終的な「終末戦争」が来た暁には、氏は地下基地へと潜り込み、シングルトンによる支配という偉業を成し遂げるつもりなのだと。
2015 年、グーグルの約束した AI 監督委員会を具体化するため、DeepMind は哲学者や技術専門家らを招いた秘密集会を開催した。
ハサビス氏はマスク氏にこの集会のホスト役を依頼し、場所はマスク氏の SpaceX カリフォルニア本社に設定された。
しかし、この一手は完全に裏目に出た。この集会こそが、ハサビス氏の安全構想が崩壊し始めた瞬間だったのだ。
マスク氏はハサビス氏ら共同創業者らのプレゼンを聴いた後、あえてそれと逆の道を進むことを選んだ。彼はアルトマン氏と手を組み、OpenAI を設立したのである。
その瞬間、ハサビス氏の描いた安全というユートピアは死を迎えた。
実利も失えば、面目も丸つぶれ
人性を考慮すれば、この局面は不可避だっただろう。火起こしのごとき歴史的な AI 技術の前途を前にして、人々が単一の集団として団結するなどありえない。人々は議論を交わし、互いを妬み、それぞれの陣営を築くものだ。
この時、ハサビス氏は一度立ち止まり、再考するべきだったかもしれない。
「単一主体」という構想があまりにナイーブだとするなら、AI 開発者たちはどうすれば崖に向かって突っ走る競争を避けられるというのか。
しかしハサビス氏は足を止めるどころか、さらにアクセルを踏み込んだ。2016 年、AlphaGo が世を驚愕させた。機械知能が人間の知能を凌駕するまでのタイムラインは、一気に前倒しされたのである。
AI のこの進展に追随するため、ハサビス氏は AI を人類に役立てるという新たな発想を打ち出した。氏は共同創設者のムスタファ・スレイマン氏と共に、グーグルとの交渉に臨み、新たなガバナンス保証メカニズムの確立を目指した。
この秘密裡に進められていた「プロジェクト・マリオ」を推進するため、氏はトップクラスの法務チームを雇い入れ、外部から 10 億ドル規模の資金提供の確約を取り付け、もし技術の支配権が得られないのであれば DeepMind をグーグルから独立させることまで視野に入れていた。
同時に、スレイマン氏は DeepMind チームを率いて、英国の国レベルでの急性腎疾患管理プロジェクトへの参画も進めていた。
AI の独立したガバナンスを実現でき、なおかつ英国の一般市民の健康状態を改善できるのであれば、ハサビス氏は自らの追求する道が確かに「善」であるとの確信を持てたはずだ。
しかし、この二つの試みは揃って失敗に終わった。
グーグルとのガバナンス権を巡る綱引きは 3 年にわたり、困難を極めた。
また、英国の国民保健サービス（NHS）を支援するプロジェクトは、プライバシー擁護派から強烈な反発を食らった。米国巨大企業の子会社が患者データに手を染めることへの怒りだった。
2019 年までには、ハサビス氏と DeepMind はこの二つの戦線のどちらからも撤退を余儀なくされた。スレイマン氏もまた、DeepMind を去っていった。
ChatGPT による致命的一撃、グーグル AI の暴走
2022 年、ChatGPT の爆発的登場は、ハサビス氏の執務室に放り込まれた核爆弾のようなものだった。
それ以前、ハサビス氏は「科学者としての優雅さ」を保とうと努めていた。
氏はチームを率いてタンパク質折りたたみ問題を解決する AlphaFold を開発し、ノーベル賞を受賞した。
氏はこれを、AI が人類に奉仕する最高形態であると考えていた。純粋で、医療に恩恵をもたらし、制御可能な科学であると。
しかし市場はそうは見ていなかった。ChatGPT が史上最大のスピードで急成長するアプリとなるや、グーグルは動揺し、シリコンバレー全体が狂乱状態に陥った。
2022 年、ChatGPT が世間を騒がせたあの日、ハサビス氏は社内でこう方針を定めた。「今は戦争状態だ！」と。
この状態において、それ以前の安全への誓約はすべて脆くも崩れ去った。
グーグルは国防総省への働きかけを強化し、AI をペンタゴン（国防総省）に売却しようとし始めた（これはかつてハサビス氏が一線としていたことだ）。
権力闘争のさなか、かつての「独立倫理委員会」はほぼ影を潜めた。
GPT-4 への追随を迫られる中、DeepMind はグーグル・ブレインとの強引な統合を余儀なくされ、慎重さよりもスピードが最優先された。
ハサビス氏はある残酷な現実を悟った。AI 競争において、非営利の制度が営利目的の巨大企業の体内に寄生し続けることなどできないのだ。
生存が脅かされるとき、すべての倫理は贅沢品でしかない。
ハサビス氏は、自らが築き上げたすべての壁が、次々と崩れ去るのをその目で見つめていた。
氏はついに認めた。「ガバナンス委員会があったとしても、正念場で誤った決定を下すかもしれない」と。
真に制御不能だったのはモデルではなく、人類の競争そのものだった。
孤独なる人類の監視者
今やハサビス氏は完全に現実主義へと転じた。
氏の目標は、「意思決定のテーブルの一角の席」を確保することだ。そうすれば、安全上の問題が生じた際に、その解決策の決定に関与できるからだ。
「物事は白黒つけられるものではない。特に、その結果が未知数な技術を相手にしている時はなおさらだ」と氏は記者に語った。「だからこそ、適応能力が不可欠なのだ。理想主義者から現実主義者へと転じなければならない。だが、自らの価値観は守り通せると信じている」と。
ハサビス氏は「ガバナンス」という概念から完全に幻想を捨て去り、制度による安全への依存を止め、個人の影響力に頼って「席を確保しテーブルに着く」道を選んだ。
一方で AlphaFold を推し進めてノーベル賞を手にし、Gemini で攻勢を続けながら、他方では希望を「良心ある人々」の手に固く握りしめている。
さらに皮肉な逆転が訪れた。かつて最も過激な安全派だったマスク氏でさえ、今やアクセルを全開に踏み込んでいるのだ。
楽観論者たちがまだ「アライメント技術がすべてを解決する」と叫ぶ中、ハサビス氏自身でさえもはやそれを信じてはいない。
制度は完全に死んだ。
OpenAI の取締役会がアルトマン氏を解任しながらも、瞬く間に資本の力によって跳ね返された。
氏は最も无奈（むな）な道を選択した。「自ら権力の一部となること」だ。
現在の氏の安全ロジックはこうだ。「この競争を阻止できないのであれば、この競争で勝つしかない。私はテーブルに留まり続けねばならず、最強の発言力を手中に収めなければならない」。
そうすれば、真の「シンギュラリティ」が到来し、人類には理解しえない決断を迫られるその時、少なくともその重要な椅子に座っているのが、初日の第一天から AI に対して畏敬の念を抱き続けてきたハサビス氏本人であるはずだからだ。
今や氏にできるのは賭けに出ることだけだ。「善き人々が権力を握る」ことで世界が救われるという賭けに。
しかし問題は残る。AI の安全が「善き人々の権力掌握」に依存するしかないというなら、それは救済なのか、それとも最も危険な賭けなのか。
AI 安全の窓は永久に閉ざされつつある。
もし超知能のアライメント（人間との価値観のすり合わせ）に失敗すれば、どんなロケットを造ろうが、どこへ入植しようが、破滅の災厄からは逃れられない。
人類の本性が、統一されたガバナンスなど永遠の笑い話に変えてしまった。
残された唯一の希望は、「良心ある人々が発言権を握る」という、最も脆く、最も危険なシナリオだけだ。
ハサビス氏が変わった唯一の人間ではない。しかし、この残酷な現実を語り尽くした最初の人物ではある。
今、第 37 手の一手が、私たち一人ひとりの頭に降りかかろうとしている。
私たちが今目撃しているのは、文明を賭けた大博打（ばくち）なのだ。
参考資料：