数日前、DeepSeek v4.1がリリースされ、小型モデルの能力の水準をまた一段と引き上げた。
AIの発展速度は、すべての人の予想をはるかに超えている。やっと片言でチャットするだけだった、コンテキスト長が数千トークンにすぎなかった初期版ChatGPTから、推論能力を備えたOpenAI o1、DeepSeek R1、Kimi K1.5 Thinkingに至るまで、わずか2年しか経っていない。推論モデルから、今日のように各種harnessツールの中でコマンドを流暢に実行し、複雑なタスクを完了できるエージェントになるまででも、1年半にすぎない。さらに1年、2年、3年待ったなら、その時のAIはどのような姿になり、どれほど強くなり、すでに自己進化の能力を獲得し、身体性AIなどの領域へ深く浸透しているのか、想像するのは難しい。
AIはますますオペレータを書けるようになっている
AIは、私が従事しているオペレータの設計・実装という分野でも同じように急速に進歩しており、わずか1年の間に、ドキュメントを調べ、コードを読み、バグを探すことしかできない小さな助手から、CUDA、PTX、SASSのコードを独力で読み、専門ツールで各命令のストール時間を分析し、さらにオペレータを独力で最適化できるオペレータの達人へと変貌した。遠くない未来には、オペレータのスケジューリングを独力で設計し、異なるスケジューリング案の性能を評価し、それを実装・最適化する能力も備えるだろう。
私はもちろんDeepSeek v4.1の成功を誇りに思っている――何しろそのメインのAttentionオペレータは私が書いたものだ[1]。その優秀さは、私のオペレータへの肯定でもある。しかし、時代の車輪は勢いよく前へ進み、技術の発展を止められる者はいない。半年か1年もすれば、AIが書くオペレータはおそらく私と同じくらい優秀になり、さらには私を追い越すだろうとよく分かっている。AIは1秒で300トークンを思考し、0.5秒で1行のコマンドを打ち、20秒で1本のコードを書き終えるが、私にはできない。AIはモデルの深さ、思考の強度、ツール呼び出し量(環境と相互作用する頻度)、さらには並列度などの面で絶えず向上できるが、私にはできない。
人類は自分自身を滅ぼすことにかけては、古来よりためらいを見せたことがない。なぜ私は、「自分のオペレータが優れているほど、わが社の新モデルの訓練と推論は速くなり、モデル能力の進歩も速まり、私はより早く取って代わられる」と分かっていながら、それでもできる限りオペレータを最適化しようと選ぶのか。一つには、確かにオペレータを書くことが私にとってゲームをするように大きな快感を与えてくれるからだ。新しい技術を発明したとき、あるいは自分のオペレータの性能が上がったのを見た瞬間、心の高鳴りは、ゲームのRTA(タイムアタック)プレイヤーが過去の自己記録を破ったときに劣らない。同時に、自分のオペレータの性能がベンダー公式のオペレータをはるかに超えているのを見ると、大きな誇りも芽生える。だがそれ以外に、より重要な理由がある。たとえ私がここで「サボり」、あるいはわざと妨害してモデル訓練を遅らせたとしても、他社のモデルは平常どおり発展し、最終的には容赦なく私を殺すだろう。「私はもちろん自分が革命される側になりたくない。しかし、どうしても革命されるのなら、私を革命するのが私自身であってほしい」。みんながこれほど自分を破壊することに執着しているのだから、私もこの残酷な軍拡競争に加わらざるを得ない。
では、私は?
AIがオペレータを書く水準が本当に私を超えたその日、その時の私はどうなるのだろうか?
私の判断はこうだ。私は「失業」するほどではないが、必ず「転業」しなければならない。飯の種はまだ守れるだろうが、それは私がかつて愛した仕事に二度と就く機会を失うことを意味するかもしれない。
私はかつて、時代の変化と将来の自分自身の立場について、一つの判断を下した。時代の変化は本当に速すぎるので(前述のAIの発展は良い例だ)、5年後、10年後に何が起きるかはまったく予測できない。しかしそれでも、自分の視野、判断力、主体性、知力によって、時代のゲームのテーブルに残り、再び時代の先頭に立つことができると信じている。ただし、この判断が保証するのは私が「失業」しないことだけで、「転業」しなくてよいことまでは保証しない。むしろこの判断は、転業によって失業を避けるよう私を励ましている。
では、転業とは何を意味するのか。それは、私が長く深く掘り下げ、熱愛してきたオペレータの設計・実装・最適化という分野を放棄し、Agentの「メカパイロット」になることを意味する。以前は、私の興味、私が得意なこと、産業界が必要としていることの三つはほぼ一致していた。しかし今、AIによって私が得意なことはAIがさらに得意なものになり、産業界の需要も「高性能オペレータを書ける人」から「AIを使ってより速く高性能オペレータを生み出せる人」へと移った。産業界の需要に適応するため、私は以前に熱愛していた方向を放棄し、未知の新しい方向へ向かわざるを得ない。私は、工学、上位モデルの要求、下位ハードウェアへの理解を頼りに、これからも高品質・高効率でオペレータを生み出せるだろうと信じている。また、この新しい方向を好きになるかもしれない(ならないかもしれない)とも分かっている。しかし、熱愛を奪われる感覚は、やはり良いものではない。席に座り、心を静めて午後いっぱいオペレータを書くあの清らかな喜びは、この夏で絶唱になるかもしれない。私は才能を昨日に埋葬し、メカパイロットにならなければならない。私の手には歯車が増えるが、心には拍子が減る。
分かりやすいたとえを挙げよう。あなたは毛糸編みの技術に精通し、とりわけさまざまな模様の編み出しと各色の配色を得意としている。あなたが編むセーターは品質が堅牢で模様も美しく、周辺一帯の裕福な人々があなたにセーターを編んでほしいと頼みに来て、あなたはそれでかなりの金を稼いだ。同時に、あなたは窓辺に座り、一服の清茶を淹れ、窓の外の青山、緑水、牛羊、炊煙を眺めながら、静かに午後いっぱいセーターを編む感覚をとても楽しんでいる。しかしある日、誰かが不思議な機械を発明した。毛糸と図案を用意するだけで自動的にセーターを編み上げ、品質も織り目もあなたが手で編んだものに劣らず、しかもあなたよりはるかに速い。あなたはよく分かっている。同業者たちはこの機械で、かつてのあなたの水準に容易に達することができる。だからあなたもそれを使わざるを得ない。また、あなたは知っている。過去20年で培った編み物技術のおかげで、みんなが機械を持っていても、あなたの編み物の速度と品質は同業者をまだ上回れるだろう。しかし、窓辺で雨音を聞きながら針に糸を通し、ゆっくりと時を過ごすあの趣は、結局機械の轟音に押し潰されてしまった。
これがやるせないことだと分かっているが、仕方がない。飯の種は守れても、かつての熱愛はおそらく手放さなければならない。私は理性と感性をかなり切り離せる人間で、理性で問題を処理すべきときはとても理性的でいられるが、時には感性的な一面も見せる。私は1年住んだ賃貸アパートを引き払うとき、過去の記憶と別れるのが惜しくて大泣きしたことを覚えている。今日、手書きのオペレータと人間の頭脳による最適化の時代に別れを告げることは、間違いなくそれ以上に残酷だ。
読者の中に同じような感覚の人がいるかは分からないが、この件はもうそうするしかないのだと思う。
では、人々は?
AIが絶えず進歩する一方で、私にはいくつか懸念している問題もある。
・現在の学生は、課題、とりわけ実践寄りの各種LabをAIで済ませる方に、かなりの確率で傾くのではないか?想像してほしい。目の前に二つの選択肢がある。一つは、8時間も苦労してLabを一つ終わらせ、しかも満点を取れないかもしれない。もう一つは、AIモデルを起動し、数セントのコストと数分の時間で、AIに満点のコードを直接書かせる。では、大部分の学生はどちらを選ぶだろうか?
・上の点は、多数の学生の工学能力を深刻に不足させる。コードを組織する能力、システムを構築する能力、将来の潜在的ニーズを考えて設計段階で先回りして対応する能力、抽象化する能力などだ。では、AIの能力が不断に強くなる背景で、この「工学能力」は依然として必須なのか?これらの工学能力は、かつての「x86アセンブリを熟練して書く」能力のように時代に捨てられていくのか、それとも「ソフトウェアからシステム、さらにハードウェアまでのコンピュータシステム全体を理解する」能力のように永遠に価値を持ち続けるのか?もし後者なら危険だ――工学能力が非常に低い人がAIと組み合わさると、クソコードの山を生み出す効率が以前の数倍に達し、システムにさまざまな禍根を埋め込み、この世界をいっそうずさんな即席舞台にしてしまう。
・未来社会では、権力(power)が技術や知能よりも重要になるのではないか?
これらの問いに答えるのは、おそらく時代そのものだろう。
結語
AIの発展に伴い、未来の社会は二つの極端に傾くかもしれない。共産主義とサイバーパンク2077だ。前者では生産力が大きく解放され、人々の生活水準は明らかに向上する(ここまでにしておこう。これ以上書くと検閲を通らないのが怖い)。後者では、少数のテック企業が大部分の資源を支配し、ごく少数の人だけが最先端のAIと各種テクノロジーを使い、いわゆる「機械飛昇」に近い効果を得られる。大多数の人はごく弱いAIしか使えない。階層の乗り越えはますます難しくなる。まず最強のAIを持たなければ階層を越えられず、そこから抜け出せない循環が生まれる。
もしAnthropic社がこの世界で最も先進的なAIを永遠に握り続けたら、未来社会は共産主義になるのか、それとも2077になるのか、当ててみて?ねえ、当ててみて?
だから私はやはり、最先端の知能は開放的で安価な形で、すべての人に供給されるべきだと信じている。AnthropicやOpenAIがそうしてくれるとは信用していない。とりわけ、Anthropicが最も先進的な人工知能やAGIを握ることは望んでいない。誇張して言えば、その深刻さは、連合軍より先にヒトラーが原爆技術を手にするのに劣らない。これも私がDeepSeekを選び、とどまり続けている理由だ。私たちは強力で高速、万人に開かれた人工知能を研究し、それをオープンソース化することで、世界を2077の側から少しだけ引き戻せるかもしれない。
未来の世界がすべて安らかでありますように。May all the beauty be blessed.(すべての美しきものに祝福あれ。)
[1] 「メインのAttention」はhead dim = 512のMQA attentionのみを指し、top-kの重要なtokenを選び出すためのindexerは含まない。その部分は他の(非常によくできる)同僚たち(および彼らのAI Agent)によって書かれた。