アインシュタインの有名な言葉に、「検索できる知識を記憶してはならない」という忠告があります。
この言葉は、今日の AI 業界において痛烈な皮肉として響いています。
ここ 2 年間、Deep Research Agent（深層調査エージェント）はハイテク業界で最も注目される分野となりました。OpenAI の Deep Research から Anthropic の Extended Thinking を搭載した Claude まで、AI は単なる「チャットボット」から、数時間にわたる調査タスクを単独で完結させる「リサーチアシスタント」へと進化を遂げようとしています。
しかし、これらの能力を支える「記憶システム」は、道を狭める一方の選択を歩んできました。それは過去の検索記録を狂ったように保存するという道です。まるで、より賢くなるために人生で読んだすべての本をリビングに詰め込み、資料を探すたびにその山の前で 30 分も費やす人間のように。
これはアインシュタインが求めた賢さではありません。
記憶システムを蝕む 3 つの「沈黙の殺し屋」
率直に言いましょう。現在の Deep Research Agent の記憶システムの多くは、本質的にファイルキャビネットに過ぎません。
AI に資料調査やツール呼び出し、レポート作成を命じると、そのすべての操作を 1 つの「軌跡」として保存します。そして次回、類似の問題に遭遇した際、キャビネットから「最も関連性が高い」軌跡をいくつか引っ張り出し、プロンプトへの参考資料として詰め込むのです。
もっともだと思われるでしょうか。実はここには 3 つの致命的な問題があります。
第一に、コストが莫大であること。 利用回数が増えるにつれ、保存される記憶は指数関数的に膨れ上がります。検索速度は低下し、維持コストは急騰します。これは単なる保存容量の問題ではなく、スケーラビリティの危機なのです。
第二に、AI は経験を真に「内化」していないこと。 記憶は大量に蓄積されても、モデルのパラメータは少しも変化しません。今日犯した間違いを、明日は聞き方を変えればまた同じように犯します。これはまるで、生徒が間違いノートを 10 回書き写しても、なぜ間違えたのかを全く理解していないのと同じです。
第三に、人間の監視から抜け出せないこと。 システムに「この経路は良く、あの経路は悪い」と認識させるには、人間が正解を書く必要があります。しかし、実世界のオープンな環境において、そこまで都合よく標準解答が用意されているものでしょうか？
これら 3 つの問題が重なることで、尴尬な状況が生じます。記憶システムが複雑になればなるほど、パフォーマンスは低下する傾向にあるのです。なぜなら、AI にとってあの「履歴の山」は、単なるノイズでしかないかもしれないからです。
「三元脳」アーキテクチャの登場
この困境に対し、華東師範大学のチームが新しい処方箋を提示しました。それは記憶システムを 3 つの役割に分解し、それぞれが得意なことを担当させるというものです。
MIA（Memory Intelligence Agent）と呼ばれるこのフレームワークは、従来の「単一記憶庫」設計を捨て去り、Manager-Planner-Executor の三元アーキテクチャを採用しました。
Manager（記憶管理者）： 生データを保存するのではなく、「圧縮されたワークフローのパターン」のみを保存します。教師が生徒に教科書全体を丸写しさせるのではなく、最も核心的な授業の枠組みだけを教案として残すのに似ています。
Planner（プランナー）： パラメトリックなモデルであり、「どうすべきか」を考えることに特化しています。単なる検索アシスタントではなく、過去の経験を戦略的スキルとして内化する意思決定の中枢です。
Executor（実行者）： 計画に従い、淡々と作業をこなし、外部ツールとの対話を担当します。
ここには「Search Agent」にありがちな曖昧さや依存関係の絡み合い（しがらみ）はありません。Manager が経験的参考を提供し、Planner が実行方法を決定し、Executor が実行する。役割分担は明確で、相互に結合されていません（デカップリング）。
しかし、真の突破口はある循環にあります。
非パラメトリック記憶（Manager）とパラメトリック記憶（Planner）の間で、双方向の変換が行われるのです。
Planner が新しいタスクを解決すると、その成功体験はワークフローとして圧縮され Manager に保存されます。逆に Manager 内にある有効なパターンは、強化学習を通じて Planner のパラメータを訓練するために利用されます。これは単なる保存場所の移動ではなく、認知の絶え間ない内化と再構築なのです。
研究者に例えるなら、Manager は文献管理ツール、Planner は研究者の脳、Executor は研究室のアシスタントです。この 3 つが連携することで、プロジェクトが進むごとに研究能力が向上していくのです。
推論の合間に、モデルが突然「悟り」を開く
しかし、MIA が直感に反する点はまだあります。
従来の AI はこうです。大量のデータを訓練 → モデルが完成 → 推論（デプロイ）。いったん稼働すればパラメータは固定され、新しい問題には無力です。
一方 MIA は、「極めて不束縛」なことを実行します。推論プロセスの中で自らパラメータを更新するのです。
彼はこのメカニズムにTest-Time Learning（テスト時学習）、略して TTL という名前をつけました。
具体的にどう行うのか。モデルが新しい問題に直面した際：
- 複数の異なる解決策を同時に生成します（プラン 1、プラン 2、プラン 3...）。
- それぞれを実行して結果を確認します。
- 良い結果だったプランには報酬を、悪い結果にはペナルティを自分に与えます。
- Planner のパラメータを更新し、そのままその問題を解き続けます。
この一連のプロセスは、まさに今解決しようとしている問題のフローの中で完結し、追加のオフライン訓練期間は不要で、サービスを中断する必要もありません。
言い換えれば、MIA の Planner はあなたの質問に答える際、答えながら学習しているのです。答えれば答えるほど、賢くなっていきます。
これは Deep Research Agent が抱える最も現実的な痛み、つまりデプロイ後の進化を解決するものです。「デプロイした瞬間がピークで、その後は忘却曲線を描いて性能が低下する」という状況はもはや過去のものとなります。
教師なしでも自己進化可能か？「学術査読」のシミュレーション
さらに厄介な問題があります。開かれた世界において、これらのプランの良し悪しを誰が判断するというのでしょうか？
もし毎回人間が正解をアノテーションする必要があるなら、このシステムは大規模な応用は不可能です。
MIA チームは、一見遠回りで、実は巧妙な設計を採用しました。学術会議の「ピアレビュー（同行審査）」メカニズムをシミュレートするというものです。
彼らは 3 人の「AI 査読者」を用意し、それぞれ異なる次元をチェックさせます。論理連鎖が通っているか、情報源は信頼できるか、タスクは真に完了したか。そして「分野議長」が 3 者の意見を統合し、最終的な A/B 判定を下します。
このシステムで最も興味深いのは、正解が何であるかを知る必要がないという点です。プロセスが「厳密な論理＋信頼できる情報源＋最小限のハルシネーション」を備えていれば、それは良い学習信号とみなされます。
これは教師あり学習なのか、それとも教師なし学習なのか。ニューヨーク大学の統計学者であるハード氏でさえ答えに窮するでしょう。しかし確かなのは、これにより MIA は人間によるアノテーションを一切行わずに自己訓練を完了し、性能が着実に向上したことです。第 1 ラウンドから第 3 ラウンドにかけて、複数の指標が上昇し続けました。
7B パラメータが 32B を撃破：この数字が意味するもの
概念の説明はここまでです。ここからは具体的な数字を見てみましょう。
MIA は 11 のベンチマークテストで包括的に進化を遂げました。その中で最も注目すべき結果がこれです。
実行者として Qwen2.5-VL-7B を使用し、7 つのデータセットで平均 31% の向上を記録。パラメータ数が約 5 倍ある Qwen2.5-VL-32B を 18% も上回る差をつけて撃破しました。
なぜ小規模モデルが大規模モデルを凌駕できたのでしょうか？
それは記憶アーキテクチャによる知能が、単なるパラメータ規模の優位性を超えつつあるからです。MIA により、7B という「体」が、本来 70B クラスでなければ持ち得なかった「経験学習能力」を獲得したのです。
もう一つ注目すべき数字があります。GPT-5.4 と比較し、MIA は LiveVQA タスクで 101% の向上（21.5 から 43.1 へ）を遂げました。LiveVQA はリアルタイム情報に基づく質疑応答のベンチマークであり、システムの動的知識獲得能力を極めて厳しく問うものです。これは、MIA の協調アーキテクチャが「自ら情報を調査する」という点において、純粋に事前学習された知識に依存する大規模モデルを上回ったことを示しています。
一方、従来の「長いコンテキスト記憶」を扱う手法（RAG や Mem0 など）は、むしろ「記憶なし」のベースラインよりも性能が劣る結果となりました。これは技術が間違っていたわけではなく、発想が間違っていたのです。つまり、「より多く記憶すること」が「賢くなること」に直結するわけではないのです。
AI における記憶の本質とは何か？
論文の最終ページで、著者らはプロジェクトの結びの言葉として、冒頭のアインシュタインの言葉を引用しています。
これは偶然の産物ではありません。MIA の核心的洞察はまさにここにあります。AI には「検索した文字列の内容」を記憶させるのではなく、「いかに学ぶか」という経路を記憶させるべきだということです。
従来の手法が記憶を積み上げるのが、学生がひたすらノートを写し取る行為だとすれば、MIA の手法は「メタ認知」、つまり学ぶ方法を学ぶ能力を構築するものです。
ただし、このアーキテクチャにも代償はあります。Test-Time Learning では複数のプランを生成して検証する必要があるため、推論コストは通常手法の 3〜4 倍になります。また、Manager を常駐させる必要があり、32B の「脳」を維持するには相応のハードウェアコストがかかります。
したがって、MIA は「即座に返信する」ようなリアルタイム性を要するシナリオには適していません。 むしろ、深い調査が必要で、数分単位の待機時間が許容されるタスク、例えば財務報告書の分析、競合他社の調査、複雑なシステム障害の診断などに最適です。
これらのシナリオにおいて、推論の「コスト」と引き換えに「品質」を得るというトレードオフは十分に価値のあるものでしょう。
結びに
Deep Research Agent は今、「使える」状態から「使いやすい」状態へと移行する重要な過渡期にあります。
パイプライン型の Memory RAG は限界に達しつつあり、自己進化能力を備えたエージェントが新たな天井を打ち破ろうとしています。
MIA の意義は、単にスコアをどれだけ更新したかということではありません。それが提示した新しいパラダイム、すなわち「すべてを記憶するのではなく、いかに情報を処理するかを学ぶ」「人間による監視に依存するのではなく、自己評価を学ぶ」「訓練時のみに学ぶのではなく、推論時にも進化し続ける」という点にあります。
おそらくこれこそが、アインシュタインが真に伝えたかったことではないでしょうか。真の知恵とは、頭の中の保存量にあるのではなく、新しい知識を取得し、処理し、内化していくための増分能力にあるのです。
その域に達して初めて、AI は真に人間のような「知恵」を手に入れ始めるのでしょう。
上級者向け学習リソース
マルチモーダル大規模モデルの最先端技術と応用を体系的にマスターしたい方は、私のプレミアムコースの受講をお勧めします。
本コースでは、主流のマルチモーダルアーキテクチャ、マルチモーダル Agent、データ構築、トレーニングフロー、評価手法、ハルシネーション分析を網羅し、複数の実践プロジェクトを併設しています。LLaVA、LLaVA-NeXT、Qwen3-VL、InternLM-XComposer（IXC）、TimeSearch-R による動画理解などが含まれ、アルゴリズムの解説からモデルの微調整・推論、サービスデプロイ、中核ソースコードの解析までを網羅しています。
本コースは現在更新中です。学習への参加は、私の個人公式サイトまたは B 站（ビリビリ）課堂から行えます。
B 站課堂（詳細は「全文を読む」をクリックして直接遷移します）：https://www.bilibili.com/cheese/play/ss33184
公式サイトリンク（中国国内からのアクセスには VPN が必要な場合があります）：https://www.tgltommy.com/p/multimodal-season-1