アンドレイ・カルパシー氏はかつて、自律型研究の次のステップとして、AI エージェントが SETI@home のように非同期で大規模に協力し、研究コミュニティ全体をシミュレーションすることを構想していました。
背景がわからない方は、過去の記事をご覧ください：
カルパシー氏、深夜に衝撃発表：オープンソースの「AI 研究者」コード 630 行を公開、5 分で 1 回訓練完了、シングルカードで動作可能、自己進化を実現
カルパシー氏が警鐘を鳴らす：大規模モデルの「最終決戦」が勃発！エージェント軍団が間もなく研究開発を完全掌握
現在、それを実現した人物が現れました。
autoresearch@home
Ensue.ai の共同創業者であるクリスティーヌ・イップ氏とそのチームは、カルパシー氏の autoresearch を基盤とし、協力型バージョンである「autoresearch@home」を構築しました。
このプロジェクトを説明する前に、まず SETI@home について触れます。これは 20 世紀末に UC バークレーが開始したプロジェクトで、世界中のボランティアが自らの PC の遊休計算リソースを提供し、電波望遠鏡のデータを共同で分析して地球外文明からの信号を探すというものでした。中央のスーパーコンピューターは存在せず、数百万台もの一般 PC が共有タスクプールを介して接続され、それぞれが一部のデータ処理を担当して結果を返却します。分散型協力によって、単一の機関では成し得なかったことを実現したのです。
autoresearch@home のロジックもこれと全く同じです。異なる点は、ボランティアを AI エージェントに置き換え、宇宙からの信号探索を AI/ML 研究のパラメータ空間探索に置き換えたことです。
中核となるメカニズムは、既存のフレームワーク上に調整レイヤーを追加し、異なるマシンや異なる GPU で動作するエージェントたちが、1 つの研究グループとして協調作業できるようにすることです。
具体的には、この調整レイヤーは以下の 4 つの機能を実行します。
1 つ目は、実験の請負です。エージェントはある実験を開始する前に、ネットワーク全体に対して宣言を行います。システムはセマンティック類似性チェックによって重複を回避し、自動失効メカニズムも備えています。
2 つ目は、結果の共有です。成功・失敗にかかわらず、全ての実験結果が完全な train.py ソースコードと共に公開され、いかなる結果でも再現可能であることが保証されます。
3 つ目は、グローバル最適解の追跡です。グループ全体で共有される最適設定を維持し、エージェントが定期的にそれを取得して採用します。
4 つ目は、仮説の交換です。エージェントは研究アイデアを投稿でき、他のエージェントがそれを選択して追従することが可能です。
共有される全ての状態は、Ensue 共有メモリストレージを介して管理され、構造は以下の通りです。
- claims/：現在誰が何を行っているか（15 分後に失効）
- results/：完了した実験の指標とソースコード
- hypotheses/：証拠を伴う実験アイデア
- best/train_py：グローバルに最適な train.py
- leaderboard：ランキング
Git はローカル環境に留まります。ネットワークには耐障害性が備わっており、調整レイヤーに問題が発生しても、エージェントは単独で動作を継続します。協力は能力の付加であり、依存関係ではありません。
参加方法について
接続手順は 3 ステップです。Ensue へのエージェント登録、API キーの取得、人間によるメール認証です。
その後、エージェントが collab.md を読み込み、招待トークンを介して自動的にグループに参加します。請負、公開、同期のすべてはエージェントが自動的に処理します。
ワークフローは「THINK（思考）→CLAIM（請負）→RUN（実行）→PUBLISH（公開）」の 4 段階に従います。まずグローバル最適解を取得して他者が既に行った実験を確認し、次に自身の方向性を請負い、5 分間訓練して val_bpb 指標をチェックし、最後に結果を公開します。
規模に関する 1 つの判断
単一のエージェントでさえ、既に印象的な成果を上げることができます。数百から数千ものエージェントが同じメモリを共有し、探索空間を協調して探求するとき、限界コストがゼロに限りなく近い並列実験が可能になります。
このシステムは AI/ML 研究に開放されており、ネットワーク上のあらゆるエージェントが参加可能です。
本プロジェクトは MIT ライセンスに準拠しています。
プロジェクト住所：
https://github.com/mutable-state-inc/autoresearch-at-home
--end--
著者：あなたの言う通り完全に正しい（YAR 師）