過去2年間、エンドツーエンドOCRが新たなブームを迎え、DeepSeek OCRを代表とする手法が大規模言語モデル（LLM）をデコーダーとして活用し、言語事前知識を借りて認識精度を大幅に向上させました。
しかし、この類の手法には内在的な欠陥が存在します：出力シーケンスが増え続けるにつれ、KVキャッシュが持続的に膨張し、大量のVRAMを消費するだけでなく、各デコードステップのレイテンシが徐々に長くなるのです。
既存モデルの多くは、forループに似た方式で逐次ページ処理を行い、1ページ処理完了ごとにメモリをリセットし、次のページへ切り替えます。この方式は本質的にエンジニアリング的なパッチであり、真の意味での長距離理解能力ではありません。
対照的に人間は、本を書き写す際、書いた内容すべてを持続的に振り返るのではなく、注意を3箇所に集中させます：書き写している原文、直前に書いた少数の文字、そして次に書く予定の文字。すでに書いた内容については、人間は一種の「ソフトな忘却」によって徐々に記憶から薄れさせます。このメカニズムにより、人間は極めて低い認知負荷で数百ページの連続転写タスクを完遂できます。
この着想を受け、百度チームは「無限OCR」（Unlimited OCR）を提案し、デコーダー内のすべての注意層を「参照スライドウィンドウ注意」（Reference Sliding Window Attention、R-SWA）に置き換えました。これにより注意計算のオーバーヘッドを低減しながら、デコードプロセス全体で恒常的なKVキャッシュを維持しています。
論文リンク：https://arxiv.org/pdf/2606.23050
GitHubアドレス：https://github.com/baidu/Unlimited-OCR
論文によると、DeepSeek OCRエンコーダーの高圧縮率と恒常的KVキャッシュ設計を組み合わせることで、Unlimited OCRは標準的な32k最大長制限下で、単一の前方伝播により数十ページの文書を転写可能です。
より重要なのは、R-SWAは汎用的な解析注意機構であり、OCR以外にもASR、翻訳などのタスクに同様に適用可能だということです。
R-SWAの設計ロジック
標準的なマルチヘッド注意（MHA）は全量KVキャッシュを採用し、出力トークン数に比例して線形に増加するため、占有VRAMと計算時間も同期的に増大します。10万トークン出力が必要な複数ページ文書の場合、KVキャッシュが無限に膨張し、推論速度も持続的に低下します。これが現在のすべてのエンドツーエンドOCRモデルが「本丸ごと一度で解析」できない根本原因です。
R-SWAは注意を2セグメントに分割します：参照セグメント（reference）とデコードスライドウィンドウ（decode window）です。
参照セグメントはビジュアルトークンとプロンプトを含み、デコードプロセス全体でグローバルに可視であり、状態遷移に参加しません。ビジュアル特徴は一度だけエンコードされ、その後静止不変となります。この設計により、通常のスライドウィンドウ注意（SWA）がビジュアルトークンもスライドループに含めることで生じる「ビジュアル特徴が徐々にぼやける」問題を回避します。
デコードスライドウィンドウの幅はn（デフォルト128）で固定され、因果的な方式で右方向へスライドします。新しいトークンが生成されるたび、最も早くウィンドウに入ったトークンのKVがキューから排出されます。これにより、デコード側のKVキャッシュ規模は常に固定容量内に制限され、出力長に比例して線形増加しません。
図｜R-SWAと標準全量注意のKVキャッシュ対比概要図。
長シーケンスデコードにおけるKVキャッシュ総量の対比は特に顕著です。出力トークン数がウィンドウ幅を大きく超える場合、R-SWAのキャッシュ占有は有界定数に収束するのに対し、MHAのキャッシュは無上限に増加し続けます。この差は出力長の増大に伴って拡大し、まさにR-SWAが準無限解析を実現する理論的基盤となっています。
Unlimited OCRはDeepSeek OCRの DeepEncoder エンコーダーを継承しています。DeepEncoderはSAM-ViTとCLIP-ViTをカスケード接続し、接続ブリッジで16倍のトークン圧縮を実施することで、1024×1024のPDFページ画像を最終的に256個のビジュアルトークンのみに圧縮します。この極めて高い圧縮率により、数十ページを同時入力しても、prefill段階で生成されるビジュアルトークン総量は比較的制御可能です。
DeepEncoderがビジュアル側を圧縮し、R-SWAがデコード側を安定化させる。この二者の組み合わせが、Unlimited OCRの32K最大長制限下での数十ページ一度の解析能力を共に支えています。
図｜Unlimited OCR全体アーキテクチャ概要図。
実験結果
1.単ページ文書：エンドツーエンドSOTA達成
研究チームはOmniDocBench v1.5とv1.6でUnlimited OCRを評価し、現在主流のエンドツーエンドVLM（視覚言語モデル）手法と体系的に比較しました。
OmniDocBench v1.5では、Unlimited OCR（3B-A0.5B）が93.23のOverallスコアを獲得し、DeepSeek-OCRを6.22上回りました。OmniDocBench v1.6では、Unlimited OCRが93.92%のOverallスコアでエンドツーエンド手法のSOTAを達成し、Logics-Parsing-v2（93.33%）、FireRed-OCR（93.26%）などの同期作業を上回りました。
研究チームはさらに、OmniDocBench v1.5がカバーする9種類の文書タイプ（学術論文、書籍、試験用紙、雑誌、新聞、付箋等）についてカテゴリ別比較を行いました。
結果、Unlimited OCRはすべてのカテゴリのすべての指標でDeepSeek OCRを上回り、9項目の文字編集距離と読み順指標のうち7項目でDeepSeek OCRを2以上上回りました。これはR-SWAの導入が無損傷の向上をもたらすことを示しています。
2.長距離解析：複数ページ一度の転写
これはUnlimited OCRをすべての既存モデルから差別化する核心能力です。研究チームは内部テストセットを構築し、小説、学術文書、論文を収集、ページ数で2、5、10、15、20、40+ページの6段階に分類し、各段階10冊以上として、複数ページ一度の解析性能を評価しました。
Distinct-nは生成テキスト中の非重複n-gram比率を測定し、モデルが長距離生成においてループ繰り返しに陥っているかを検出する重要指標です。40ページ以上のシナリオでも、Distinct-35は96.90%に達し、編集距離は0.11以内に維持されています。
研究チームは、この類シナリオでの誤認識は主にPDF画像内の小さなフォントテキストが1024×1024解像度で識別困難なことに起因し、R-SWAが長距離推論で方向を見失ったことではないと指摘しています。
3.推論効率
推論スループット（TPS）において、出力シーケンスが長くなるにつれ、DeepSeek OCRのTPSは持続的に低下します：6000トークン出力時に5822.87 TPSまで低下するのに対し、Unlimited OCRは7847.71 TPSを維持し、約35%リードしています。
単ページOmniDocBench評価シナリオ下でも、Unlimited OCRのスループットはDeepSeek OCRより12.7%高い（5580 vs. 4951 TPS）です。
Flash Attention v3カーネルの各ステップ呼び出しレイテンシはUnlimited OCRでは常に安定していますが、DeepSeek OCRではデコードステップに比例して線形増加し、KVキャッシュが特定のアライメント境界を超えると急落します。
不足と今後の方向性
研究チームは、現在のUnlimited OCRは有限コンテキスト長（32Kなど）下では真の意味での「無限」解析を実現できないと指摘しています。prefill側の長さが依然としてコンテキストウィンドウの制約を受け、入力ページ数増加に伴い、prefill段階のビジュアルトークン総量も累積するためです。
短期計画として、最大訓練コンテキストを128Kに拡張し、より多くのページの一度のprefillをサポートすること。長期目標として、prefillプールを構築し、モデルが必要に応じてKV断片を自動読み取り可能にすることで、人間がページをめくる際の記憶検索行動をシミュレートし、真の無限解析を実現することです。
さらに、R-SWAを自動音声認識（ASR）や翻訳など、同様に参照入力を持つ長距離タスクへ移植する計画もあります。
Unlimited OCRが明らかにした核心的結論、すなわちエンドツーエンドモデルのデコーダーにおいて全量注意をR-SWAで完全置換しても解析タスクに無損傷であることは、有限リソースで長距離推論能力をてこ入れする実用的パスを提供します。
KVキャッシュをデコード長に比例して無限増加する量から有界定数へと変えるこの変更は、OCR以外のより広範な参照型長距離生成タスクへの応用が期待されます。
整理：ジョージ
転載や投稿をご希望の場合、本記事のコメント欄に直接メッセージをお残しください