Baiduは、非常に長い文書向けに構築されたオープンソースのOCRモデル「Unlimited OCR 2」を公開しました。この3B規模のモデルは、数百ページに及ぶ書籍や提出書類、報告書を一度のリクエストで解析できます。その核心的な変更点は、各ステップのデコーディングコストをほぼ一定に保つスパースアテンション手法「SR-SWA」です。ライセンスはMIT Licenseで、コードはGitHub上で公開されています。
要約
サイズ:3.34Bパラメータ。アクティブなパラメータは非公開。最大位置長は131,072トークン。
動作環境:BF16で1基のCUDA GPU。百度はNVIDIA A800-80GBでテストを行った。BF16の重みの総サイズは約6.7 GBである。
性能:Baiduが実施した複数ページのベンチマークにおいて、他の9モデルと比較して首位(自己報告による)。
最高:MarathonDocBenchで総合スコア77.1(数百ページ)。次のモデルであるKimi-K3のスコアは33.7です。
最悪:MarathonDocBenchにおける見出し階層(TEDS)のスコアは48.2で、これは同ツールの最も低いサブスコアです。
Unlimited OCR 2とは何ですか?
Unlimited OCR 2は、百度が提供する3B規模のビジョン・ランゲージモデルで、順序付けられたページ画像を構造化されたテキストに変換します。出力には、テキスト、表、数式、図、見出し、および読み取り順序が含まれます。これは、2026年6月にリリースされ、DeepSeek-OCRをさらに進化させたUnlimited-OCRの後継です。
設定はDeepSeek-OCR風のレイアウトを維持しています。SAM ViT-BとCLIP-Lのエンコーダーが、12層からなる混合専門家型デコーダーに供給されます。各トークンは64個の専門家の中から6つにルーティングされ、さらに共有される専門家2つも利用します。DeepSeek-OCRの論文では、このデコーダーをDeepSeek3B-MoE-A570Mと記述しています。百度はバージョン2におけるアクティブな専門家数を明示していません。複数ページモードでは、各ページあたり273の画像トークンが消費されます。
SR-SWAはどのように機能するのでしょうか?
全注意力のコストは、シーケンス長に応じて2乗的に増加します。デコーディング中には、新しいトークンが生成されるたびに、より長いKVキャッシュをスキャンする必要があります。1ページあたり273個の画像トークンの場合、100ページ分で、出力が生成される前に27,300個もの入力トークンが追加されます。
SR-SWAは、Sparse Reference Sliding Window Attentionの略です。これは、テキストと視覚的な注意を固定された作業用参照セットに圧縮します。Baiduのモデルカードでは、例として512トークンが示されています。構成では、128トークンの局所ウィンドウと、32トークンのブロックに対するトップ16選択が組み合わされています。つまり、32トークンからなる16個のブロックで、512トークンの予算に合致しています。
これにより、ドキュメントが増大しても、ステップごとのレイテンシとメモリ使用量はほぼ一定に保たれます。この手法は、有限のコンテキストウィンドウ内での「無制限ホライズン」パーシングと呼ばれています。ただし、画像エンコード処理と全体の実行時間は依然としてページ数の増加に伴って上昇します。
MPDocBenchおよびMarathonDocBenchでは、どのようなスコアを獲得していますか?
Baiduチームは、文書あたり数十ページのMPDocBenchと、数百ページのMarathonDocBenchでテストを実施しています。MPDocBench-Parseは、433件の文書と3,246ページからなる公開ベンチマークです。一方、MarathonDocBenchの公開リリースは見つかりませんでした。
Baiduのランキング表によると、Unlimited OCR 2はMPDocBenchで84.6点を獲得しています。次いでQwen3.8-Maxが78.3点、Qwen-3.8-Flash-Nextが77.4点と続きます。MarathonDocBenchでは77.1点を記録しています。その後にKimi-K3が33.7点、続いてGemini-3.8-Flashが28.6点となっています。
ベンチマーク間の低下こそが本当の話だ。Qwen3.8-Maxは、100ページの文書においてスコアが78.3から22.9へと下落する。Unlimited OCR 2は7.5ポイント低下し、その前モデルであるUnlimited-OCRはMarathonDocBenchで0.0点を記録している。
サブスコア(MPDocBench / MarathonDocBench):
94.8 / 89.6
式:89.4 / 87.9
読み取り順:92.3 / 85.3
テーブル:87.8 / 74.8
見出しの階層構造:60.1 / 48.2
MPDocBenchにおける単一指標のマージンはわずかです。Qwen3.8-Maxは、テキストで94.3点、数式で89.2点を記録しています。すべての数値は自己申告によるもので、チャート画像にのみ表示されています。
他のオープンソースOCRモデルとの比較
Unlimited OCR 2Unlimited-OCRDeepSeek-OCR-2PaddleOCR-VL-1.6開発者BaiduBaiduDeepSeekBaidu PaddlePaddleパラメータ3.34B3.34B3.39B0.96Bアクティブなパラメータ非公開非公開非公開非公開ライセンスMITMITApache 2.0Apache 2.0論文/リリース2026年10月(レポート)2026年6月(arXiv)2026年1月(arXiv)2026年6月(arXiv)長文処理メカニズムSR-SWA、512トークンの参照セットマルチページ推論マルチ、SR-SWANo公開されていない公開されていないMPDocBench 総合84.6(Baidu)61.9(Baidu)報告されていない報告されていないMarathonDocBench 総合77.1(Baidu)0.0(Baidu)報告されていない報告されていないサービス提供Transformers、カスタムSG言語Transformers、vLLM、SG言語Transformers、SG言語PaddleOCR、Transformers
各モデルのHugging Faceページに記載されたパラメータ数とライセンス情報。Baiduのチャートに掲載されたベンチマークスコア。
Unlimited OCR 2はどのように実行しますか?
モデルカードには、迅速なテスト用にTransformersが、サービス用にSGLangが記載されています。Transformersでは、gundamモードと呼ばれる動的タイリングを用いた1ページの処理を実行します。infer_multiは、ドキュメントの各ページを1回のリクエストで解析するため、モデルはページ間のコンテキストを保持できます。ロード時にはtrust_remote_code=Trueを指定する必要があり、これによりリポジトリ内のPythonコードが実行されます。
SGLang サービングでは、アップストリームの SGLang ではなく、百度がカスタマイズした Wheel を使用しています。百度の例では、各ウィンドウで 10 ページをスケジュールし、前回のウィンドウの KV の末尾を再利用しています。ウィンドウサイズを小さくするとピークメモリ使用量は抑えられますが、ページ間のマージ機能が弱まります。また、デフォルトのバイアス設定では、462 MiB の割り当てが発生してメモリ不足に陥るおそれがあると、百度は警告しています。
主なポイント
Unlimited OCR 2は、百度が提供する3.34B規模のMITライセンス下のOCRモデルです。
SR-SWAは、固定の512トークンの参照セットに注目します。
MarathonDocBenchでは77.1点を記録しており、次に高いモデルは33.7点です。
見出しの階層構造は、長文ドキュメントにおいて48.2というスコアで弱点となっています。
すべてのベンチマーク数値は、百度独自のものです。
モデルカード、技術レポート、およびGitHubリポジトリをご覧ください。また、Twitterでもぜひフォローしていただき、15万人超のML SubRedditへの参加とニュースレターの購読もお忘れなく。おっと!Telegramをご利用ですか?今ならTelegramでも私たちに参加できます。
GitHubリポジトリ、Hugging Faceページ、製品リリース、ウェビナーなどのプロモーションについて、当社と提携しませんか?ぜひご連絡ください。
記事「Baidu、百ページに及ぶ文書の解析向け無制限OCR 2をオープンソース化」は、MarkTechPostに最初に掲載されました。