『Compiling Autoregressive LLM Control into Policy-Exact Parallel Inference for Hierarchical RAG』という題名の研究論文が、2026年10月24日付でarXivに掲載され（ID 2610.30664v1）、階層型検索強化生成（Hierarchical RAG）において大規模言語モデル（LLM）が実行する自己回帰的制御ロジックを、ポリシー正確（policy-exact）な並列推論へとコンパイルする新たな手法を提案している。
この手法は、従来の逐次的な文法制約生成（たとえばJSON出力）を廃し、代わりに浅いアクションプリフィックス木を構築します。そして、ルートプレフィルとツリーカウザルプローブをそれぞれ一度ずつ実行することで、すべてのプリフィックス条件下におけるアクション分布を評価します。さらに、「プリフィックス状態補題」を用いることで、厳密な算術計算のもとで方策の等価性を保証します。すなわち、逐次的デコーディングと完全に同一の制御方策を得ながら、前向き伝播はわずか2ステップで済み、出力トークン数はゼロです。また、もう一度のプローブを通じて、順序マージナライズドMAP集合を正確に認証できます。
実験は、4つの文書相互排他的データセットの分割および2つの規模において、メインデバイスであるMetaX上で評価を実施しました。コンパイル制御は、84～89％の問題でシリアルポリシーと一致しており、偏差はすべて浮動小数点演算における近似等価性に起因しています。また、制御遅延はトークン単位の逐次的デコードに比べて35～47％短縮され、理想的なブロック化エンジンと比較しても6～7％短縮されました。H800デバイスでの再実験により、結果の順序の一貫性が維持されていることが確認されました。