一篇题为《Compiling Autoregressive LLM Control into Policy-Exact Parallel Inference for Hierarchical RAG》的研究论文于2026年10月24日发布在arXiv（编号2610.30664v1），提出一种将大语言模型（LLM）在分层检索增强生成（Hierarchical RAG）中执行的自回归控制逻辑，编译为策略精确（policy-exact）并行推理的新方法。
该方法摒弃传统串行语法约束生成（如JSON输出），转而构建浅层动作前缀树，通过一次根预填充（root prefill）与一次树因果探针（tree-causal probe）评估所有前缀条件下的动作分布，并借助‘前缀状态引理’（prefix-state lemma）在精确算术下保证策略等价性——即获得与串行解码完全相同的控制策略，但仅需两步前向传播且零输出token。另一次探针传递可认证精确的序边际最大后验（order-marginalized MAP）集合。
实验在四个文档互斥数据集划分及两种规模下，于主设备MetaX上完成评估：编译控制在84–89%的问题上与串行政策一致，所有偏差均源于浮点计算近似相等情形；控制延迟相较逐token串行解码降低35–47%，相较理想化分块引擎亦降低6–7%；在H800设备上的重复实验确认结果排序一致性得以保持。