跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

研究提出将自回归大模型控制编译为策略精确的并行推理,提升分层RAG效率

一篇于2026年10月24日发布在arXiv(编号2610.30664v1)的研究论文提出新方法,将大语言模型在分层检索增强生成(Hierarchical RAG)中的自回归控制逻辑编译为策略精确(policy-exact)的并行推理流程,在MetaX设备上实现控制延迟降低35–47%,同时保持84–89%的策略一致性。

Compiling Autoregressive LLM Control into Policy-Exact Parallel Inference for Hierarchical RAG

推荐理由:该成果针对LLM作为结构化决策控制器时普遍依赖串行文本解码的瓶颈,提出理论可证的并行化编译方案;实验基于真实设备(MetaX、H800)和多数据划分验证,时效性强、技术细节明确,属前沿可信AI系统优化研究。

事件进展与其他报道

研究提出Delta N-gram:面向语言模型原生N元语法表的前向-only持续写入方法

2026年10月24日,arXiv发布论文arXiv:2610.31125v1,提出Delta N-gram——一种不修改预训练N-gram表T⁰、仅通过前向传播写入稀疏增量补丁Δ的新机制,支持高效、可逆的持续记忆更新。

Delta N-gram: Forward-Only Continual Writing into a Language Model's Native N-gram Memory

推荐理由:该工作针对持续学习中模型基础参数扰动大的问题,提出结构轻量(4.1M参数)、计算高效(纯前向)、完全可逆(清空Δ即恢复原始模型)的记忆增强路径,并在Qwen3.8-Flash-Next等模型上验证其更强的文档特异性与抗干扰能力,属前沿可信AI系统研究。

事件进展与其他报道