研究提出Delta N-gram:面向语言模型原生N元语法表的前向-only持续写入方法
2026年10月24日,arXiv发布论文arXiv:2610.31125v1,提出Delta N-gram——一种不修改预训练N-gram表T⁰、仅通过前向传播写入稀疏增量补丁Δ的新机制,支持高效、可逆的持续记忆更新。
推荐理由:该工作针对持续学习中模型基础参数扰动大的问题,提出结构轻量(4.1M参数)、计算高效(纯前向)、完全可逆(清空Δ即恢复原始模型)的记忆增强路径,并在Qwen3.8-Flash-Next等模型上验证其更强的文档特异性与抗干扰能力,属前沿可信AI系统研究。
