研究揭示不同长上下文模型在证据位置敏感性上的系统性差异
一项发表于2026年10月24日arXiv的实证研究(论文编号2610.31135v1)比较了Transformer、状态空间模型(state-space)及混合Mamba架构在长上下文问答任务中的位置偏置现象,发现Transformer模型普遍表现出对起始位置证据的利用优势,而状态空间模型缺乏该特性;两类模型却均偏好结尾位置证据。
推荐理由:该研究基于可控实验设计(固定9个干扰文档、滑动单个黄金文档),首次在统一评估框架下横向对比三类主流序列建模架构的位置敏感性,揭示了模型能力与架构类型、提示工程、任务性质的强耦合关系,对长上下文AI系统的设计与调试具有直接参考价值。
