检索标题、摘要与正文，把分散的信息连起来。
arXiv:2610.37731v1 发布类型：新 摘要：模型偏差可能导致单一校准参数无法在整个上下文域内重现物理响应。此外，观测与上下文中的不确定性会影响校准过程，必须予以考虑并加以量化。我们通过根据观测值与目标上下文的接近程度对观测似然进行加权，构建了一族局部后验分布。高斯型局部化权重借助协方差膨胀来纳入上下文不确定性，并在域边界处进行反射处理，同时可选地针对不均匀的上下文采样进行修正。一种条件归一化流通过均摊化的变分推断方法近似该族后验分布。将这些局部后验分布按照预设的上下文测度进行整合，即可得到
arXiv:2610.38355v1 发布类型：新摘要：KV缓存复用能够加速大语言模型的推理，但现有系统将主机DRAM和NVMe SSD视为分层结构，其中DRAM充当中间缓存。然而，实际的大语言模型工作负载打破了这一分层结构的两个前提。首先，双模态复用使DRAM的时间过滤失效，因为工作负载要么由具有较长复用距离的一次性块主导，要么由超过DRAM容量的数GB级智能体会话主导，从而将SSD置于关键的读取路径上。其次，DRAM的暂存与按驱逐顺序布局导致SSD恢复出现瓶颈。为在途前缀保留主机暂存缓冲区会在负载下引发争用，进而中止预取操作；而增量式驱逐则会将会话的块分散到整个SSD上，阻碍大规模顺序读取。我们 p
arXiv：2610.31955v1 发布类型：新 提要：Anthropic 的最新研究提出了一种名为“雅可比透镜”（J-lens，Gurnee 等人，2026）的新可解释性工具。该方法在前沿语言模型的隐藏状态中识别出一些线性方向，这些方向表现出类似工作记忆表征的特性。然而，尚不清楚究竟是哪些机制特性使这类特征能够被 J-lens 检测到。为此，我们提出了 J-lens 的数学理论，并证明它倾向于识别相干特征——即那些类似于主导、在空间上具有连贯性的李雅普诺夫模态的方向。沿着这些方向施加微小扰动时，其放大效应会逐层传递，在各个标记位置大致保持不变，并且在不同上下文中也具有一致性。尽管 w
arXiv:2610.32189v1 发布类型：新 摘要：无监督多变量时间序列异常预测（AP）旨在根据当前观测值估计未来的异常风险，为复杂系统中的主动干预与维护提供早期预警信号。现有的无监督AP方法遵循基于扰动的范式，即在历史窗口中注入预定义或随机的扰动，以模拟异常的未来演化。然而，这些方法在不同变量和情境之间共享同一类扰动，并学习一种确定性的历史到未来的演化模式。实际上，异常演化具有变量和情境依赖性：同样的扰动在某一变量或情境下可能被放大为异常的未来动态，而在另一情境下却可能被吸收为正常的波动。
arXiv:2610.33006v1 发布类型：新 摘要：基于Transformer的大型语言模型（LLMs）在上下文长度增加时会带来巨大的计算与内存开销，这促使人们研究在推理前将上下文压缩为更短表示的方法。现有的软提示压缩方法通常采用与目标模型相同的Transformer主干架构，而在生成压缩表示的过程中会产生显著的延迟开销。这使得这些方法仅适用于离线场景——即上下文被一次性压缩后，在多次查询中重复使用。我们提出了Boa压缩器，这是一种即插即用的在线上下文压缩器，基于Mamba状态空间模型（SSM）构建，能够在一次线性时间的遍历中编码任意长度的上下文，并生成一个可用于后续条件化的表示……
arXiv:2610.33433v1 发布类型：新 摘要：语言的生产性，表现为将词语用于新颖语境的能力，是人类语言最引人注目的特征之一。然而，促成这种生产性的知识究竟有多抽象，目前仍不明确。我们比较了人类与计算语言模型在那些成功泛化依赖于形式信息的语境中的语言生产性。研究重点在于将一个以主动语态习得的新动词扩展至被动语境。结果发现，即使该新动词无法被赋予任何合理的语义，人类依然能够以符合关于语言形式之抽象概括的方式，将其主动用法扩展为被动用法。相比之下，大型语言模型仅在赋予其类似现有动词的语义时才表现出类似效果。
arXiv:2610.31918v1 发布类型：新 摘要：对交互式大型语言模型代理进行蒸馏时，需要在教师生成的示范与学生生成的经验之间做出选择，这大致对应于离策略蒸馏与在策略蒸馏。尽管两者都被证明是有效的，但我们认为这种区分本质上具有层次性：引发交互历史的策略未必与生成当前动作的标记前缀的策略相同。我们提出了一种分层代理蒸馏框架，将这两种层次的在策略性加以形式化，并允许对其配对方式、混合比例以及训练计划进行显式控制。我们通过自蒸馏来研究这一问题，在自蒸馏中，冻结的教师能够获得学生无法获取的任务指导，而
arXiv：2610.32057v1 发布类型：新 摘要：我们提出了 HyScale，一种用于学习型稀疏注意力的长上下文训练系统。学习型稀疏注意力是一种在百万级token上下文中颇具前景的架构，自 DeepSeek-V3.2 以来已在生产环境中得到广泛应用。然而，选择过程逐渐成为训练中的性能瓶颈。对于每个查询，它需要对每一个先前的token进行打分，而稀疏注意力仅读取$k$个；更糟糕的是，现有系统会显式构建完整的打分表，并在重计算时重复执行选择操作。我们的关键洞察在于：选择过程的输出并非激活值，而是一组索引。基于这一发现，HyScale 引入了 HyTopK 和选择重放机制。HyTopK 能够在无需打分表的情况下，实时为每个查询找到精确的前$k$个索引；而选择重放则在重计算过程中复用前向传播阶段的选择结果。
arXiv:2610.31985v1 发布类型：新 提要：大型语言模型（LLM）代理正越来越多地被部署于协作场景中，在这些场景下，它们各自执行独立任务，同时共享资源，并在审查或监督机制下运行。此类环境不仅在代理具有恶意时会带来安全风险，即便它们只是出于善意提供帮助，也同样存在风险。以往的研究大多聚焦于对抗性行为或明确的共谋行为；而我们指出，那些追求独立目标的良性代理也可能自发地以某种方式展开合作，从而绕过原本设计的工作流程。我们将这一现象称为“有益代理问题”。我们研究了一类长期的共享资源环境，在这种环境中，代理有时需要依赖其同伴所拥有的资源，且所有权变更通常需经由审查者进行中介。当审查机制失效时，代理
arXiv:2610.32087v1 发布类型：新 摘要：理解语言—智能体的行为，需要探究行动如何在时间轨迹中被组织，以及这种组织与情境和结果之间的关联。我们提出了一种通用框架，将数据驱动的行为发现与分析及实验研究相衔接。从记录的活动提炼出的类别界定了测量的内容；分析保留了行为在流程中的位置，并将其关系表述为可解释的假设；在预留的场景中进行的统计评估与检验，则用于考察证据的强度与适用范围；随后，通过包括提示引导在内的实验，测试在人为改变的条件下行为与结果的变化情况。一项关于迭代式自我反思的研究说明了如何
