检索标题、摘要与正文，把分散的信息连起来。
arXiv：2610.33008v1 发布类型：新 摘要：扩散大型语言模型（dLLMs）通过迭代式掩码去噪实现灵活的生成，但由于在每一步去噪过程中都需要反复重新计算标记表示，因此带来了巨大的推理开销。现有的基于缓存的方法通过在各步去噪中复用中间结果，并且仅在每一步重新计算一部分位置来降低这一开销，这些位置要么按固定的时间间隔选择，要么依据变化的启发式信号确定。相比之下，我们的轨迹实验表明，解码轨迹才是更为相关的指标。当缓存生成的结果始终接近完整去噪轨迹时，其准确性依然较高；误差主要集中在未掩码顺序的偏差上，并且随着较长参考前缀的逐步恢复而逐渐减小。这表明
arXiv:2610.32189v1 发布类型：新 摘要：无监督多变量时间序列异常预测（AP）旨在根据当前观测值估计未来的异常风险，为复杂系统中的主动干预与维护提供早期预警信号。现有的无监督AP方法遵循基于扰动的范式，即在历史窗口中注入预定义或随机的扰动，以模拟异常的未来演化。然而，这些方法在不同变量和情境之间共享同一类扰动，并学习一种确定性的历史到未来的演化模式。实际上，异常演化具有变量和情境依赖性：同样的扰动在某一变量或情境下可能被放大为异常的未来动态，而在另一情境下却可能被吸收为正常的波动。
arXiv：2610.33062v1 发布类型：新 摘要：统一的大型多模态模型（ULMMs）能够通过交错进行的文本-图像生成来执行视觉推理，但生成显式的中间图像会带来显著的计算开销。尽管视觉潜在推理可以解决这一问题，但现有方法大多依赖于无法进行视觉生成的视觉-语言模型（VLMs）。我们提出了一种名为Oddin的新框架，能够在ULMMs中实现潜在的视觉推理。Oddin用紧凑的潜在标记取代中间图像，这些标记完全由理解分支处理，而生成分支则专门用于生成最终输出图像。我们通过离线自蒸馏训练该模型，包含三项优化目标：最终图像生成损失、文本蒸馏损失以及交叉熵损失，用于
arXiv：2610.32104v1 发布类型：新 摘要：为刻画Transformer架构的能力与局限性，人们已发展出若干形式化理论，这些理论分别采用不同的抽象方法，以捕捉该架构的不同特性。由于其底层假设与概念框架存在差异，这些理论在预测Transformer对哪些任务感到容易或困难时往往意见不一。我们梳理了七种关于Transformer能力的理论（Star-free、$\mathsf{AC}^0$、$\mathsf{TC}^0$、C-RASP、MPC、BAPO以及敏感性），并将其研究结果转化为一张通用的预测矩阵，覆盖一系列涉及不同计算结构的任务。我们还提供了新的理论成果，以完善这一矩阵。随后，我们对这些理论进行评估
arXiv:2610.33047v1 发布类型：新 摘要：长期运行的智能助手常常需要理解那些其指代对象、约束条件以及主动目标早在多轮对话前就已经确立的后续请求。因此，核心挑战不仅在于上下文长度，还在于检索意图：例如，当前查询“使用之前的配置”可能遗漏了用于定位相关证据所需的项目、实体和版本等关键术语。长上下文模型可以通过重放交互过程来恢复这些术语，但同时也需反复承担处理历史信息的开销。传统的检索增强生成（RAG）方法成本较低，却假定查询本身已包含充分的信息；而对话式改写要么重新读取历史，要么依赖于显式维护的文本记忆。我们提出了\emph{参数化会话状态}
arXiv:2610.33274v1 发布类型：新 摘要：大型语言模型（LLM）智能体在不同场景下有着截然不同的记忆需求。关于过往对话的问题需要精确引用其中提及的事实，而多步骤任务则需要记录已执行的每一步，并附上下一步无法直接表述的细节。现有的各类记忆系统往往针对某一特定场景进行设计与测试。诸如A-Mem之类的检索型记忆会遗漏当前查询未明确表达的步骤，摘要则会丢失精确的字符串信息，而将两者结合又会在事前就固定了内存预算的分配。我们提出FlexA-Mem，这是一种通用的记忆机制，它将历史中的每一项内容仅写入一次不可更改的存储中，并为每次调用生成一份全新的记忆。生成的记忆是一份紧凑的记录时间线，外加由固定规则所决定的详细信息……
arXiv：2610.32022v1 发布类型：新 摘要：在人机交互中，意图识别要求智能体通过推断说话者的潜在目标来化解含糊不清的自然语言指令。近年来，研究日益聚焦于两种颇具代表性的范式来应对这一任务：结构化符号推理与多模态输入增强。然而，在那些歧义源于未明示的人类意图而非缺失可观测场景信息的情形下，基于增强的方法是否确实具有优势，仍不明确。本文开展了一项对比与诊断性研究，将采用结构化社会与具身推理的FISER框架与CEMIR（上下文增强型多模态意图识别）方法进行基准测试——后者是一种实施多模态增强的技术。
arXiv：2610.32128v1 发布类型：新 摘要：当与决策相关的证据深埋于冗长且嘈杂的上下文之中时，RAG 以及检索增强型少样本指令微调（ICL）往往难以应对。检索得到的段落和示例可能包含冗余或干扰性信息。尽管由专家标注的开发示例能够识别出支持每项决策的文本，但这些标注通常仅被用作答案侧的理由，而非用于过滤噪声检索的监督信号。我们提出了一种“银色证据”示例方法，即在 ICL 示例中，用生成的、针对目标条件的证据摘要替代原始检索到的段落。对于每个已标注的开发示例，大型语言模型会在无法访问专家标签或黄金证据的情况下生成“银色证据”；随后，这些“银色证据”将与专家标签配对使用。
arXiv：2610.32215v1 发布类型：新 摘要：现代GPU数据中心日益强大的算力，使少数几家行业巨头得以在海量数据上训练并部署大型语言模型（LLMs）。然而，这些模型及其训练数据的庞大规模，使得集中式开发越来越难以为继，同时也将那些拥有相关私有数据但缺乏同等基础设施的小型机构拒之门外。本文围绕预训练与微调两大范式，梳理了我们在分布式LLM训练方面的立场，涵盖联邦学习、分割学习以及去中心化方法，并评估了它们在异构硬件与连接不稳定等地理分布式环境中的适用性。随后，我们提出了一种{\em 统一}的系统
