保留完整资讯流，用来源、主题和时间找到你关心的消息。
arXiv：2610.33027v1 发布类型：新 摘要：下一个标记预测（NTP）仅奖励紧随其后的那个标记，而对所有其他可能的候选标记均予以惩罚。然而，自然语言往往存在多种表达相同意义的方式。我们提出了一种名为 Conceptizer 的训练框架，它在下一个标记预测的基础上，额外引入了针对语义的奖励机制。Conceptizer 采用一个固定且与模型无关的约 9,000 个概念词汇表，该词汇表由上下文中的同义词构建而成，用以作为语义的基本单位，与作为文本基本单位的标记并列使用。它将每个下一个标记的分布映射为一个概念分布，并在目标语义的所有可能表述之间共享相应的奖励。这一方法能够在不增加模型参数的前提下，提供概念级别的训练信号。在应用于包含 10 亿至 80 亿参数的三类模型时，Conceptizer 实现了最低的保留集 NTP 对数困惑度。
arXiv:2610.33001v1 发布类型：新 摘要：当合法的写作目标发生冲突时，学术修改便呈现出治理难题。写作过程与社会科学的研究表明，修改具有递归性，且措辞承载着认识论与学科层面的承诺。这些文献指出了若干重要约束，却未能明确在简洁性、发表形式或风格多样性与证据及主张边界发生冲突时，究竟应以何者为优先。本文将修改建模为一种在有序约束下的可接受性问题。任务相关的不变量、情境约束以及可变的呈现方式共同界定可接受的空间；而一项主张保持契约则将证据与判断与经授权的主张边界相联结。四项治理命题具体阐明了p
arXiv：2610.33018v1 发布类型：新 摘要：学术知识图谱（SKGs）支持文献检索、科学发现以及智能体辅助研究。然而，大多数构建学术知识图谱的方法都预先规定了所要表示的知识单元，通常以学术实体或贡献层面的陈述为名，并且仅保留能够通过该单元表达的出版内容。这种选择导致了两种主导但截然不同的范式：以概念为中心的学术知识图谱侧重于保存实体及其局部关系，而以陈述为中心的学术知识图谱则聚焦于以句子形式呈现的高层次话语。在这两种情形下，图谱反映的都是所选定的抽取目标，而非论文实际如何构建并传达知识。我们提出了 SUDO——学术上层话语本体，它定义了知识的……
arXiv：2610.32179v1 发布类型：新 提要：神经架构搜索（NAS）成本高昂，但通过复用先前任务的知识，跨任务迁移能够有效降低成本。然而，现有方法在处理稀疏的搜索历史以及任务特定的迁移失败时面临困难。我们提出了一种风险稳健的策略，该策略通过基于冠军的初始化和联合的成对排序器预训练，将稀疏的源日志与零成本代理相结合。在 TransNAS-Bench-101 上，该方法显著缓解了严重的最差情况下的失败，使微观自动编码任务的最差10%排名从290降至43，宏观房间布局任务的最差10%排名从465降至45。在13个细胞空间目标上，该方法在平均性能和最差情况性能两方面均优于仅使用代理的排序器，并且在平均性能上仍保持竞争力。
arXiv：2610.32431v1 发布类型：新 摘要：一次失败的视觉—语言—动作（VLA）展开并不意味着所有动作都导致了失败。然而，在群体相对策略优化（GRPO）中，展开中的所有动作都会被赋予单一的轨迹级优势。这样一来，那些本可带来帮助的恢复尝试也可能与其试图纠正的错误一同受到惩罚。我们利用成功概率与策略得分的鞅理论，刻画了用于失败反馈的理想停止条件。在这些停止点上，基于保留信息的条件期望下，被移除的梯度贡献的条件期望为零。因此，截断操作既能保持参考GRPO群体梯度估计器的期望值，又能降低其协方差。其中一种停止情形发生在成功条件概率达到……时。
arXiv：2610.32104v1 发布类型：新 摘要：为刻画Transformer架构的能力与局限性，人们已发展出若干形式化理论，这些理论分别采用不同的抽象方法，以捕捉该架构的不同特性。由于其底层假设与概念框架存在差异，这些理论在预测Transformer对哪些任务感到容易或困难时往往意见不一。我们梳理了七种关于Transformer能力的理论（Star-free、$\mathsf{AC}^0$、$\mathsf{TC}^0$、C-RASP、MPC、BAPO以及敏感性），并将其研究结果转化为一张通用的预测矩阵，覆盖一系列涉及不同计算结构的任务。我们还提供了新的理论成果，以完善这一矩阵。随后，我们对这些理论进行评估
arXiv：2610.33047v1 发布类型：新 摘要：长期运行的助手通常会理解那些其指代对象、约束条件以及主动目标早在数轮对话前就已经确定的后续请求。因此，核心挑战不仅在于上下文长度，还在于检索意图：例如，“使用先前的配置”这样的当前查询可能会省略定位相关证据所需的项目、实体和版本等术语。长上下文模型可以通过重放交互过程来恢复这些术语，但同时也需要反复承担处理历史记录的开销。传统的检索增强生成（RAG）方法成本较低，却假定查询本身已包含充分的信息；而对话式改写要么重新读取历史，要么依赖于显式维护的文本记忆。我们提出了“参数化会话状态”。
arXiv:2610.31726v1 发布类型：新 摘要：有效的人机协作需要能够与不可预测的人类伙伴进行协调的智能体。通过实时人类反馈或大规模行为数据集进行强化学习成本高昂，而纯模拟训练则容易过拟合于人工设定的规范，在与真实人类的零样本协作中往往表现不佳。我们提出了一种针对认知受限伙伴训练协作智能体的框架：这些模拟伙伴的多样性源于基于人类生理学文献的程序化约束，具体包括反应延迟和感知局限，而非依赖奖励塑造或历史训练中的关键节点。在经过改造的月球着陆器环境中，我们报告了初步证据，表明这些伙伴的表现更接近r
一篇于2026年10月26日发布在arXiv（编号2610.31820v1）的AI研究论文指出，针对采用基于价值的强化学习（value-based RL）训练的大语言模型（LLMs），其已有的Critic模块无需额外训练或数据即可作为高精度、高校准性的置信度估计器使用。
推荐理由：该研究揭示了置信度估计与RL中Critic训练在数学本质上的等价性（在正确性结果定义下），并通过跨十余个领域（数学、代码、工具调用、通用推理）的实证验证了复用Critic的有效性与泛化能力；成果对降低LLM可信部署门槛具有直接工程价值。
arXiv:2610.31966v1 发布类型：新 摘要：上下文学习的示范通常通过语义相似度进行检索，而这在结构化预测任务中可能并非相关性的良好替代指标。我们研究了面向通用依存句法分析的示范选择方法，采用一种基于词性签名的策略，该策略以加权词性统计特征表示句子，并从已标注的训练集里检索出三个长度兼容、由人工标注的示例。我们在UD英语网络树库测试集的全部2,077个句子上，对两种未经过微调的开放权重语言模型进行了评估，将该策略与按样本数量和格式匹配的固定三元组及语义三元组基线，以及零样本、链式思维和批判性修正等系统进行了比较。结果表明，基于词性签名的检索方式获得了最高的标注准确率
arXiv：2610.32122v1 发布类型：新 提要：我们报告了现代文本嵌入模型中的一种系统性脱节现象：情感信息几乎可以被其嵌入表示完美解码，却几乎完全无法从其度量空间中体现出来。在涵盖2021年至2026年的十一种冻结编码器中，包括2026年发布的模型以及4B参数的大型语言模型嵌入器Qwen3-Embedding-4B，线性探测器在句子极性分类任务上的准确率高达91.3%，而余弦相似度对极性的区分幅度却仅为0.003至0.064。作为该测试集中表现最强的探测器，Qwen3-Embedding-4B的探测准确率达到91.3%，但在检索平均精度（MAP）方面却仅有64.3%。由于检索、聚类、去重以及检索增强生成等任务均基于度量空间而非经过训练的探测器进行，这些系统实际上对相关信息处于“视而不见”的状态。
arXiv:2610.32109v1 发布类型：新 摘要：语言模型能够根据给定的文档或其参数化知识回答问题。然而，当后续被问及答案的来源时，究竟是什么决定了它们的来源报告？我们通过在答案生成之后、源问题提出之前对模型的关键值（KV）缓存进行干预来研究这一问题。在一项受控的事实性任务中，针对四款模型（7B–32B），无论改变还是移除文档的缓存，都不会影响其来源报告。相比之下，在两次运行之间移植问答（Q+A）缓存——且前后的问题与答案标记完全相同——则会转移来源报告：所有符合条件的报告都会沿用捐赠方的来源，而接收方的文档本身保持不变。在两款较小的模型上，沿着事先为任何源问题拟合的方向引导问答值……
arXiv：2610.32237v1 发布类型：新 摘要：在现代金融市场中，超过四分之三的大宗交易均由基于先进交易策略的算法交易执行，其精度与速度均优于传统的人工交易。然而，以价格指标为核心的传统策略难以捕捉由社会情绪、政治不稳定或突发经济变化等现实事件所引发的市场动态。随着深度强化学习（DRL）的兴起及数据获取的日益便捷，亟需更高效的算法，以便将这些外部因素纳入交易策略之中。深度强化学习在模拟现实场景以及简化复杂决策方面展现出巨大潜力，因为DRL智能体能够自动
arXiv：2610.31894v1 发布类型：新 摘要：近期的稀疏自编码器（SAE）能够将大型语言模型（LLM）的表示分解为可解释的特征，从而实现对编码知识的精确读取与控制。然而，现有的SAE将每个特征视为独立单元，而现实世界中的知识往往具有层级化的分类结构。因此，这种读取方式无法保证分类学上的一致性，控制也缺乏足够的粒度来明确指定编辑的范围。我们提出了TaxoSAE，该方法在SAE的特征空间中显式地编码了分类学信息，基于“is-a”（超类—子类）关系构建。TaxoSAE通过堆叠一系列SAE来模拟一个分类体系，每一层对应一个分类层级，并引入了一种分类对齐损失，使每个概念在被激活时都能准确对应其所属的分类层级。
arXiv:2610.32389v1 发布类型：新 摘要：在大型语言模型的强化学习（RL）中，从滚动阶段到训练阶段的轨迹迁移既会影响学习质量，也会降低系统效率。强制执行全批训练要求可能会延迟已完成轨迹的准入，从而导致更高的架构陈旧性——即与集中式执行相比，采用分散式流水线所带来的额外参数版本差距。除了准入问题之外，数据访问与训练消耗之间的错配还会在传输大型轨迹负载时引发冗余移动和不必要的等待。我们提出了 KnitTrans 系统，通过三项设计来协调滚动到训练的路径。首先，基于约束保持的迷你批次准入机制能够在早期迷你批次组合方面提供灵活性……
arXiv：2610.31846v1 发布类型：新 摘要：智能体应当从自身错误中学习，从而使经验带来持续改进。然而，当前的智能体仅能暂时从错误中恢复：上下文中的反思很容易在不同会话间被遗忘，并且会与有限的上下文资源产生竞争；而全参数微调则成本高昂，还可能干扰已有能力。我们提出了一种名为“自我引导”的机制，使智能体能够从错误中学习，兼具临时性上下文重试与策略更新的优势。当智能体执行任务失败时，它会回顾自身的行动轨迹，从中提炼出经验教训，并立即将其转化为一个轻量级的低秩适配器。通过冻结原始权重，自我引导机制有效避免了适配器训练对原有模型的过度覆盖……
arXiv：2610.32128v1 发布类型：新 摘要：当与决策相关的证据深埋于冗长且嘈杂的上下文之中时，RAG 以及检索增强型少样本指令微调（ICL）往往难以应对。检索得到的段落和示例可能包含冗余或干扰性信息。尽管由专家标注的开发示例能够识别出支持每项决策的文本，但这些标注通常仅被用作答案侧的理由，而非用于过滤噪声检索的监督信号。我们提出了一种“银色证据”示例方法，即在 ICL 示例中，用生成的、针对目标条件的证据摘要替代原始检索到的段落。对于每个已标注的开发示例，大型语言模型会在无法访问专家标签或黄金证据的情况下生成“银色证据”；随后，这些“银色证据”将与专家标签配对使用。
一篇于2026年10月26日发布在arXiv（编号2610.31684v1）的论文，系统梳理了数据、信息、关联数据及知识图谱（KG）的质量评估研究，并针对大语言模型（LLM）依赖KG作为推理依据的新场景，提出包含24个质量维度和多种质量指标的通用、可定制化知识图谱质量评估框架。
推荐理由：该论文直面当前LLM与KG深度融合背景下知识可信性这一关键问题，首次整合多领域质量评估理论，构建覆盖全面、适配实际应用的评估体系；其发布时间（2026-10-26）与当前日期一致，属最新学术进展，且发布于权威预印本平台arXiv，具备明确来源与学术规范性。
arXiv:2610.31833v1 发布类型：新 摘要：LawZero 的 Scientist AI 通过一种目标函数训练预测器，使其逼近贝叶斯后验分布，该目标函数会惩罚潜在解释之间概率不一致的情况。我们探究当前处于前沿水平的语言模型——尽管未经过此类训练——是否在零样本条件下已在此意义上保持一致性：当隐变量 z 必须从上下文中的记录中推断时，其概率判断是否满足全概率公式 $P(X)=\\sum_z P(z)P(X|z)$？在单独的单轮调用中，模型被要求给出 $P(X)$、关于隐变量各状态的 $P(z)$，以及 $P(X|z)$；因果家族还对 $P(y|do(x))$ 和后门调整施加了同样的检验。每个查询都配有精确的真值概率，且部分条目以三种不同的表述方式分别提出，以进行区分
arXiv:2610.32241v1 发布类型：新 摘要：传统启发式方法在诸如三维装箱问题中的空间利用率和布局紧凑性等核心目标上积累了成熟的经验，其依赖于人工设计的规则型逻辑。然而，这些方法在泛化能力和对动态场景的适应性方面存在明显局限。扩散强化学习融合了强化学习的空间搜索能力与扩散学习的数据分布建模能力，在动作分布建模和决策合规约束等方面取得了一定进展。尽管如此，仍存在诸如对三维装箱问题中空间拓扑结构的感知不足、布局优化能力有限等问题。
