检索标题、摘要与正文，把分散的信息连起来。
arXiv:2610.37681v1 发布类型：新 摘要：近年来，大型推理模型在解决复杂任务方面展现出卓越的能力，而基于长链式思维数据的监督微调（SFT）则成为激发并提升其推理能力的关键基础。尽管在改进与分析面向推理的监督微调方面取得了快速进展，但该领域仍缺乏一份系统性的综述来整合其快速增长的文献。为填补这一空白，我们对近期推理相关监督微调的最新进展进行了全面回顾，并从方法设计与分析研究的双重视角审视相关文献。首先，我们梳理了监督微调全流程中的方法学改进，并将其划分为以数据为中心的方法与以算法为中心的
arXiv:2610.33005v1 发布类型：新 摘要：基于能量的模型在特定领域任务中表现出良好的性能，但在建模通用场景时仍面临挑战。为弥合这一差距，我们设计了用于基础语言建模的能量引导模型（ESMs）。ESMs 将能量引导与标记生成整合于同一架构之中，利用能量引导的搜索来优化标记生成。具体而言，ESMs 首先在能量景观上优化潜在状态，随后基于优化后的潜在状态进行标记生成。通过在大规模语料库上开展此类能量引导的预训练，ESMs 学习到一种普遍有效的能量景观，其中有利的标记对应较低的能量值。为探究 ESMs 的规模扩展特性，我们对 ESM 进行了预训练
arXiv:2610.32103v1 发布类型：新 摘要：在药物研发中，先导化合物的优化需要同时提升各项性能指标，例如提高渗透性并降低毒性，同时尽量减少骨架结构的改动，以免影响化合物的活性。基于强化学习的后训练方法，如 C-MORAL，通过微调分子语言模型，直接针对目标优化分子先导化合物，但这种方法依赖于昂贵的任务特定数据集，并且在实现多目标优化（MOO）方面面临诸多挑战。我们认为，预训练模型可能已经蕴含了有益的分子修饰信息，而零样本生成难以高效地触及这些信息。鉴于零样本生成的搜索能力有限，我们提出了一种高效的 Metropolis-Hastings 搜索策略，以……
arXiv：2610.32179v1 发布类型：新 提要：神经架构搜索（NAS）成本高昂，但通过复用先前任务的知识，跨任务迁移能够有效降低成本。然而，现有方法在处理稀疏的搜索历史以及任务特定的迁移失败时面临困难。我们提出了一种风险稳健的策略，该策略通过基于冠军的初始化和联合的成对排序器预训练，将稀疏的源日志与零成本代理相结合。在 TransNAS-Bench-101 上，该方法显著缓解了严重的最差情况下的失败，使微观自动编码任务的最差10%排名从290降至43，宏观房间布局任务的最差10%排名从465降至45。在13个细胞空间目标上，该方法在平均性能和最差情况性能两方面均优于仅使用代理的排序器，并且在平均性能上仍保持竞争力。
对机器而言，“夜晚”是什么？
arXiv:2610.31966v1 发布类型：新 摘要：上下文学习的示范通常通过语义相似度进行检索，而这在结构化预测任务中可能并非相关性的良好替代指标。我们研究了面向通用依存句法分析的示范选择方法，采用一种基于词性签名的策略，该策略以加权词性统计特征表示句子，并从已标注的训练集里检索出三个长度兼容、由人工标注的示例。我们在UD英语网络树库测试集的全部2,077个句子上，对两种未经过微调的开放权重语言模型进行了评估，将该策略与按样本数量和格式匹配的固定三元组及语义三元组基线，以及零样本、链式思维和批判性修正等系统进行了比较。结果表明，基于词性签名的检索方式获得了最高的标注准确率
arXiv:2610.32389v1 发布类型：新 摘要：在大型语言模型的强化学习（RL）中，从滚动阶段到训练阶段的轨迹迁移既会影响学习质量，也会降低系统效率。强制执行全批训练要求可能会延迟已完成轨迹的准入，从而导致更高的架构陈旧性——即与集中式执行相比，采用分散式流水线所带来的额外参数版本差距。除了准入问题之外，数据访问与训练消耗之间的错配还会在传输大型轨迹负载时引发冗余移动和不必要的等待。我们提出了 KnitTrans 系统，通过三项设计来协调滚动到训练的路径。首先，基于约束保持的迷你批次准入机制能够在早期迷你批次组合方面提供灵活性……
arXiv：2610.31846v1 发布类型：新 摘要：智能体应当从自身错误中学习，从而使经验带来持续改进。然而，当前的智能体仅能暂时从错误中恢复：上下文中的反思很容易在不同会话间被遗忘，并且会与有限的上下文资源产生竞争；而全参数微调则成本高昂，还可能干扰已有能力。我们提出了一种名为“自我引导”的机制，使智能体能够从错误中学习，兼具临时性上下文重试与策略更新的优势。当智能体执行任务失败时，它会回顾自身的行动轨迹，从中提炼出经验教训，并立即将其转化为一个轻量级的低秩适配器。通过冻结原始权重，自我引导机制有效避免了适配器训练对原有模型的过度覆盖……
arXiv:2610.32241v1 发布类型：新 摘要：传统启发式方法在诸如三维装箱问题中的空间利用率和布局紧凑性等核心目标上积累了成熟的经验，其依赖于人工设计的规则型逻辑。然而，这些方法在泛化能力和对动态场景的适应性方面存在明显局限。扩散强化学习融合了强化学习的空间搜索能力与扩散学习的数据分布建模能力，在动作分布建模和决策合规约束等方面取得了一定进展。尽管如此，仍存在诸如对三维装箱问题中空间拓扑结构的感知不足、布局优化能力有限等问题。
2026年10月24日，arXiv发布论文arXiv:2610.30435v1，提出Self-Assessment Reinforcement Learning（SARL）框架，旨在解决现有检索增强大语言模型中搜索代理缺乏搜索状态感知能力的问题。
推荐理由：该研究针对检索增强型大语言模型在复杂任务中因无法识别已获/缺失信息而导致幻觉推理和过早终止搜索的关键缺陷，提出无需测试时额外评估的端到端强化学习方案，并在多跳推理与深度研究基准上取得显著性能提升。
IBM Research推出开源的Granite Timeseries Ensemble（v1），集成PatchTST-FM-r1/r2、FlowState与Tiny Time Mixers四类预训练架构，支持零微调下的概率性集成预测；默认采用等权概率池化（Probabilistic Ensemble），亦提供基于四分位距自适应加权（IQR Ensemble）；在GIFT-Eval基准（截至2026-10-20快照）上，其点预测误差（MASE=0.683）略优于最佳单模型，整体鲁棒性显著提升。
Goodfire研究员Nick Cammarata发布26000字长文，主张大语言模型（LLMs）的内部机制可能远比学界预想的更结构化、更可理解；其核心论点基于对Inception v1等模型中‘多义神经元’的重新诠释——如‘猫/车共用神经元’实为响应V形视觉模式，而非无序超置。该观点尚未在现代LLM上完成系统验证，遭斯坦福大学Chris Potts、Alignment Research Center Jacob Hilton等学者质疑其普适性与技术深度。
