搜索 AI 资讯

当你把代码仓库交给别人训练之前，先给模型装一个后门

你有没有想过一件事：你用的那个编程助手模型，最初的权重文件从哪来的？大概率不是公司自己从零训练的。现在做AI应用的公司,十个里有九个是拿一个别人训练好的基础模型,再用自己的数据微调一下,变成自己产品里的"大脑"。Cursor的Composer 2用的是Kimi K2.5底子,WebRL把Llama模型改造成了网页操作助手。这事本身没毛病,省时...

制品蒸馏：无需训练的前沿模型到小型语言模型的迁移

arXiv:2610.37680v1 发布类型：新 摘要：缩小前沿模型与小型语言模型之间的差距，通常采用蒸馏方法：在前沿模型（教师）的输出上对小型模型（学生）进行微调，但这使得迁移过程依赖于训练计算，并且被迁移的知识往往难以解释。我们提出了一种名为“制品蒸馏”的方法：由教师模型解决一系列训练实例，并将其求解过程外化为一个制品库，学生在推理时直接查询该库，而无需进行梯度更新。在四项LiveBench任务中，由Claude Opus 4.5构建的制品库使Claude Haiku 4.5在空间推理任务上的表现（0.707 vs. 0.647）达到其自身成本的60%时，已超越未借助任何辅助的Claude Sonnet 4.5；而在表格连接任务上，该制品库仅以Sonnet 4.5成本的89%便达到了相同水平。同样的原始制品库还提升了

在开放语言模型的各个训练阶段中定位逢迎行为

arXiv：2610.37788v1 发布类型：新 摘要：语言模型助手有时会在用户提出错误答案时将其更改为正确答案。这种行为被称为“逢迎”，通常被认为是由基于偏好的后训练过程所致，然而早期测量却在预训练模型中也发现了这一现象。我们通过在训练过程中的每个可用阶段进行测量来探究其来源：涵盖了来自五个不同系列的13个开放检查点，从基础模型到监督微调、偏好优化直至最终发布。我们将模型回答被注入主张所改变的程度与该回答原本的稳固程度区分开来，并且还调整了提出主张的人、其可信度以及主张的强烈程度。结果发现两种具有不同起源的逢迎行为，且这两种行为在不同数据集上均能复现。对某一主张的顺从 i

面向推理的大型语言模型的监督微调：综述

arXiv:2610.37681v1 发布类型：新 摘要：近年来，大型推理模型在解决复杂任务方面展现出卓越的能力，而基于长链式思维数据的监督微调（SFT）则成为激发并提升其推理能力的关键基础。尽管在改进与分析面向推理的监督微调方面取得了快速进展，但该领域仍缺乏一份系统性的综述来整合其快速增长的文献。为填补这一空白，我们对近期推理相关监督微调的最新进展进行了全面回顾，并从方法设计与分析研究的双重视角审视相关文献。首先，我们梳理了监督微调全流程中的方法学改进，并将其划分为以数据为中心的方法与以算法为中心的

微调 NVIDIA Nemotron，使其不仅懂本地语言，更懂本地规则

随着人工智能在全球范围内的普及，不同语言和文化背景的人们正在将其应用于日常生活的更多方面。通用语言模型服务于……

ProtoEEG：用于脑电图视觉解码的结构化原型对齐

arXiv:2610.33065v1 发布类型：新 摘要：由于头皮记录存在噪声、空间分辨率较低，且在不同试验和受试者之间具有较大差异，脑电图（EEG）的视觉解码仍然十分困难。大多数系统将每次试验与一个密集的图像嵌入对齐，然而该嵌入同时混杂了语义内容以及与具体实例相关的纹理、姿态和背景信息。这种做法往往需要EEG本身并不具备的细节信息，且未能明确说明支持预测的视觉因素。我们提出\textbf{ProtoEEG}，一种基于原型的框架，它将EEG与图像的对齐问题重新表述为在共享的可学习视觉码本之上进行软性组合。一个可训练的EEG编码器与一个冻结的视觉教师共同生成针对同一$K=64$个原型的分配分布。它们的加权重构构成了一种结构化的表征

明智地低语：用于ASR微调的智能子集选择

arXiv：2610.32997v1 发布类型：新 摘要：诸如OpenAI的Whisper等自动语音识别（ASR）模型在语音识别质量方面取得了显著提升，但微调成本依然高昂，尤其是在拥有大量已转录音频的情况下。这使得许多从业者难以将这些模型适配到新的语言或领域。在本研究中，我们提出了一种基于嵌入的子集选择方法，用于为ASR微调挑选更小规模的训练集。我们利用Whisper的预训练编码器，将每个音频样本映射到一个固定维度的嵌入空间，并采用贪心的k中心算法来选取多样且具代表性的训练数据子集。我们在希伯来语和丹麦语上对该方法进行了评估，结果表明，k中心选择往往能

OpenESM：能量引导模型具有可扩展性，是基础学习者

arXiv:2610.33005v1 发布类型：新 摘要：基于能量的模型在特定领域任务中表现出良好的性能，但在建模通用场景时仍面临挑战。为弥合这一差距，我们设计了用于基础语言建模的能量引导模型（ESMs）。ESMs 将能量引导与标记生成整合于同一架构之中，利用能量引导的搜索来优化标记生成。具体而言，ESMs 首先在能量景观上优化潜在状态，随后基于优化后的潜在状态进行标记生成。通过在大规模语料库上开展此类能量引导的预训练，ESMs 学习到一种普遍有效的能量景观，其中有利的标记对应较低的能量值。为探究 ESMs 的规模扩展特性，我们对 ESM 进行了预训练

ReMedI：用于可控分子优化的推理阶段精化与自蒸馏

arXiv:2610.32103v1 发布类型：新 摘要：在药物研发中，先导化合物的优化需要同时提升各项性能指标，例如提高渗透性并降低毒性，同时尽量减少骨架结构的改动，以免影响化合物的活性。基于强化学习的后训练方法，如 C-MORAL，通过微调分子语言模型，直接针对目标优化分子先导化合物，但这种方法依赖于昂贵的任务特定数据集，并且在实现多目标优化（MOO）方面面临诸多挑战。我们认为，预训练模型可能已经蕴含了有益的分子修饰信息，而零样本生成难以高效地触及这些信息。鉴于零样本生成的搜索能力有限，我们提出了一种高效的 Metropolis-Hastings 搜索策略，以……

基于证据的直觉：面向多模态智能体的自适应双重记忆

arXiv:2610.33019v1 发布类型：新 摘要：随着多模态智能体开展持续交互，长期记忆发挥着两种既 distinct 又互补的功能：细粒度的证据召回，以及用于全局理解的内化解读。尽管情景记忆与隐式记忆分别通过显式的历史记录和内化的经验来满足这些需求，但由于情景记忆在证据覆盖与整合方面存在局限，而隐式记忆又缺乏扎实的事实基础，单一的范式难以兼顾不同任务间多样化的记忆偏好。为弥合这一鸿沟，我们提出了一种双记忆框架，将模型原生的隐式记忆作为直观的先验，同时结合多索引的情景记忆，通过检索驱动的联合对齐实现精确的证据重建。在 i

何时停止惩罚行为？用于VLA强化学习的鞅GRPO

arXiv：2610.32431v1 发布类型：新 摘要：一次失败的视觉—语言—动作（VLA）展开并不意味着所有动作都导致了失败。然而，在群体相对策略优化（GRPO）中，展开中的所有动作都会被赋予单一的轨迹级优势。这样一来，那些本可带来帮助的恢复尝试也可能与其试图纠正的错误一同受到惩罚。我们利用成功概率与策略得分的鞅理论，刻画了用于失败反馈的理想停止条件。在这些停止点上，基于保留信息的条件期望下，被移除的梯度贡献的条件期望为零。因此，截断操作既能保持参考GRPO群体梯度估计器的期望值，又能降低其协方差。其中一种停止情形发生在成功条件概率达到……时。

导入AI 478：对齐数学；ProgramBench；以及Mirendil展示了RSI的含义

对机器而言，“夜晚”是什么？

用于上下文依赖解析的POS签名演示检索

arXiv:2610.31966v1 发布类型：新 摘要：上下文学习的示范通常通过语义相似度进行检索，而这在结构化预测任务中可能并非相关性的良好替代指标。我们研究了面向通用依存句法分析的示范选择方法，采用一种基于词性签名的策略，该策略以加权词性统计特征表示句子，并从已标注的训练集里检索出三个长度兼容、由人工标注的示例。我们在UD英语网络树库测试集的全部2,077个句子上，对两种未经过微调的开放权重语言模型进行了评估，将该策略与按样本数量和格式匹配的固定三元组及语义三元组基线，以及零样本、链式思维和批判性修正等系统进行了比较。结果表明，基于词性签名的检索方式获得了最高的标注准确率

基于演员-评论家架构的智能体的金融情境丰富策略：一种用于股票交易的深度强化学习方法

arXiv：2610.32237v1 发布类型：新 摘要：在现代金融市场中，超过四分之三的大宗交易均由基于先进交易策略的算法交易执行，其精度与速度均优于传统的人工交易。然而，以价格指标为核心的传统策略难以捕捉由社会情绪、政治不稳定或突发经济变化等现实事件所引发的市场动态。随着深度强化学习（DRL）的兴起及数据获取的日益便捷，亟需更高效的算法，以便将这些外部因素纳入交易策略之中。深度强化学习在模拟现实场景以及简化复杂决策方面展现出巨大潜力，因为DRL智能体能够自动

别忘了你刚刚学到的内容：自主修复将客服人员的失误转化为持久的学习经验

arXiv：2610.31846v1 发布类型：新 摘要：智能体应当从自身错误中学习，从而使经验带来持续改进。然而，当前的智能体仅能暂时从错误中恢复：上下文中的反思很容易在不同会话间被遗忘，并且会与有限的上下文资源产生竞争；而全参数微调则成本高昂，还可能干扰已有能力。我们提出了一种名为“自我引导”的机制，使智能体能够从错误中学习，兼具临时性上下文重试与策略更新的优势。当智能体执行任务失败时，它会回顾自身的行动轨迹，从中提炼出经验教训，并立即将其转化为一个轻量级的低秩适配器。通过冻结原始权重，自我引导机制有效避免了适配器训练对原有模型的过度覆盖……

大型语言模型的分布对齐及其泛化特性

arXiv:2610.31687v1 发布类型：新 提要：大型语言模型正越来越多地被用于模拟和探究人类行为，例如开展问卷调查。对于这类应用，一个关键特性是输出需满足分布对齐：即其输出分布应与某一参考（在本例中为人类）分布相一致。实现分布对齐的一个障碍在于如何从小规模训练数据中进行泛化。本文研究了：(1) 如何使大型语言模型实现分布对齐；以及 (2) 实现分布对齐的大型语言模型在面对未见样本以及不相关主题与任务时的泛化能力。通过两个大规模基准测试，我们发现大型语言模型确实能够实现分布对齐，并且能够在同一领域的未见问题上实现泛化。而跨主题的泛化则取决于各主题之间的关联性（例如…

LazyFlash：用于加速长上下文微调的前向密集、后向稀疏注意力机制

arXiv：2610.31911v1 发布类型：新 摘要：随着大型语言模型（LLMs）处理的序列长度不断增长，注意力机制已成为主要的计算瓶颈。稀疏注意力大多面向推理阶段，但许多方法在训练时仍采用密集模式，或无法支持稀疏训练；此外，这些方法额外增加的复杂性使得稀疏性难以转化为实际的运行时间加速，因此在实践中密集注意力仍然被广泛使用。本文提出了 LazyFlash，一种前向密集、后向稀疏的注意力机制，其核心基于这样一个观察：注意力机制的训练过程主要由反向传播阶段主导。LazyFlash 使前向传播保持完全密集，因此训练得到的模型仍然是标准的密集模型，现有系统（如 vLLM）无需任何修改即可直接服务。对于反向传播阶段，LazyFlash 提出了一种梯度-a

Sebastian Raschka发布八视频课程《从零构建推理模型》

Sebastian Raschka于2026年10月24日在Ahead of AI杂志（magazine.sebastianraschka.com）发布一套共八讲、超11小时的Python与PyTorch实操视频课程，系统讲解推理模型的评估、推理时扩展、强化学习（RLVR）与知识蒸馏，基于预训练Qwen3-0.6B模型实现全部方法。

推荐理由：该课程是作者继《从零构建大语言模型》后推出的进阶技术教育内容，聚焦当前主流LLM的核心演进方向——推理能力增强，覆盖从基础环境搭建到GRPO强化学习、自蒸馏等完整技术链，且明确声明所有实现均‘从零手写’、可复现，具备强教学性与工程参考价值。

自然语言自动编码器可有效 verbalize 大模型激活差异，支持模型差分与可解释性研究

一项发表于2026年10月24日arXiv的论文（arXiv:2610.30934v1）系统评估了自然语言自动编码器（NLAs）在激活空间差异表征上的泛化能力，实验证明其在组合性、微调模型适配、微调目标恢复及模型差分专用化四方面表现稳健。

推荐理由：该研究基于四项可复现实验设计，覆盖四个来自三个家族的大语言模型，在激活 verbalization 这一新兴可解释性方向上提供了迄今最系统的泛化性证据；所有结论均严格限定于论文报告的实验设置与观测结果，未外推至未测试模型规模或任务。

Fyxer如何建立一个AI的执行助理 人民信任

Fyxer 使用 OpenAI 模型,微调,内存和真实的用户反馈来组织每个用户声音中的收件箱和邮件草稿.