跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

用于公平深度伪造检测的交叉性不变学习

arXiv:2610.37881v1 发布类型:新 摘要:深度伪造检测模型虽然整体准确率较高,但在不同人口统计群体之间却表现出显著的性能差异,导致某些群体的假阳性率远高于其他群体。现有的公平性感知方法通过约束模型输出以实现各群体预测的一致性来应对这一问题,但并未解决潜在的特征层面偏见。因此,这些模型仍可能依赖于诸如皮肤纹理等人口统计学特征作为检测篡改内容的间接线索。为了解决这一问题,我们提出了交叉性不变学习(IIL)框架,该框架着重改进特征学习,而非仅仅调整模型输出。IIL通过交替识别最具挑战性的群体划分

事件进展与其他报道

制品蒸馏:无需训练的前沿模型到小型语言模型的迁移

arXiv:2610.37680v1 发布类型:新 摘要:缩小前沿模型与小型语言模型之间的差距,通常采用蒸馏方法:在前沿模型(教师)的输出上对小型模型(学生)进行微调,但这使得迁移过程依赖于训练计算,并且被迁移的知识往往难以解释。我们提出了一种名为“制品蒸馏”的方法:由教师模型解决一系列训练实例,并将其求解过程外化为一个制品库,学生在推理时直接查询该库,而无需进行梯度更新。在四项LiveBench任务中,由Claude Opus 4.5构建的制品库使Claude Haiku 4.5在空间推理任务上的表现(0.707 vs. 0.647)达到其自身成本的60%时,已超越未借助任何辅助的Claude Sonnet 4.5;而在表格连接任务上,该制品库仅以Sonnet 4.5成本的89%便达到了相同水平。同样的原始制品库还提升了

事件进展与其他报道

PRISM:通过隐式随机调制促进大型语言模型的采样多样性

arXiv:2610.32101v1 发布类型:新 摘要:大型语言模型(LLMs)会表现出模式坍缩现象,即其输出分布集中于熟悉的语义模式。当多样性消失时,反复采样便沦为语义上的重复,而非新的发现,导致那些罕见但更优的解决方案难以浮现,从而使模型的自我进化与持续学习难以维持。大多数应对措施仅在推理阶段发挥作用,通过调整采样结果来实现多样性,却并未将多样性真正内化为模型的一项能力。我们提出了 PRISM,一种在训练阶段就将多样性内化的框架。PRISM 结合了:(i) 子模性策展机制,为每个提示配以多样且正确的多教师解;以及 (ii) 随机嵌入调制,将特殊标记的扰动转化为 impl

事件进展与其他报道

用于上下文依赖解析的POS签名演示检索

arXiv:2610.31966v1 发布类型:新 摘要:上下文学习的示范通常通过语义相似度进行检索,而这在结构化预测任务中可能并非相关性的良好替代指标。我们研究了面向通用依存句法分析的示范选择方法,采用一种基于词性签名的策略,该策略以加权词性统计特征表示句子,并从已标注的训练集里检索出三个长度兼容、由人工标注的示例。我们在UD英语网络树库测试集的全部2,077个句子上,对两种未经过微调的开放权重语言模型进行了评估,将该策略与按样本数量和格式匹配的固定三元组及语义三元组基线,以及零样本、链式思维和批判性修正等系统进行了比较。结果表明,基于词性签名的检索方式获得了最高的标注准确率

事件进展与其他报道

大型语言模型的分布对齐及其泛化特性

arXiv:2610.31687v1 发布类型:新 提要:大型语言模型正越来越多地被用于模拟和探究人类行为,例如开展问卷调查。对于这类应用,一个关键特性是输出需满足分布对齐:即其输出分布应与某一参考(在本例中为人类)分布相一致。实现分布对齐的一个障碍在于如何从小规模训练数据中进行泛化。本文研究了:(1) 如何使大型语言模型实现分布对齐;以及 (2) 实现分布对齐的大型语言模型在面对未见样本以及不相关主题与任务时的泛化能力。通过两个大规模基准测试,我们发现大型语言模型确实能够实现分布对齐,并且能够在同一领域的未见问题上实现泛化。而跨主题的泛化则取决于各主题之间的关联性(例如…

事件进展与其他报道

PaperFormalizer:在精益框架下实现研究论文的作者参与式自动形式化

arXiv:2610.31810v1 发布类型:新 基本摘要:即使经过仔细校对的论文,其证明或所作假设中也可能存在细微漏洞。我们提出了 PaperFormalizer,一个基于 Lean 的智能体驱动流水线,帮助作者发现并弥补自身论文中的此类漏洞,并将每篇论文转化为经 Lean 验证的版本。PaperFormalizer 从 LaTeX 源文件入手,将其转换为陈述的依赖关系图,逐条审核自然语言表述的忠实性、歧义性和正确性,随后在 Lean 中对这些陈述进行形式化并加以证明,同时参考 Mathlib、可选的领域库以及作者个人的工具包。只有作者最清楚某条陈述的真实意图,以及如何最佳地填补某一结论中的形式化缺口。因此,该流水线会在必要时暂停,并向作者提出相关问题。

PaperFormalizer: Author-in-the-Loop Autoformalization of Research Papers in Lean
事件进展与其他报道

LazyFlash:用于加速长上下文微调的前向密集、后向稀疏注意力机制

arXiv:2610.31911v1 发布类型:新 摘要:随着大型语言模型(LLMs)处理的序列长度不断增长,注意力机制已成为主要的计算瓶颈。稀疏注意力大多面向推理阶段,但许多方法在训练时仍采用密集模式,或无法支持稀疏训练;此外,这些方法额外增加的复杂性使得稀疏性难以转化为实际的运行时间加速,因此在实践中密集注意力仍然被广泛使用。本文提出了 LazyFlash,一种前向密集、后向稀疏的注意力机制,其核心基于这样一个观察:注意力机制的训练过程主要由反向传播阶段主导。LazyFlash 使前向传播保持完全密集,因此训练得到的模型仍然是标准的密集模型,现有系统(如 vLLM)无需任何修改即可直接服务。对于反向传播阶段,LazyFlash 提出了一种梯度-a

事件进展与其他报道

IBM发布Granite时序集成预测模型:四模型零微调组合,提供稳健默认预测方案

IBM Research推出开源的Granite Timeseries Ensemble(v1),集成PatchTST-FM-r1/r2、FlowState与Tiny Time Mixers四类预训练架构,支持零微调下的概率性集成预测;默认采用等权概率池化(Probabilistic Ensemble),亦提供基于四分位距自适应加权(IQR Ensemble);在GIFT-Eval基准(截至2026-10-20快照)上,其点预测误差(MASE=0.683)略优于最佳单模型,整体鲁棒性显著提升。

事件进展与其他报道