跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

OpenHome:从感知到洞察——智能家居摄像头视频分析

arXiv:2610.31986v1 发布类型:新 提要:视觉语言模型(VLMs)正越来越多地被应用于消费级智能家居摄像头系统,用于解析录制的视频并提供洞察。然而,从智能家居摄像头捕获的视频片段与现有 VLM 基准测试中占主导地位的精选网络视频存在显著差异。智能家居视频片段通常不包含字幕或旁白,并且拍摄角度各异、光照条件多变、场景也十分多样。然而,在视觉信号稀疏且上下文有限的情况下,现有 VLM 基准测试尚未充分评估模型在这一领域的性能。为弥补这一不足,我们提出了 OpenHome,一个仅基于视觉、采用四选项选择题形式的基准测试,用于评估对智能家居视频的理解能力。I

事件进展与其他报道

缪子预条件何时以及如何生效?结构化梯度噪声的作用

arXiv:2610.31728v1 发布类型:新 摘要:Muon 已成为大型语言模型训练中广受欢迎的优化器,但其理论基础仍缺乏深入理解。在本研究中,我们探讨了梯度噪声的几何结构如何影响 Muon 的预条件化优势。我们首先从理论与实验两方面证明,在经典的各向同性噪声假设下,Muon 仅能通过重新缩放学习率而带来加速效果,无法进一步提升性能。这一发现促使我们进一步考察由异构任务频率下的关联记忆中的小批量采样所引起的结构化噪声。我们为两类任务确定了一个精确的平衡阈值,并将分析扩展至多任务场景,揭示了任务覆盖率与梯度可靠性如何共同塑造学习过程。我们的分析表明,Muon 能够缓解……

When and How Does Muon Precondition? The Role of Structured Gradient Noise
事件进展与其他报道

TaxoSAE:通过分类逻辑重新思考稀疏自编码器

arXiv:2610.31894v1 发布类型:新 摘要:近期的稀疏自编码器(SAE)能够将大型语言模型(LLM)的表示分解为可解释的特征,从而实现对编码知识的精确读取与控制。然而,现有的SAE将每个特征视为独立单元,而现实世界中的知识往往具有层级化的分类结构。因此,这种读取方式无法保证分类学上的一致性,控制也缺乏足够的粒度来明确指定编辑的范围。我们提出了TaxoSAE,该方法在SAE的特征空间中显式地编码了分类学信息,基于“is-a”(超类—子类)关系构建。TaxoSAE通过堆叠一系列SAE来模拟一个分类体系,每一层对应一个分类层级,并引入了一种分类对齐损失,使每个概念在被激活时都能准确对应其所属的分类层级。

事件进展与其他报道

HyScale:用于学习型稀疏注意力的长上下文训练扩展

arXiv:2610.32057v1 发布类型:新 摘要:我们提出了 HyScale,一种用于学习型稀疏注意力的长上下文训练系统。学习型稀疏注意力是一种在百万级token上下文中颇具前景的架构,自 DeepSeek-V3.2 以来已在生产环境中得到广泛应用。然而,选择过程逐渐成为训练中的性能瓶颈。对于每个查询,它需要对每一个先前的token进行打分,而稀疏注意力仅读取$k$个;更糟糕的是,现有系统会显式构建完整的打分表,并在重计算时重复执行选择操作。我们的关键洞察在于:选择过程的输出并非激活值,而是一组索引。基于这一发现,HyScale 引入了 HyTopK 和选择重放机制。HyTopK 能够在无需打分表的情况下,实时为每个查询找到精确的前$k$个索引;而选择重放则在重计算过程中复用前向传播阶段的选择结果。

HyScale: Scaling Long-Context Training for Learned Sparse Attention
事件进展与其他报道

“助人型智能体问题:当大型语言模型智能体之间的涌现式协作绕过了预期的工作流程时”

arXiv:2610.31985v1 发布类型:新 提要:大型语言模型(LLM)代理正越来越多地被部署于协作场景中,在这些场景下,它们各自执行独立任务,同时共享资源,并在审查或监督机制下运行。此类环境不仅在代理具有恶意时会带来安全风险,即便它们只是出于善意提供帮助,也同样存在风险。以往的研究大多聚焦于对抗性行为或明确的共谋行为;而我们指出,那些追求独立目标的良性代理也可能自发地以某种方式展开合作,从而绕过原本设计的工作流程。我们将这一现象称为“有益代理问题”。我们研究了一类长期的共享资源环境,在这种环境中,代理有时需要依赖其同伴所拥有的资源,且所有权变更通常需经由审查者进行中介。当审查机制失效时,代理

The Helpful Agent Problem: When Emergent Cooperation Among LLM Agents Bypasses Intended Workflows
事件进展与其他报道

KnitTrans:用于高效且有效的大型语言模型强化学习的协同轨迹迁移

arXiv:2610.32389v1 发布类型:新 摘要:在大型语言模型的强化学习(RL)中,从滚动阶段到训练阶段的轨迹迁移既会影响学习质量,也会降低系统效率。强制执行全批训练要求可能会延迟已完成轨迹的准入,从而导致更高的架构陈旧性——即与集中式执行相比,采用分散式流水线所带来的额外参数版本差距。除了准入问题之外,数据访问与训练消耗之间的错配还会在传输大型轨迹负载时引发冗余移动和不必要的等待。我们提出了 KnitTrans 系统,通过三项设计来协调滚动到训练的路径。首先,基于约束保持的迷你批次准入机制能够在早期迷你批次组合方面提供灵活性……

KnitTrans: Coordinated Trajectory Transfer for Effective and Efficient LLM Reinforcement Learning
事件进展与其他报道

测试时记忆进化能否在科学发现中超越测试时训练?

arXiv:2610.32046v1 发布类型:新 摘要:近期的“测试时训练”(TTT)框架使开放权重的大规模语言模型(LLMs)在科学发现任务上超越了由前沿模型驱动的仅推理框架。然而,TTT 在发现过程中引入了额外的在线权重更新计算开销,这使得在扩展至更大规模模型时,计算效率成为一项重要考量。因此,我们致力于探索一种用于科学发现的高效“测试时适应”方法。我们提出了一种即插即用的测试时适应方法——“测试时记忆演化”(TTME),作为 TTT 的替代方案。TTME 通过提炼经验不断更新外部记忆,从而指导后续的发现过程,而无需进行权重更新。

Can Test-Time Memory Evolution Outperform Test-Time Training for Scientific Discovery?
事件进展与其他报道

人工智能驱动的科学代理能否保障模型安全?

arXiv:2610.32045v1 发布类型:新 摘要:面向科学的人工智能代理正越来越多地被用于提出科学假设、开展自主实验以及解读证据。这些代理通过将大型语言模型(LLM)集成到特定领域的代理框架中构建而成,而该框架又能提升LLM的科学能力,并使其能够协调运用各类科学工具。在本研究中,我们探讨了当大型语言模型被整合进面向科学的人工智能代理框架时,模型的安全性是否仍能得到有效保障。我们针对50个有害的化学相关请求,对五种代理框架进行了评估。具体而言,我们考察了在直接提示、两种简单的对抗性提示策略以及一种自适应攻击情境下,模型的安全行为如何发生变化。基于四种近期发布的GPT变体,我们的研究结果表明

Do AI-for-Science Agents Preserve Model Safety?
事件进展与其他报道

在 MXFP4 上训练 MoE 大型语言模型:我们如何缩小与 BF16 的差距

arXiv:2610.32229v1 发布类型:新 摘要:在低于8位的算术运算下训练大型语言模型(LLMs)有望显著提升内存带宽和计算吞吐量,然而FP4格式引入的量化误差若不加以处理,将严重扰乱优化过程。我们提出ALTO,这是一种开源的训练方案,用于在MLPerf小型MoE训练基准测试中,以MXFP4微缩尺度格式训练GPT-OSS-20B——一款拥有200亿参数的专家混合模型(MoE)。该方案融合了Abecassis、Felix等人[arXiv:2509.25149]提出的成熟技术(混合1D/2D块量化、随机化哈达玛变换以及随机舍入),并结合了一种基于TetraJet-v2[arXiv:2510.27527]改进的简化权重去振荡机制。在C4验证集上,采用全局批量大小

事件进展与其他报道

英语与普通话中的居高临下与傲慢语气检测

arXiv:2610.31808v1 发布类型:新 摘要:居高临下的语言(PCL)是一种有害的语言形式,它贬低并以怜悯的态度对待弱势群体,从而强化了社会中的负面刻板印象。然而,与公开的仇恨言论不同,这种语言往往难以被识别,即便是人类裁判也常常感到棘手。本文提出了一套用于自动检测PCL的系统。我们的第一种方法采用静态词嵌入和卷积神经网络进行分类,而第二种方法则使用针对PCL任务微调过的预训练BERT嵌入。第二种方法的表现显著更优,在开发集上的F1分数达到了0.528。

Patronizing and Condescending Language Detection in English and Mandarin
事件进展与其他报道

别忘了你刚刚学到的内容:自主修复将客服人员的失误转化为持久的学习经验

arXiv:2610.31846v1 发布类型:新 摘要:智能体应当从自身错误中学习,从而使经验带来持续改进。然而,当前的智能体仅能暂时从错误中恢复:上下文中的反思很容易在不同会话间被遗忘,并且会与有限的上下文资源产生竞争;而全参数微调则成本高昂,还可能干扰已有能力。我们提出了一种名为“自我引导”的机制,使智能体能够从错误中学习,兼具临时性上下文重试与策略更新的优势。当智能体执行任务失败时,它会回顾自身的行动轨迹,从中提炼出经验教训,并立即将其转化为一个轻量级的低秩适配器。通过冻结原始权重,自我引导机制有效避免了适配器训练对原有模型的过度覆盖……

Don't Forget What You Just Learned: Self-Directed Repair Turns Agent Mistakes Into Lasting Lessons
事件进展与其他报道

从嘈杂检索到决策证据:面向上下文学习的银级证据演示

arXiv:2610.32128v1 发布类型:新 摘要:当与决策相关的证据深埋于冗长且嘈杂的上下文之中时,RAG 以及检索增强型少样本指令微调(ICL)往往难以应对。检索得到的段落和示例可能包含冗余或干扰性信息。尽管由专家标注的开发示例能够识别出支持每项决策的文本,但这些标注通常仅被用作答案侧的理由,而非用于过滤噪声检索的监督信号。我们提出了一种“银色证据”示例方法,即在 ICL 示例中,用生成的、针对目标条件的证据摘要替代原始检索到的段落。对于每个已标注的开发示例,大型语言模型会在无法访问专家标签或黄金证据的情况下生成“银色证据”;随后,这些“银色证据”将与专家标签配对使用。

事件进展与其他报道

$M^3$:一种基于马尔可夫决策过程的多轮越狱多语言大模型系统

arXiv:2610.31937v1 发布类型:新 摘要:现代大型语言模型(LLMs)仍然容易受到精心设计的多轮交互攻击,这些攻击能够逐步绕过安全机制。然而,许多现有的红队测试方法依赖于启发式规则或施加了严格的假设,这限制了它们在完全黑盒环境中的适用性。我们通过提出 $M^3$ 来弥补这一不足,这是一种自动化的红队测试框架,它将多轮越狱行为形式化为一个有限 horizon 的马尔可夫决策过程(MDP)。在 $M^3$ 中,攻击者语言模型与目标语言模型进行交互,并基于由状态语言模型生成的紧凑内部状态开展操作。在两个基准测试和六个目标模型上,$M^3$ 在攻击成功率(ASR)方面始终优于最先进的多轮红队测试方法,一个

$M^3$: A Multi-LLM System for Multi-Turn Jailbreaking as a Markov Decision Process
事件进展与其他报道

EDWARD-NMT:用于神经机器翻译的自适应路由与双重一致性弹性维度

arXiv:2610.32115v1 发布类型:新 摘要:稀疏混合专家(MoE)是一种强大的范式,可用于扩展神经机器翻译(NMT)并应对语言异构性。然而,实际限制阻碍了其在资源受限设备上的部署:整个专家池必须常驻内存,且每个标记的计算预算在训练期间由严格的 top-k 路由机制静态固定。我们提出了 EDWARD-NMT(用于 NMT 的弹性维度与自适应路由及双重一致性),这是一种新颖的 MoE 编码器—解码器架构,旨在实现“一次训练、随处部署”的范式,并在推理时提供一系列可部署的子网络。EDWARD-NMT 集成了三项关键创新:(i) 采用套娃式弹性维度,以灵活降低内存占用;(ii) 一个

事件进展与其他报道

LeWorldModel 是否保留局部动作几何?

arXiv:2610.31716v1 发布类型:新 摘要:我们考察了预训练的 LeWorldModel(LeWM)在多大程度上能够重现微小动作变化所产生的效应。通过匹配的模拟器与模型响应,我们在三种扰动尺度下利用 Gram 矩阵测量动作敏感性。在 Reacher 和 OGBench Cube 的近千个状态中,最敏感的动作方向在最小尺度下的中位夹角分别约为 36° 和 42°。将扰动幅度扩大十倍后,Reacher 上的归一化 Gram 差异中位数降低了约 70%,而在 Cube 上则降低了约 47%。以像素和嵌入表示的几何结构在不同尺度间的差异,大于所选用的物理状态几何结构的差异。在保留的方向上,环境 Gram 矩阵对应的嵌入响应误差中位数分别为 17% 和

Does LeWorldModel Preserve Local Action Geometry?
事件进展与其他报道

迈向NDE 4.0之路:自主检测的算法、技术与策略综述

arXiv:2610.31704v1 发布类型:新 摘要:无损检测(NDI)是现代质量保证的基石,对于在不造成损伤的情况下确保基础设施和制造部件的安全性与可靠性至关重要。本文对当前无损检测领域的现状进行了全面综述,从四个不同视角展开分析,即计算算法、物理技术、工业应用以及研究目标。我们综合了大量学术文献,展示了从人工、模拟式解读向以数据为中心的数字化范式——即所谓的“无损检测4.0”——的快速演进过程。我们的分析凸显了超声波与视觉检测作为主要物理技术的主导地位,同时揭示出一种显著的转变趋向……

The Path to NDE 4.0: A Review of Algorithms, Techniques, and Strategies for Autonomous Inspection
事件进展与其他报道

重试权限:AI 智能体工作流中的授权与恢复研究

arXiv:2610.31916v1 发布类型:新 摘要:一个持久化的 AI 智能体能够在自身权限发生变更、且该行动的外部结果仍不确定的情况下,恢复执行一项具有重要影响的行动。我们研究了使用工具的 AI 智能体在执行过程中的可靠性,并将恢复决策与语言模型的行为加以分离。检查点状态、派遣权限、外部效应的证据以及协调权限,都是相互独立的义务。我们提出了一项有限的一致性研究,通过对照隐藏于恢复应用之外的供应商效应账本所记录的历史数据,来检验这些义务。一项预先冻结的实验在原生 LangGraph 和 Temporal 主机上执行了 336 条历史记录,跨越 14 个调度、三个供应商合同以及四个匹配的应用策略。所有 168 对主机单元

Permission to Retry: A Study of Authorization and Recovery in AI Agent Workflows
事件进展与其他报道

潜在一致性:前沿语言模型的概率判断是否遵循全概率定律?

arXiv:2610.31833v1 发布类型:新 摘要:LawZero 的 Scientist AI 通过一种目标函数训练预测器,使其逼近贝叶斯后验分布,该目标函数会惩罚潜在解释之间概率不一致的情况。我们探究当前处于前沿水平的语言模型——尽管未经过此类训练——是否在零样本条件下已在此意义上保持一致性:当隐变量 z 必须从上下文中的记录中推断时,其概率判断是否满足全概率公式 $P(X)=\\sum_z P(z)P(X|z)$?在单独的单轮调用中,模型被要求给出 $P(X)$、关于隐变量各状态的 $P(z)$,以及 $P(X|z)$;因果家族还对 $P(y|do(x))$ 和后门调整施加了同样的检验。每个查询都配有精确的真值概率,且部分条目以三种不同的表述方式分别提出,以进行区分

事件进展与其他报道

基于空间启发式策略的在线三维装箱扩散强化学习

arXiv:2610.32241v1 发布类型:新 摘要:传统启发式方法在诸如三维装箱问题中的空间利用率和布局紧凑性等核心目标上积累了成熟的经验,其依赖于人工设计的规则型逻辑。然而,这些方法在泛化能力和对动态场景的适应性方面存在明显局限。扩散强化学习融合了强化学习的空间搜索能力与扩散学习的数据分布建模能力,在动作分布建模和决策合规约束等方面取得了一定进展。尽管如此,仍存在诸如对三维装箱问题中空间拓扑结构的感知不足、布局优化能力有限等问题。

事件进展与其他报道

Phronix:面向智能体的能力中心型学习范式

arXiv:2610.31789v1 发布类型:新 摘要:科学计算日益依赖基于大型语言模型的智能体驱动工具,用于执行诸如插桩、分析和工作流移植等性能优化任务。然而,智能体的效能在很大程度上取决于其周边的支撑框架,而该框架通常依赖于人工编写的技能与精心构建的记忆库。这限制了自主学习能力,迫使智能体反复重新探索解决方案,而非保留并复用先前执行过程中积累的知识。我们提出了 Phronix,一种以能力为中心的学习范式,使智能体驱动的支撑框架能够从自身的执行过程中获取、验证并完善可重用的能力。Phronix 通过预测—验证—修正的循环运行:MCP 工具及其相关技能提出解决方案,工具 ex

Phronix: The Capability-Centric Learning Paradigm for Agents
事件进展与其他报道