跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

LooseLeaf:为计算型笔记本电脑启用无服务器GPU

arXiv:2610.33275v1 发布类型:新 摘要:计算型笔记本会在整个会话期间独占一块GPU,然而GPU仅在单元格执行时进行计算,其余时间则处于空闲状态。无服务器执行模式可以在各单元格之间释放GPU资源,但在新的工作节点上重建累积的笔记本状态会对每个GPU单元格带来显著的开销。本文提出了一种面向交互式笔记本的无服务器GPU平台——LooseLeaf。LooseLeaf能够推导出每个单元格的状态及其导入闭包,即该单元格所需的最小变量与软件包集合。我们在5,000个真实世界笔记本上的分析表明,这些闭包规模很小,且用户对单元格的编辑操作只需数秒即可完成准备。LooseLeaf会在用户编辑单元格的同时,基于这些闭包为GPU工作节点做好准备。执行结束后,该工作节点…

新闻源配图 · arXiv cs.DC
事件进展与其他报道

Conceptizer:仅靠下一个标记预测并不够

arXiv:2610.33027v1 发布类型:新 摘要:下一个标记预测(NTP)仅奖励紧随其后的那个标记,而对所有其他可能的候选标记均予以惩罚。然而,自然语言往往存在多种表达相同意义的方式。我们提出了一种名为 Conceptizer 的训练框架,它在下一个标记预测的基础上,额外引入了针对语义的奖励机制。Conceptizer 采用一个固定且与模型无关的约 9,000 个概念词汇表,该词汇表由上下文中的同义词构建而成,用以作为语义的基本单位,与作为文本基本单位的标记并列使用。它将每个下一个标记的分布映射为一个概念分布,并在目标语义的所有可能表述之间共享相应的奖励。这一方法能够在不增加模型参数的前提下,提供概念级别的训练信号。在应用于包含 10 亿至 80 亿参数的三类模型时,Conceptizer 实现了最低的保留集 NTP 对数困惑度。

事件进展与其他报道

超越收益:用于代理技能退役的技能内化度量

arXiv:2610.32322v1 发布类型:新 摘要:LLM智能体从公共技能中心检索技能,这些中心最多可存储约10万条记录,并服务于众多模型。随着模型性能的提升,技能中心必须识别出某一模型已内化哪些技能——即该模型已不再依赖这些技能——并将其退役;然而,目前尚无可靠的方法来衡量技能的内化程度。现有规则仅依据有无某项技能时的性能差异来判定其是否应被退役,而这种差异在技能已被内化的情况下以及当模型和该技能均无法提供相应能力时(我们称此状态为“未被发现”)都接近于零。因此,我们选择暂不退役该技能,而是基于由该技能合成的任务对模型进行评分,并且只有在另一模型确实因该技能而获得提升时,才信任模型的高分——因为近一半的高分往往来自那些并未涉及该技能的任务。

事件进展与其他报道

云端的大型语言模型:关于架构、编排与推理的探讨

arXiv:2610.33475v1 发布类型:新 摘要:基础大型语言模型(LLM)在云数据中心的广泛部署,标志着从无状态深度学习向分布式、内存密集型生成式工作负载的根本性范式转变。然而,在严格的服务水平目标(SLO)下为大规模基础模型提供服务,会暴露出关键的物理与系统瓶颈。这些挑战包括持续存在的高带宽内存(HBM)墙、计算密集型预填充与内存带宽受限的解码之间的运行不对称、键值(KV)缓存的爆炸式增长、代价高昂的无服务器冷启动,以及硬件可靠性方面的漏洞。现有的文献综述仍局限于各层次的孤立视角,未能将底层加速器的虚拟化与集群……

事件进展与其他报道

从写作建议到稿件治理:一种用于学术修订的约束性转换框架

arXiv:2610.33001v1 发布类型:新 摘要:当合法的写作目标发生冲突时,学术修改便呈现出治理难题。写作过程与社会科学的研究表明,修改具有递归性,且措辞承载着认识论与学科层面的承诺。这些文献指出了若干重要约束,却未能明确在简洁性、发表形式或风格多样性与证据及主张边界发生冲突时,究竟应以何者为优先。本文将修改建模为一种在有序约束下的可接受性问题。任务相关的不变量、情境约束以及可变的呈现方式共同界定可接受的空间;而一项主张保持契约则将证据与判断与经授权的主张边界相联结。四项治理命题具体阐明了p

事件进展与其他报道

溶剂:用于多步逆合成的长 horizon 推理

arXiv:2610.32308v1 发布类型:新 摘要:多步逆合成反应需要通过一系列连续的反应步骤,将目标分子逐步转化为可购买的构建模块;近期的研究开始借助大型语言模型(LLM)的推理能力来解决这一问题。在最新进展中,LLM推理已进入长时序阶段:模型能够在相互依赖的各步之间持续追求目标、与环境交互并根据反馈进行调整。这一转变显著提升了LLM的能力,人工智能驱动的数学研究领域也由此取得了突破性进展。在此前沿领域,我们提出了 Solvent,一款拥有80亿参数的LLM,成功将长时序推理扩展至多步逆合成任务。通过两轮后训练课程,Solvent学会了在迭代过程中穿插……

事件进展与其他报道

音频-语言模型中可控说话风格字幕生成的基准

arXiv:2610.33036v1 发布类型:新 摘要:口语风格字幕(SSC)旨在生成自然语言描述,用于刻画语音的表达方式,捕捉诸如声音音色、韵律和表现力等副语言特征。许多下游应用,包括对话式 AI 智能体、可控语音生成以及大规模音频标注,都需要针对特定维度的风格字幕,以描述语音的特定方面(例如说话者特质、情感或表达风格),而非单一的无差别描述。然而,现有研究缺乏对可控口语风格字幕的统一建模方法。我们通过将 SSC 定义为一项遵循指令的音频-语言任务来弥补这一不足,在该任务中,明确的指令会指定口语风格的维

事件进展与其他报道

DMAIC-Bench:面向多阶段分析任务中智能体的自我反思与自我约束

arXiv:2610.32305v1 发布类型:新 摘要:多阶段分析任务要求大型语言模型(LLM)代理利用中间证据来决定是继续、重定向还是停止。自我反思——即代理对其输出进行批判性评估——已得到广泛研究,然而,这种批判性评估并不能说明证据是否确实影响了下一步行动。我们将这一能力称为“自我约束”。现有的代理基准测试大多仅衡量任务完成度或输出质量,而未对这一能力进行检验。DMAIC-Bench 通过围绕精益六西格玛明确的统计前提条件构建的、涵盖四个行业领域中15个工业场景的97个种子任务,对此进行了评估。成对的反事实变体在相同的工作流位置上要求采取相反的动作,从而能够区分有依据的自我约束与无差别的随意停止。我们采用……对执行轨迹进行评估。

事件进展与其他报道

SUDO:从科学出版物到全球学术话语

arXiv:2610.33018v1 发布类型:新 摘要:学术知识图谱(SKGs)支持文献检索、科学发现以及智能体辅助研究。然而,大多数构建学术知识图谱的方法都预先规定了所要表示的知识单元,通常以学术实体或贡献层面的陈述为名,并且仅保留能够通过该单元表达的出版内容。这种选择导致了两种主导但截然不同的范式:以概念为中心的学术知识图谱侧重于保存实体及其局部关系,而以陈述为中心的学术知识图谱则聚焦于以句子形式呈现的高层次话语。在这两种情形下,图谱反映的都是所选定的抽取目标,而非论文实际如何构建并传达知识。我们提出了 SUDO——学术上层话语本体,它定义了知识的……

事件进展与其他报道

面向历史文献转录的OCR系统实体感知评估

arXiv:2610.33004v1 发布类型:新 提要:光学字符识别(OCR)对于历史档案的数字化至关重要,然而诸如字符错误率(CER)等标准评估指标并不一定能反映诸如姓名、日期和标识符等重要信息是否得以保留。在本研究中,我们从实体层面分析OCR错误,以此作为评估历史文献中OCR质量的补充视角。我们使用了一个公开的基准数据集,包含来自Berrutti档案馆的175份文档,并辅以5,209个经人工标注的实体提及——这些标注将在论文被接收后公布——对序列识别型OCR系统、专为OCR设计的视觉-语言模型以及通用视觉-语言模型进行了比较。除了全局转录准确率之外

事件进展与其他报道

基于合并的词汇扩展在预分词器阶段停滞不前:一种用于尼泊尔语的英语保留修复方法,并已在持续预训练中得到验证

arXiv:2610.33016v1 发布类型:新 摘要:Llama-3、Qwen3 以及许多其他开源大型语言模型,均采用一种正则表达式对文本进行预分词,该表达式的词类仅允许 Unicode 字母。由于天城文的元音符号属于组合标记,此正则表达式会在每一个元音符号处切分尼泊尔语单词,因此使用该正则的模型在处理尼泊尔语时所消耗的 token 数量,是处理同等长度英语文本的 2.6 至 5.8 倍。基于合并的词汇扩展方法无法将被切分的片段重新拼接:对于 Llama-3 和 Qwen3 而言,无论新增多少次合并操作,其额外开销始终难以降至约 2.2 的阈值以下;而即便已发布的十项扩展方案,其性能也仅比这一预分词基准低不到 4%。我们针对已部署的正则表达式提出了一项小幅修改,经证明可在不包含组合标记或天城文字符的情况下,确保每个 token ID 的完整性。通过新增 32,000 次合并,该方法使尼泊尔语与英语的 token 开销比降至 1.01 倍,且

事件进展与其他报道

LeafSkill:用于递归LLM智能体的高效叶级动作定位

arXiv:2610.32412v1 发布类型:新 摘要:递归式大型语言模型(LLM)智能体通过分解、执行与环境反馈来解决长周期任务。然而,在生成一个原子级子任务后,它们往往再次调用同一款大型模型,将熟悉的指令转化为可执行的动作。我们观察到,高层规划具有任务特定性,而底层动作的具身化则在不同任务间反复出现,并且能够对照环境允许的动作进行验证。为此,我们提出了 LeafSkill,这是一种外部复用层,它能够检索语义相关的具身化经验,将动作模板绑定到当前对象与可执行动作上,并借助一个轻量级的 17 亿参数选择器来决定采用已绑定的动作,或将未发生变化的子任务交由原始智能体继续处理。技能始终处于外

事件进展与其他报道

超越启发式与商业导航:一种由人工智能增强的救护车行程时间估算决策支持系统

arXiv:2610.31968v1 发布类型:新 摘要:准确估算救护车行驶时间对于紧急医疗调度至关重要,然而现有的决策支持方法往往依赖于静态查表或对救护车与普通乘用车行驶时间差异的简化假设。例如,这些方法通常假定救护车的行驶速度仅比普通乘用车快一个固定比例(如5%)。然而,这类假设很少经过真实救护车运行数据的验证,也难以充分反映行程优先级、时间背景以及起点—终点等因素的影响。我们利用瑞典斯科讷地区的历史救护车出行数据,有效弥补了上述局限性。我们的分析表明,救护车的行驶时间在不同时段、不同日期之间存在显著差异,并且……

新闻源配图 · arXiv cs.LG
事件进展与其他报道

利用稀疏历史进行搜索:基于不完整搜索日志与零成本代理的跨任务架构搜索

arXiv:2610.32179v1 发布类型:新 提要:神经架构搜索(NAS)成本高昂,但通过复用先前任务的知识,跨任务迁移能够有效降低成本。然而,现有方法在处理稀疏的搜索历史以及任务特定的迁移失败时面临困难。我们提出了一种风险稳健的策略,该策略通过基于冠军的初始化和联合的成对排序器预训练,将稀疏的源日志与零成本代理相结合。在 TransNAS-Bench-101 上,该方法显著缓解了严重的最差情况下的失败,使微观自动编码任务的最差10%排名从290降至43,宏观房间布局任务的最差10%排名从465降至45。在13个细胞空间目标上,该方法在平均性能和最差情况性能两方面均优于仅使用代理的排序器,并且在平均性能上仍保持竞争力。

事件进展与其他报道

我的还是你的?经过心智桥接的语言模型会将彼此的记忆据为己有

arXiv:2610.33020v1 发布类型:新 摘要:如果你的大脑直接与他人的大脑相连,你还能分辨哪些想法属于你自己吗?我们构建了一个功能版本,其中包含同一语言模型的两个副本:每个副本都保存着一套私有的规则和代码词;而其中一个副本——接收方——还会关注其伙伴的内部记忆。接收方将伙伴的任务视为自己的任务。当被问及自己被分配了哪条规则时,在伙伴的记忆权重为双倍的情况下(无链接时则为零),它在97%的回答中给出了伙伴的规则;而在开放性报告中,它甚至将自己的伙伴的代码词称为“自己的”,而非伙伴的。所有权并不取决于接收方能够多好地判断伙伴被分配了什么。在权重相等的情况下,这种连接使接收方大约以一半的概率采纳伙伴的规则。

事件进展与其他报道

Oddin:通过图像生成的自蒸馏实现统一多模态模型中的潜在视觉推理

arXiv:2610.33062v1 发布类型:新 摘要:统一的大型多模态模型(ULMMs)能够通过交错进行的文本-图像生成来执行视觉推理,但生成显式的中间图像会带来显著的计算开销。尽管视觉潜在推理可以解决这一问题,但现有方法大多依赖于无法进行视觉生成的视觉-语言模型(VLMs)。我们提出了一种名为Oddin的新框架,能够在ULMMs中实现潜在的视觉推理。Oddin用紧凑的潜在标记取代中间图像,这些标记完全由理解分支处理,而生成分支则专门用于生成最终输出图像。我们通过离线自蒸馏训练该模型,包含三项优化目标:最终图像生成损失、文本蒸馏损失以及交叉熵损失,用于

事件进展与其他报道

FrontGI:基于小芯片多核系统的架构感知并行GNN推理

arXiv:2610.34911v1 发布类型:新 摘要:高性能计算的范畴已扩展至涵盖多种形态的机器学习任务。图神经网络(GNN)日益受到青睐,其应用正不断拓展至各个领域。随着图数据规模的持续增长,包括节点数量、边的数量以及嵌入维度的不断提升,诸如DGL和PyG等标准化库应运而生,旨在简化GNN的计算过程。这些库允许以高层次的抽象方式描述计算流程,从而显著提升开发者的生产效率。然而,随着处理器核心数的迅速增加以及多核架构的演进,这些库往往表现出较差的可扩展性,并且无法实

事件进展与其他报道

前缀键值对的重要性:在循环语言模型中用于自推测解码的RIPE缓存

arXiv:2610.34436v1 发布类型:新 摘要:循环语言模型在每个标记上会运行 $R$ 轮层,因此其键值(KV)缓存为每递归层保存 $R$ 个平面,而自推测解码(先用几轮进行初步推断,再用全部 $R$ 轮验证)会读取所有这些平面。我们发现,前缀键值的影响主要体现在较晚的阶段:在扰动幅度相同的情况下,第 25 至 32 轮的敏感度分别是第 2 至 9 轮的 $e^{15.0}$ 倍(Huginn-0125)和 $e^{12.8}$ 倍(Raven-Llama),且各平面随循环次数呈几何级数逼近最后一个平面,每轮分别达到 0.88 和 0.81。至于是否仅保留最深层的平面即可,这取决于晚期平面的成熟程度:在 Raven 上,仅存储最深层平面与从 bf16 转换为 fp32 的效果几乎无差异;而在 Huginn 上,仅有 1% 的位置就贡献了其误差的 74%。我们将这一发现转化为 RIPE,该方法存储最深层的

事件进展与其他报道

何时停止惩罚行为?用于VLA强化学习的鞅GRPO

arXiv:2610.32431v1 发布类型:新 摘要:一次失败的视觉—语言—动作(VLA)展开并不意味着所有动作都导致了失败。然而,在群体相对策略优化(GRPO)中,展开中的所有动作都会被赋予单一的轨迹级优势。这样一来,那些本可带来帮助的恢复尝试也可能与其试图纠正的错误一同受到惩罚。我们利用成功概率与策略得分的鞅理论,刻画了用于失败反馈的理想停止条件。在这些停止点上,基于保留信息的条件期望下,被移除的梯度贡献的条件期望为零。因此,截断操作既能保持参考GRPO群体梯度估计器的期望值,又能降低其协方差。其中一种停止情形发生在成功条件概率达到……时。

事件进展与其他报道

将Transformer理论付诸实践

arXiv:2610.32104v1 发布类型:新 摘要:为刻画Transformer架构的能力与局限性,人们已发展出若干形式化理论,这些理论分别采用不同的抽象方法,以捕捉该架构的不同特性。由于其底层假设与概念框架存在差异,这些理论在预测Transformer对哪些任务感到容易或困难时往往意见不一。我们梳理了七种关于Transformer能力的理论(Star-free、$\mathsf{AC}^0$、$\mathsf{TC}^0$、C-RASP、MPC、BAPO以及敏感性),并将其研究结果转化为一张通用的预测矩阵,覆盖一系列涉及不同计算结构的任务。我们还提供了新的理论成果,以完善这一矩阵。随后,我们对这些理论进行评估

事件进展与其他报道