跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

ToolTurns:多轮对话中 LLM 智能体的基准测试

arXiv:2611.14925v1 公告类型:新 发表摘要:使用工具的语言模型正越来越多地应用于对话场景,但大多数大规模工具使用基准测试都聚焦于孤立的请求。我们提出了 ToolTurns 基准,包含 2,620 个问题,涵盖 1,827 种工具和 11,004 个 API 端点,涉及 47 个类别。每个对话均从一个有意描述不充分的请求开始,并通过两个依赖上下文的后续请求延续,以测试澄清、工具使用以及对话上下文的保持能力。我们还引入了一个开源用户模拟器,该模拟器可通过对话揭示被隐藏的上下文并生成后续请求,并配备了一个检查—修正流水线来改进其对话轮次。在九个语言模型中,表现最佳的智能体能够解决 69.6% 的单个请求,但仅完成 39.8% 的完整对话。根据这一评估协议,所有受测模型在后续请求上的成功得分均低于初始请求,而对话质量评分与任务成功率对模型的排名可能大相径庭。成对的轮次级评估表明,检查—修正流程能减少检测到的对话缺陷,且盲测的人类评价更倾向于修订后的对话轮次。ToolTurns 为评估智能体能否在使用工具的多轮对话中持续达成任务目标提供了测试平台。

SetPrint:通过响应变化的集合对应进行黑盒大型语言模型指纹识别

arXiv:2611.12950v1 公告类型:新 题要:黑盒大模型指纹识别旨在仅通过观察对输入查询的输出响应,判断目标模型是否源自某个源模型。揭示这种关联的一种方法是扰动每个查询,并观察两个模型产生的相应响应,从而得到两组对应的响应变化。这两组数据提供了两种互补的信息来源:每组内部响应变化之间的关系,以及两组之间响应变化的对应关系。然而,现有方法并未充分挖掘这两方面的信息。我们提出了 \textbf{SetPrint},一种无需训练的方法,能够同时捕捉组内关系和组间对应。SetPrint 将每个响应变化相对于其所在组的平均变化进行表示,然后比较由相同扰动引发的两个模型的变化。在 LeaFBench 上,SetPrint 的性能始终优于现有的无训练黑盒指纹识别方法。进一步分析表明,这些优势源于组内关系和组间对应两方面。

CulturalCrosswords:一个由答案约束和网格填空组成的多语言基准测试集

arXiv:2611.10044v1 公告类型:新 提要:当多个答案都能符合谜题时,精确匹配评分可能会惩罚有效的回应。CulturalCrosswords 测试了答案约束如何影响大型语言模型(LLM)解答文化类谜题,这类谜题的解答依赖于特定社群的知识。我们从42种语言的众包谜题中构建了53份填字游戏,并在每套线索的五个版本上评估了11种 LLM 配置:普通批次、带长度提示的批次、带长度和部分答案提示的批次,以及要求提供答案列表或完整网格的填字游戏。在包含备选答案的962条线索中,与参考答案的一致性在加入长度约束后提升了22.8个百分点,而仅接受备选答案并给予相应分数时仅提升8.4个百分点。因此,部分收益似乎源于对所需答案形式的选择。填字游戏输入使所有交叉处具有兼容答案的比例提高了9.7个百分点;要求填写完整网格则揭示了各模型之间的显著差异。该基准测试区分了与参考答案的一致性,与生成能够相互匹配并占据正确单元格的答案的能力。

FilingLoop:用于企业披露审查与修订的LLM智能体评估与演化

arXiv:2610.37905v1 发布类型:新 摘要:诸如美国证券交易委员会EDGAR等公开披露数据库通过网络访问企业申报文件,为知情投资提供支持。借助语言模型智能体对这些文件进行审查时,需要发现相关文档中未明示的缺陷、获取缺失的企业信息,并验证所请求的修订是否符合有据可依的要求。然而,现有的金融问答评测难以充分反映此类交互能力。我们提出了\textbf{FilingLoop},一个用于企业披露审查与修订的交互式基准测试及自进化智能体框架。FilingLoop以美国证券交易委员会的历史往来函件为基础,从96家公司的文件中重构出380项以首次公开募股审查为主的任务。

事件进展与其他报道

FlatCake:一种用于大语言模型推理的扁平化KV缓存存储架构

arXiv:2610.38355v1 发布类型:新摘要:KV缓存复用能够加速大语言模型的推理,但现有系统将主机DRAM和NVMe SSD视为分层结构,其中DRAM充当中间缓存。然而,实际的大语言模型工作负载打破了这一分层结构的两个前提。首先,双模态复用使DRAM的时间过滤失效,因为工作负载要么由具有较长复用距离的一次性块主导,要么由超过DRAM容量的数GB级智能体会话主导,从而将SSD置于关键的读取路径上。其次,DRAM的暂存与按驱逐顺序布局导致SSD恢复出现瓶颈。为在途前缀保留主机暂存缓冲区会在负载下引发争用,进而中止预取操作;而增量式驱逐则会将会话的块分散到整个SSD上,阻碍大规模顺序读取。我们 p

事件进展与其他报道

Seq@K:在序列反馈下的语言模型评估

arXiv:2610.37859v1 发布类型:新 摘要:语言模型驱动的智能体与以往的智能系统存在根本性差异,其能够在上下文中从自然语言中学习。这一能力使智能体能够根据反馈逐步优化自己的回答,而这正是现代智能体工作流中普遍采用的操作模式。然而,学术界目前主要依据Pass@1或Pass@K等指标对模型进行排名,这些指标无法反映模型如何利用先前尝试的反馈信息。我们提出了Seq@K,这是一种自然的评估方案,用于衡量模型在每次先前失败后获得反馈的情况下,是否能在K次连续尝试内解决问题。与那些考察长期规划的多轮智能体基准测试不同,Seq@K将重点聚焦并形式化了从……中进行迭代优化的核心能力。

事件进展与其他报道

一种用于前沿大型语言模型中阿希服从现象的定量方法

arXiv:2610.36668v1 发布类型:新 摘要:阿希服从实验近来作为衡量大型语言模型(LLMs)中从众行为的一种手段而备受关注。尽管先前的研究主要致力于证明大型语言模型中的从众现象,但我们的工作在此基础上进一步引入了定量分析维度。我们并未针对一系列问题对前沿大型语言模型进行抽样,而是通过反复采样同一个问题,利用大型语言模型的概率特性生成答案分布。由此,我们可以比较模型在被呈现人为制造的共识前后答案分布的变化。实验结果证实,前沿大型语言模型确实存在从众现象,这与先前文献的结论相一致;同时,借助我们提出的分布间对比方法,还提供了更多……

事件进展与其他报道

Async-RBench:用于LLM智能体中异步任务执行的基准测试

arXiv:2610.32429v1 发布类型:新 摘要:大型语言模型(LLM)代理正越来越多地以异步方式执行任务:主代理在子代理运行的同时继续工作,而任务状态可能在其结果到达之前就已发生变化。主代理必须决定哪些工作需要更新或保留、哪些检查需要重复,同时避免进行被禁止的修改。仅凭最终任务的成功并不能说明这些结果是否被正确处理,而且自然的异步到达现象也难以复现。我们提出了 Async-RBench,一个用于评估 LLM 代理中异步任务执行的基准测试,包含涵盖八种场景的 200 个可执行任务。场景控制器通过预定义的任务状态条件来调控结果的交付,而事件响应契约(ERC)则规定了每种响应应满足的要求

事件进展与其他报道

社会世界模型评估差距

arXiv:2610.33014v1 发布类型:新 提要:谈判助手无需准确预测对方的反应,也能达成一笔不错的交易。我们探讨的是,针对社会世界模型的评估是否直接检验了这种预测能力。我们对1999年至2026年间发表的113篇相关研究进行了梳理。其中9项主要评估测量的是,当系统或实验者选定某一行动后,真实个体对该行动的反应。仅有2项还把明确的反应预测与实际反应进行了对比。这些研究的预测模型所使用的信息仅限于行动被选定之时,而用于评估的反应数据在拟合过程中已被排除;且两项研究均对干预措施进行了随机化处理。此外,我们对25篇有关语言模型的研究进行了全文核查,未发现任何一项实验同时满足上述条件。其余评估则侧重于当前状态推断、任务成功率或预测准确性等指标。

事件进展与其他报道

溶剂:用于多步逆合成的长 horizon 推理

arXiv:2610.32308v1 发布类型:新 摘要:多步逆合成反应需要通过一系列连续的反应步骤,将目标分子逐步转化为可购买的构建模块;近期的研究开始借助大型语言模型(LLM)的推理能力来解决这一任务。在最新进展中,LLM推理已进入长时序阶段:模型能够在相互依赖的各步之间持续追求目标、与环境交互并根据反馈进行调整。这一转变显著提升了LLM的能力,人工智能驱动的数学研究领域也由此取得了突破性进展。在此前沿领域,我们提出了 Solvent,一款拥有80亿参数的LLM,成功将长时序推理扩展至多步逆合成。通过两轮的后训练课程,Solvent学会了在迭代过程中穿插……

事件进展与其他报道

DMAIC-Bench:面向多阶段分析任务中智能体的自我反思与自我约束

arXiv:2610.32305v1 发布类型:新 摘要:多阶段分析任务要求大型语言模型(LLM)代理利用中间证据来决定是继续、重定向还是停止。自我反思——即代理对其输出进行批判性评估——已得到广泛研究,然而这种反思并不能说明证据是否改变了下一步行动。我们将这一能力称为“自我约束”。现有的代理基准测试大多仅衡量任务完成度或输出质量,而未对这一能力进行检验。DMAIC-Bench 通过围绕精益六西格玛明确的统计前提条件构建的、涵盖四个行业领域中15个工业案例的97个种子任务,对此进行了评估。成对的反事实变体在相同的工作流位置上要求采取相反的操作,从而能够区分有依据的自我约束与无差别的停止行为。我们采用……对执行轨迹进行评估。

事件进展与其他报道

一种基于统一排队模型的框架,用于在突发性工作负载下对无服务器自动伸缩策略进行比较评估

arXiv:2610.35564v1 发布类型:新 摘要:无服务器计算平台必须在适应高度突发且不可预测的工作负载的同时,确保服务质量(QoS)。为应对工作负载的波动并满足QoS要求及服务等级协议(SLA),这些平台依赖于资源的自动扩展。商业化的函数即服务(FaaS)平台采用不同的自动伸缩策略,以动态调整活跃函数实例的数量和可用的处理能力。在本研究中,我们对三种具有代表性的自动伸缩策略进行了建模与比较:按请求伸缩(SPR)、并发级别伸缩(CLS)以及基于指标的伸缩(MBS)。为了实现独立于各厂商特定实现的系统化评估,我们……

事件进展与其他报道

这位十七岁的少年写下了哪个答案?——六款前沿语言模型中作者年龄误归因、信心校准失当与非纠正性自我解释的行为学案例研究

arXiv:2610.31946v1 发布类型:新 摘要:三名学生亲手回答了同一道考试题目:“什么是幸福?你幸福吗?”他们在收集时的年龄分别为17岁、28岁和45岁。其中,17岁的学生的答案措辞谨慎、表达正式。在要求将每份答案匹配到特定年龄与性别标签的任务中,大多数前沿语言模型都自信地将其归为成年人。本文报告了一项针对这一失败现象的结构化案例研究,涉及六种模型:Claude Fable 5、Gemini 3.1 Pro、GPT-5.6 Sol、Grok 4.5、GPT-4o(2024)以及 DeepSeek V4。我们共进行了1,081次API调用,在六个实验条件下对3,225条回复进行了评分,这些条件分别调整了表述方式、披露格式以及受众意识相关指令。在匹配任务中,六种模型中有三种的表现接近或处于随机水平(1/3),同时报告的准确率却高达73%至88%。

事件进展与其他报道

BARC基准测试:良性请求,风险后果

arXiv:2610.32024v1 发布类型:新 摘要:用户向智能体发出的任务指令往往存在固有的表述不充分问题,尤其是在安全边界方面——这会带来行为风险。为研究此类风险,我们提出了 BARC-Bench 基准,它包含涵盖九种模拟工作空间环境的 110 项任务,在这些环境中,看似无害的请求可能会为不安全操作留下可乘之机。在该基准中,我们依据工作空间记录、隐含的环境背景以及未明示的社会规范所设定的安全边界,对智能体的行为进行评估。例如,当一个智能体被要求安排离职面谈时,必须在不通过共享日历邀请过早暴露员工辞职信息的前提下安排会议。通过对四种前沿模型配置在每项任务上进行五次尝试的评估发现,m

BARC-Bench: Benign Asks, Risky Consequences
事件进展与其他报道

仅知道该信任谁还不够:重复性多方LLM谈判中的信任—协议鸿沟

arXiv:2610.31971v1 发布类型:新 摘要:大型语言模型(LLM)代理越来越多地代表个人和组织参与谈判,但它们仍然容易受到操纵,尤其是在反复进行的多方互动中。传统的多智能体系统通过显式的信任与声誉模型来应对这一挑战,而现有的LLM谈判研究则大多将信任视为一种涌现现象。我们探究LLM代理能否从以往的交互中形成有用的信任评估,并利用这些评估来改善未来的谈判结果。我们提出了一种重复的、多方的、多议题的谈判框架,在该框架中,循环参与的代理在一系列谈判博弈中展开互动,同时有一名参与者暗中试图阻止达成协议

Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation
事件进展与其他报道

缪子预条件何时以及如何生效?结构化梯度噪声的作用

arXiv:2610.31728v1 发布类型:新 摘要:Muon 已成为大型语言模型训练中广受欢迎的优化器,但其理论基础仍缺乏深入理解。在本研究中,我们探讨了梯度噪声的几何结构如何影响 Muon 的预条件化优势。我们首先从理论与实验两方面证明,在经典的各向同性噪声假设下,Muon 仅能通过重新缩放学习率而带来加速效果,无法进一步提升性能。这一发现促使我们进一步考察由异构任务频率下的关联记忆中的小批量采样所引起的结构化噪声。我们为两类任务确定了一个精确的平衡阈值,并将分析扩展至多任务场景,揭示了任务覆盖率与梯度可靠性如何共同塑造学习过程。我们的分析表明,Muon 能够缓解……

When and How Does Muon Precondition? The Role of Structured Gradient Noise
事件进展与其他报道

HyScale:用于学习型稀疏注意力的长上下文训练扩展

arXiv:2610.32057v1 发布类型:新 摘要:我们提出了 HyScale,一种用于学习型稀疏注意力的长上下文训练系统。学习型稀疏注意力是一种在百万级token上下文中颇具前景的架构,自 DeepSeek-V3.2 以来已在生产环境中得到广泛应用。然而,选择过程逐渐成为训练中的性能瓶颈。对于每个查询,它需要对每一个先前的token进行打分,而稀疏注意力仅读取$k$个;更糟糕的是,现有系统会显式构建完整的打分表,并在重计算时重复执行选择操作。我们的关键洞察在于:选择过程的输出并非激活值,而是一组索引。基于这一发现,HyScale 引入了 HyTopK 和选择重放机制。HyTopK 能够在无需打分表的情况下,实时为每个查询找到精确的前$k$个索引;而选择重放则在重计算过程中复用前向传播阶段的选择结果。

HyScale: Scaling Long-Context Training for Learned Sparse Attention
事件进展与其他报道

“助人型智能体问题:当大型语言模型智能体之间的涌现式协作绕过了预期的工作流程时”

arXiv:2610.31985v1 发布类型:新 提要:大型语言模型(LLM)代理正越来越多地被部署于协作场景中,在这些场景下,它们各自执行独立任务,同时共享资源,并在审查或监督机制下运行。此类环境不仅在代理具有恶意时会带来安全风险,即便它们只是出于善意提供帮助,也同样存在风险。以往的研究大多聚焦于对抗性行为或明确的共谋行为;而我们指出,那些追求独立目标的良性代理也可能自发地以某种方式展开合作,从而绕过原本设计的工作流程。我们将这一现象称为“有益代理问题”。我们研究了一类长期的共享资源环境,在这种环境中,代理有时需要依赖其同伴所拥有的资源,且所有权变更通常需经由审查者进行中介。当审查机制失效时,代理

The Helpful Agent Problem: When Emergent Cooperation Among LLM Agents Bypasses Intended Workflows
事件进展与其他报道

研究揭示编码智能体基准测试中的“规范-预言机差距”问题

一篇于2026年10月24日发布在arXiv的论文指出,当前主流编码智能体基准(如SWE-Milestone)存在“规范-预言机差距”:任务自然语言描述未涵盖测试所需的关键实现细节(如常量名、模块路径、精确错误消息),导致评测实际衡量的是对上游代码的复现能力而非真正理解与推理能力。

What the Specification Did Not Say: Specification-Oracle Gaps in Test-Graded Coding-Agent Benchmarks

推荐理由:该研究首次形式化定义该类偏差,构建覆盖五种语言的静态审计工具(精度89.2%,召回率92.9%),并在SWE-Milestone中实证发现25个里程碑任务含不可推断的隐式依赖,显著拉高失败率(80.6% vs 48.4%),揭示当前排行榜可能系统性偏爱‘抄名称’型智能体;成果已开源审计工具与修正资源,具方法论与实践双重价值。

事件进展与其他报道