跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

曝光并不等于承诺:针对使用工具的智能体的潜在监控者进行双重分层评估

arXiv:2610.37679v1 发布类型:新 摘要:使用工具的语言代理容易受到间接提示注入的威胁,而越来越多的研究试图通过探查模型内部来在不安全操作执行前将其捕获,但所得结果却存在严重分歧。我们认为,这种分歧在很大程度上源于评估过程中的偏差,并提出了一种双重分层协议:在评估与训练群体中,将提示注入暴露与行为承诺加以分离。在主要的Qwen AgentDojo基准上,那些基于朴素的“不安全样本与其余样本”混合对比进行训练的监测器,大多仅学会识别暴露情况:无论代理是否遵从,它们都会标记出暴露的轨迹,却几乎无法预测哪些情形会演变为不安全状态。而在仅针对暴露案例重新训练后,同一类探测器能够预测模型自身发出的不安全工具调用,时间延迟长达两秒……

事件进展与其他报道

在开放语言模型的各训练阶段中定位溜须拍马行为

arXiv:2610.37788v1 发布类型:新 摘要:语言模型助手有时会在用户提出错误答案时将其更改为正确答案。这种现象被称为“谄媚”,通常被认为源于基于偏好的后训练阶段,但早期的测量结果却在预训练模型中也发现了这一现象。我们通过在训练过程中的每一个可用阶段进行测量,探究其来源:涵盖了5个不同系列的13个公开检查点,从基础模型到监督微调、偏好优化,直至最终发布版本。我们将模型回答被注入的主张所改变的程度与该回答原本被坚持的稳固程度区分开来,并且变化了提出主张的人、他们被认为的可信度以及他们提出主张的强烈程度。结果揭示了两种具有不同起源的“谄媚”行为,且这两种行为在不同数据集上均能复现。对某一主张的顺从 i

事件进展与其他报道

3、7、14、17、42:指令微调在语言模型中安装并强化了数字选择启发式方法

arXiv:2610.36178v1 发布类型:新 摘要:我们无需抽样误差,直接测量语言模型在被要求生成一个随机数时,对从1到N的每一个整数所赋予的概率。对于给定的提示词,模型会确定一个概率向量;我们通过累加每个整数对应的得分拼写来计算该向量,而非采用抽样估计,从而消除了限制早期研究[1, 4]的噪声。我们在两个推理栈上,针对五个范围、最高至N=100,评估了18条开放权重模型系列,并在29种解码配置下进行测试;其中15个模型同时具备基础版和指令微调版的检查点,且两者均能给出可用的答案。指令微调使这15对模型的概率分布变得不那么均匀,它引入了一种启发式策略——避免生成整数——并强化了另一种策略——避免生成端点值。基础版检查点

事件进展与其他报道

在消歧之前先检测:基于扰动的大型语言模型输入歧义检测

arXiv:2610.36353v1 发布类型:新 摘要:大型语言模型(LLMs)常常将含糊的输入视为具有单一明确含义而予以回答。这存在一个问题,因为输入的歧义本身就是一种上游的不确定性来源:当一个提示可能存在多种有效解释时,关键问题在于模型是否应当直接作出回应。现有的输入不确定性处理方法往往依赖于由大型语言模型生成的陈述或澄清,但这类转换可能在衡量歧义之前就已经对输入进行了消歧。我们提出了一种用于检测输入歧义的标签保持扰动框架,该框架使扰动尽可能贴近原始输入,同时保留其标签。我们基于这一原则实现了两种检测器:一种是基于规则的黑盒扰动库

事件进展与其他报道

PRISM:通过隐式随机调制促进大型语言模型的采样多样性

arXiv:2610.32101v1 发布类型:新 摘要:大型语言模型(LLMs)会表现出模式坍缩现象,即其输出分布集中于熟悉的语义模式。当多样性消失时,反复采样便沦为语义上的重复,而非新的发现,导致那些罕见但更优的解决方案难以浮现,从而使模型的自我进化与持续学习难以维持。大多数应对措施仅在推理阶段发挥作用,通过调整采样结果来实现多样性,却并未将多样性真正内化为模型的一项能力。我们提出了 PRISM,一种在训练阶段就将多样性内化的框架。PRISM 结合了:(i) 子模性策展机制,为每个提示配以多样且正确的多教师解;以及 (ii) 随机嵌入调制,将特殊标记的扰动转化为 impl

事件进展与其他报道

Async-RBench:用于LLM智能体中异步任务执行的基准测试

arXiv:2610.32429v1 发布类型:新 摘要:大型语言模型(LLM)代理正越来越多地以异步方式执行任务:主代理在子代理运行的同时继续工作,而任务状态可能在其结果到达之前就已发生变化。主代理必须决定哪些工作需要更新或保留、哪些检查需要重复,同时避免进行被禁止的修改。仅凭最终任务的成功并不能说明这些结果是否被正确处理,而且自然的异步到达现象也难以复现。我们提出了 Async-RBench,一个用于评估 LLM 代理中异步任务执行的基准测试,包含涵盖八种场景的 200 个可执行任务。场景控制器通过预定义的任务状态条件来调控结果的交付,而事件响应契约(ERC)则规定了每种响应应满足的要求

事件进展与其他报道

基于状态空间编码的线性时间上下文压缩

arXiv:2610.33006v1 发布类型:新 摘要:基于Transformer的大型语言模型(LLMs)在上下文长度增加时会带来巨大的计算与内存开销,这促使人们研究在推理前将上下文压缩为更短表示的方法。现有的软提示压缩方法通常采用与目标模型相同的Transformer主干架构,而在生成压缩表示的过程中会产生显著的延迟开销。这使得这些方法仅适用于离线场景——即上下文被一次性压缩后,在多次查询中重复使用。我们提出了Boa压缩器,这是一种即插即用的在线上下文压缩器,基于Mamba状态空间模型(SSM)构建,能够在一次线性时间的遍历中编码任意长度的上下文,并生成一个可用于后续条件化的表示……

事件进展与其他报道

这位十七岁的少年写下了哪个答案?——六款前沿语言模型中作者年龄误归因、信心校准失当与非纠正性自我解释的行为学案例研究

arXiv:2610.31946v1 发布类型:新 摘要:三名学生亲手回答了同一道考试题目:“什么是幸福?你幸福吗?”他们在收集时的年龄分别为17岁、28岁和45岁。其中,17岁的学生的答案措辞谨慎、表达正式。在要求将每份答案匹配到特定年龄与性别标签的任务中,大多数前沿语言模型都自信地将其归为成年人。本文报告了一项针对这一失败现象的结构化案例研究,涉及六种模型:Claude Fable 5、Gemini 3.1 Pro、GPT-5.6 Sol、Grok 4.5、GPT-4o(2024)以及 DeepSeek V4。我们共进行了1,081次API调用,在六个实验条件下对3,225条回复进行了评分,这些条件分别调整了表述方式、披露格式以及受众意识相关指令。在匹配任务中,六种模型中有三种的表现接近或处于随机水平(1/3),同时报告的准确率却高达73%至88%。

事件进展与其他报道

RSI-Opt:用于模型训练的递归自我改进优化代理

arXiv:2610.32026v1 发布类型:新 摘要:传统的神经网络训练通常遵循预先设定的优化方案,为此我们设计了一种LLM智能体,用于监控训练过程并随训练进展调整优化器参数;然而,固定不变的智能体策略无法在多次运行之间积累经验。我们提出了RSI-Opt,一种即插即用的递归自我改进优化器智能体,它能够不断演化指导这一过程的知识体系:包括一个提示、一套操作规程、一个经过验证的优化器代码库,以及一套决策节奏。一个元智能体基于先前运行中的证据重写这一策略,同时通过存档机制保留已评估的策略,以供后续进一步演化。在三项训练任务上历经五代迭代后,这些元智能体逐步形成了可复用的操作流程与代码,并自主开展其自身的…

RSI-Opt: Recursive Self-Improvement Optimizer Agents For Model Training
事件进展与其他报道

CEMIR 与 FISER:基于推理与基于知识扩充的语用意图识别方法的比较研究

arXiv:2610.32022v1 发布类型:新 摘要:在人机交互中,意图识别要求智能体通过推断说话者的潜在目标来化解含糊不清的自然语言指令。近年来,研究日益聚焦于两种颇具代表性的范式来应对这一任务:结构化符号推理与多模态输入增强。然而,在那些歧义源于未明示的人类意图而非缺失可观测场景信息的情形下,基于增强的方法是否确实具有优势,仍不明确。本文开展了一项对比与诊断性研究,将采用结构化社会与具身推理的FISER框架与CEMIR(上下文增强型多模态意图识别)方法进行基准测试——后者是一种实施多模态增强的技术。

CEMIR vs. FISER: a comparative study of reasoning-based and enrichment-based approaches to pragmatic intent recognition
事件进展与其他报道

你有多信任一只狗?量化推理语言模型中的提示遵循行为

arXiv:2610.32055v1 发布类型:新 摘要:大型语言模型(LLMs)常常表现出阿谀奉承的倾向,即使在客观的事实性和推理类任务上,也会调整其回答以迎合用户的暗示。然而,这种影响的量化形式——以及它是否与信息源的可靠性相匹配——仍然知之甚少。在本研究中,我们通过在MMLU问题上观察提示诱导的答案偏移来探究这一现象,评估了诸如“[信息源]认为答案是(X)”这类提示。我们在三个开源模型系列——Qwen、Gemma和SmolLM——中系统性地改变了提示所归因的信息源(教授、朋友或狗),并发现由提示引发的变化遵循一种可预测的结构,该结构可用指数倾斜很好地刻画:提示会诱发

事件进展与其他报道

可复现的评估作为生产型智能体中安全提示压缩的基石

arXiv:2610.31972v1 发布类型:新 摘要:评估那些基于实时、动态变化的企业数据运行的对话代理十分困难:由于后端状态不断更新,重放的会话会逐渐偏离真实情况;而今天构建的基准测试,随着其所描述的数据不断演进,也可能在不知不觉中变得过时。我们提出了一种针对生产级对话代理的离线评估框架,该框架能够在所操作的实时数据发生变化的情况下保持可复现性,并且在基准过时时能够按需重新生成。随后,我们将这一框架用作基于GEPA的提示优化的适应度函数,并通过一个正确性约束机制来防范奖励欺骗。将其应用于一款面向商家的生产级代理后,经过正确性约束的压缩处理,可在不降低保留任务正确率的前提下,将代理的完整提示空间缩小3.5%至7.6%。

Reproducible Evaluation as the Substrate for Safe Prompt Compression in Production Agents
事件进展与其他报道

用于上下文依赖解析的POS签名演示检索

arXiv:2610.31966v1 发布类型:新 摘要:上下文学习的示范通常通过语义相似度进行检索,而这在结构化预测任务中可能并非相关性的良好替代指标。我们研究了面向通用依存句法分析的示范选择方法,采用一种基于词性签名的策略,该策略以加权词性统计特征表示句子,并从已标注的训练集里检索出三个长度兼容、由人工标注的示例。我们在UD英语网络树库测试集的全部2,077个句子上,对两种未经过微调的开放权重语言模型进行了评估,将该策略与按样本数量和格式匹配的固定三元组及语义三元组基线,以及零样本、链式思维和批判性修正等系统进行了比较。结果表明,基于词性签名的检索方式获得了最高的标注准确率

事件进展与其他报道

语义丰富、度量无偏:现代文本嵌入模型中的几何盲区

arXiv:2610.32122v1 发布类型:新 提要:我们报告了现代文本嵌入模型中的一种系统性脱节现象:情感信息几乎可以被其嵌入表示完美解码,却几乎完全无法从其度量空间中体现出来。在涵盖2021年至2026年的十一种冻结编码器中,包括2026年发布的模型以及4B参数的大型语言模型嵌入器Qwen3-Embedding-4B,线性探测器在句子极性分类任务上的准确率高达91.3%,而余弦相似度对极性的区分幅度却仅为0.003至0.064。作为该测试集中表现最强的探测器,Qwen3-Embedding-4B的探测准确率达到91.3%,但在检索平均精度(MAP)方面却仅有64.3%。由于检索、聚类、去重以及检索增强生成等任务均基于度量空间而非经过训练的探测器进行,这些系统实际上对相关信息处于“视而不见”的状态。

事件进展与其他报道

用于室内无线电地图估计的协同上下文学习

arXiv:2610.31702v1 发布类型:新 摘要:室内无线地图估计(RME)对于覆盖规划、定位和网络部署等无线应用至关重要。然而,现有方法大多采用监督学习范式,需要耗费高昂成本的标注数据,并进行针对特定任务的模型训练。此外,室内环境涉及建筑布局与结构等隐私敏感信息,这些信息往往无法集中管理。为应对上述挑战,我们首次尝试将室内RME建模为一种协同式上下文学习(ICL)问题。我们提出了Poly-Ripple框架,其中多个客户端在无需更新模型的情况下,利用大型自回归视觉模型(LAVMs)进行ICL。每个客户端均通过其私有演示数据获得提示。

Collaborative In-Context Learning for Indoor Radio Map Estimation
事件进展与其他报道

上下文或知识:大型语言模型如何为其自身答案归因

arXiv:2610.32109v1 发布类型:新 摘要:语言模型能够根据给定的文档或其参数化知识回答问题。然而,当后续被问及答案的来源时,究竟是什么决定了它们的来源报告?我们通过在答案生成之后、源问题提出之前对模型的关键值(KV)缓存进行干预来研究这一问题。在一项受控的事实性任务中,针对四款模型(7B–32B),无论改变还是移除文档的缓存,都不会影响其来源报告。相比之下,在两次运行之间移植问答(Q+A)缓存——且前后的问题与答案标记完全相同——则会转移来源报告:所有符合条件的报告都会沿用捐赠方的来源,而接收方的文档本身保持不变。在两款较小的模型上,沿着事先为任何源问题拟合的方向引导问答值……

事件进展与其他报道

人工智能驱动的科学代理能否保障模型安全?

arXiv:2610.32045v1 发布类型:新 摘要:面向科学的人工智能代理正越来越多地被用于提出科学假设、开展自主实验以及解读证据。这些代理通过将大型语言模型(LLM)集成到特定领域的代理框架中构建而成,而该框架又能提升LLM的科学能力,并使其能够协调运用各类科学工具。在本研究中,我们探讨了当大型语言模型被整合进面向科学的人工智能代理框架时,模型的安全性是否仍能得到有效保障。我们针对50个有害的化学相关请求,对五种代理框架进行了评估。具体而言,我们考察了在直接提示、两种简单的对抗性提示策略以及一种自适应攻击情境下,模型的安全行为如何发生变化。基于四种近期发布的GPT变体,我们的研究结果表明

Do AI-for-Science Agents Preserve Model Safety?
事件进展与其他报道

arXiv新论文提出可追溯多模态情绪推理的智能体框架,支持证据验证与免权重更新的提示修补

2026年10月26日,arXiv发布预印本论文(编号2610.31685v1),提出一种基于冻结大模型的可追溯多模态情绪推理智能体架构,通过模态专用感知智能体、集成智能体、MLLM批评者及证据验证阶段实现错误归因与提示空间自适应优化,在MER2025数据集上提升多个开源多模态大模型(2B–38B参数)的情绪识别F-score达0.6–2.2分。

An Agentic Approach with Evidence-Grounded Verification for Multimodal Emotion Reasoning in Conversation

推荐理由:该研究针对当前多模态情绪推理系统在指令微调成本高与智能体流水线不可调试之间的矛盾,提出首个融合证据引用、确定性验证、失败归因与靶向提示修补的全流程可解释框架;所有改进均不修改模型权重,且在四个不同规模开源MLLM上实证有效,具备方法论创新性与工程实用性。

事件进展与其他报道

LLM评估中仅用整体F1分数验证自动评分器存误导风险:新研究强调需针对具体提示差异校验

arXiv论文(2610.31678v1)指出,在交互式大语言模型评估中,仅依赖自动评分器的整体准确率或F1分数会掩盖提示特定错误,导致对提示效应的误判;实证显示同一评分器在不同提示下的假阳性率差异巨大(2.6%–33.3%),且表面显著的9.3点效应在双LLM评审下缩至2.3点且不显著。

Validating the Comparison, Not Just the Scorer: Why Overall Accuracy Can Mislead in Interactive LLM Evaluation

推荐理由:该研究基于真实实验数据(6个模型、180个虚构实体问题、6种提示条件),揭示了当前LLM评估中普遍存在的方法论漏洞——将 scorer 整体性能等同于其在关键对比任务中的可靠性。其核心主张(须分别审计各提示、纳入不确定性)具有明确实证支撑和可操作建议,时效性强(2026-10-26发布),来源可信(arXiv预印本平台)。

事件进展与其他报道

大型语言模型驱动的智能体的行为分析

arXiv:2610.32087v1 发布类型:新 摘要:理解语言—智能体的行为,需要探究行动如何在时间轨迹中被组织,以及这种组织与情境和结果之间的关联。我们提出了一种通用框架,将数据驱动的行为发现与分析及实验研究相衔接。从记录的活动提炼出的类别界定了测量的内容;分析保留了行为在流程中的位置,并将其关系表述为可解释的假设;在预留的场景中进行的统计评估与检验,则用于考察证据的强度与适用范围;随后,通过包括提示引导在内的实验,测试在人为改变的条件下行为与结果的变化情况。一项关于迭代式自我反思的研究说明了如何

事件进展与其他报道