跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

暴露并不等于承诺:针对使用工具的智能体的潜在监控器的双层评估

arXiv:2610.37679v1 发布类型:新 摘要:使用工具的语言模型容易受到间接提示注入的影响,而越来越多的研究试图通过探查模型内部来在不安全操作执行前将其捕获,但所得结果却存在严重分歧。我们认为,这种分歧很大程度上源于评估方法上的缺陷,并提出了一种双层评估协议:在评估与训练数据集中,将“提示注入”与“行为承诺”加以分离。在主要的Qwen AgentDojo基准测试集上,那些基于朴素的“不安全与其余”混合对比进行训练的监控器,大多仅学会识别“暴露”:它们会标记出所有被暴露的轨迹,无论智能体是否真正执行了相应操作,且几乎无法预测哪些情况最终会导致不安全行为。而当仅针对已暴露案例重新训练后,同一类探测器便能预测模型自身发出的不安全工具调用,时间延迟长达两秒。

事件进展与其他报道

无阻塞式监督:面向协作运行时的基于证据的OTP式容错机制再设计

arXiv:2610.34521v1 发布类型:新 摘要:主流运行时上的 Actor 框架纷纷宣称支持 Erlang/OTP 式的监督机制,但 OTP 的一致性契约假定使用的是同步的单线程监督器,而端口则将这一假设的缺失视为未加审视的风险。我们对照已锁定版本的 OTP 官方文档与源码原文,逐一检验了各项监督保障;同时,还基于三个其他 Rust Actor 框架在固定版本下的源码进行了比对,并参考了有关 Actor 模型的文献,记录下每项设计决策背后的依据。通过盲目的对抗性审计与跨框架研究,我们发现了 24 类缺陷,其中 8 类可归结为同一个根本原因:即通过显式机制重新构建了同步监督器所隐含的原子性。我们提出了一种监督运行时 th

事件进展与其他报道

考察人类与大型语言模型在基于形式的语用生产力方面的表现

arXiv:2610.33433v1 发布类型:新 摘要:语言的生产性,表现为将词语用于新颖语境的能力,是人类语言最引人注目的特征之一。然而,促成这种生产性的知识究竟有多抽象,目前仍不明确。我们比较了人类与计算语言模型在那些成功泛化依赖于形式信息的语境中的语言生产性。研究重点在于将一个以主动语态习得的新动词扩展至被动语境。结果发现,即使该新动词无法被赋予任何合理的语义,人类依然能够以符合关于语言形式之抽象概括的方式,将其主动用法扩展为被动用法。相比之下,大型语言模型仅在赋予其类似现有动词的语义时才表现出类似效果。

事件进展与其他报道

FlexA-Mem:面向LLM智能体驱动的预算自适应智能体记忆

arXiv:2610.33274v1 发布类型:新 摘要:大型语言模型(LLM)智能体在不同场景下有着截然不同的记忆需求。关于过往对话的问题需要精确引用其中提及的事实,而多步骤任务则需要记录已执行的每一步,并附上下一步无法直接表述的细节。现有的各类记忆系统往往针对某一特定场景进行设计与测试。诸如A-Mem之类的检索型记忆会遗漏当前查询未明确表达的步骤,摘要则会丢失精确的字符串信息,而将两者结合又会在事前就固定了内存预算的分配。我们提出FlexA-Mem,这是一种通用的记忆机制,它将历史中的每一项内容仅写入一次不可更改的存储中,并为每次调用生成一份全新的记忆。生成的记忆是一份紧凑的记录时间线,外加由固定规则所决定的详细信息……

事件进展与其他报道

自然语言自动编码器可有效 verbalize 大模型激活差异,支持模型差分与可解释性研究

一项发表于2026年10月24日arXiv的论文(arXiv:2610.30934v1)系统评估了自然语言自动编码器(NLAs)在激活空间差异表征上的泛化能力,实验证明其在组合性、微调模型适配、微调目标恢复及模型差分专用化四方面表现稳健。

Verbalizing Activation Differences with Natural Language Autoencoders

推荐理由:该研究基于四项可复现实验设计,覆盖四个来自三个家族的大语言模型,在激活 verbalization 这一新兴可解释性方向上提供了迄今最系统的泛化性证据;所有结论均严格限定于论文报告的实验设置与观测结果,未外推至未测试模型规模或任务。

事件进展与其他报道