跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

暴露并不等于承诺:针对使用工具的智能体的潜在监控器的双层评估

arXiv:2610.37679v1 发布类型:新 摘要:使用工具的语言模型容易受到间接提示注入的影响,而越来越多的研究试图通过探查模型内部来在不安全操作执行前将其捕获,但所得结果却存在严重分歧。我们认为,这种分歧很大程度上源于评估方法上的缺陷,并提出了一种双层评估协议:在评估与训练数据集中,将“提示注入”与“行为承诺”加以分离。在主要的Qwen AgentDojo基准测试集上,那些基于朴素的“不安全与其余”混合对比进行训练的监控器,大多仅学会识别“暴露”:它们会标记出所有被暴露的轨迹,无论智能体是否真正执行了相应操作,且几乎无法预测哪些情况最终会导致不安全行为。而当仅针对已暴露案例重新训练后,同一类探测器便能预测模型自身发出的不安全工具调用,时间延迟长达两秒。

事件进展与其他报道

制品蒸馏:无需训练的前沿模型到小型语言模型的迁移

arXiv:2610.37680v1 发布类型:新 摘要:缩小前沿模型与小型语言模型之间的差距,通常采用蒸馏方法:在前沿模型(教师)的输出上对小型模型(学生)进行微调,但这使得迁移过程依赖于训练计算,并且被迁移的知识往往难以解释。我们提出了一种名为“制品蒸馏”的方法:由教师模型解决一系列训练实例,并将其求解过程外化为一个制品库,学生在推理时直接查询该库,而无需进行梯度更新。在四项LiveBench任务中,由Claude Opus 4.5构建的制品库使Claude Haiku 4.5在空间推理任务上的表现(0.707 vs. 0.647)达到其自身成本的60%时,已超越未借助任何辅助的Claude Sonnet 4.5;而在表格连接任务上,该制品库仅以Sonnet 4.5成本的89%便达到了相同水平。同样的原始制品库还提升了

事件进展与其他报道

TRACEs:面向分布式科学工作流的细粒度嵌入式溯源

arXiv:2610.39981v1 发布类型:新 摘要:大规模科学工作流运行于分布式高性能计算资源之上,这使得人们难以解释科学数据产品的生成过程,也难以理解为何相似的工作流执行会得到截然不同的结果。现有系统通常只关注分布式工作流的执行或溯源管理,很少将细粒度的溯源视为分布式科学数据产物的固有属性。我们提出了 TRACEs(可追溯的高级容器化执行运行时),这是一种适用于分布式容器化科学工作流的溯源架构,它将数据血统与执行上下文直接嵌入到每一个生成的数据产物中。通过将溯源与工作流编排解耦,TRACEs 将以产物为中心的溯源进行泛化

事件进展与其他报道

语义丰富、度量无偏:现代文本嵌入模型中的几何盲区

arXiv:2610.32122v1 发布类型:新 提要:我们报告了现代文本嵌入模型中的一种系统性脱节现象:情感信息几乎可以被其嵌入表示完美解码,却几乎完全无法从其度量空间中体现出来。在涵盖2021年至2026年的十一种冻结编码器中,包括2026年发布的模型以及4B参数的大型语言模型嵌入器Qwen3-Embedding-4B,线性探测器在句子极性分类任务上的准确率高达91.3%,而余弦相似度对极性的区分幅度却仅为0.003至0.064。作为该测试集中表现最强的探测器,Qwen3-Embedding-4B的探测准确率达到91.3%,但在检索平均精度(MAP)方面却仅有64.3%。由于检索、聚类、去重以及检索增强生成等任务均基于度量空间而非经过训练的探测器进行,这些系统实际上对相关信息处于“视而不见”的状态。

事件进展与其他报道