跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

用于公平深度伪造检测的交叉性不变学习

arXiv:2610.37881v1 发布类型:新 摘要:深度伪造检测模型虽然整体准确率较高,但在不同人口统计群体之间却表现出显著的性能差异,导致某些群体的假阳性率远高于其他群体。现有的公平性感知方法通过约束模型输出以实现各群体预测的一致性来应对这一问题,但并未解决潜在的特征层面偏见。因此,这些模型仍可能依赖于诸如皮肤纹理等人口统计学特征作为检测篡改内容的间接线索。为了解决这一问题,我们提出了交叉性不变学习(IIL)框架,该框架着重改进特征学习,而非仅仅调整模型输出。IIL通过交替识别最具挑战性的群体划分

事件进展与其他报道

轮辐,而非环:重新审视语言模型中的工作日流形

arXiv:2610.37796v1 发布类型:新 摘要:近期研究提出,大型语言模型可能将某些概念表示为多维流形,而非单一方向。利用这些流形来解释或引导模型的表征时,通常假设沿流形移动对应于所表征概念的连续变化。在本研究中,我们针对典型的工作日流形检验了这一连续流形假设。尽管其具有引人注目的圆形几何结构,我们发现工作日的表征更像七个按圆周排列的离散状态,而非连续的环状结构。首先,我们证明局部敏感性在七个星期几处各有一个极小值,从而在流形内引导下,表征与行为之间呈现出阶梯式的映射关系。其次,w

事件进展与其他报道

面向大语言模型对齐的排序感知差分隐私发布方法

arXiv:2610.37682v1 发布类型:新 摘要:与成对比较相比,列表式偏好反馈能够为大型语言模型(LLMs)的对齐提供更丰富的监督信号,但完整的排序结果也会暴露更为敏感的用户偏好。现有的隐私保护型对齐方法主要聚焦于成对反馈,而本地差分隐私(LDP)下的列表式对齐仍处于未被探索的状态。将LDP扩展到这一列表式场景时,面临一个关键挑战:由于完整排序空间的高度敏感性,需要引入过量的噪声,从而抵消了列表式监督的优势。为应对这一挑战,我们分析了下游训练中监督粒度与隐私噪声之间的相互作用,并提出了一种排序感知的指数机制,用于对列表式偏好进行隐私保护。

事件进展与其他报道

暴露并不等于承诺:针对使用工具的智能体的潜在监控器的双层评估

arXiv:2610.37679v1 发布类型:新 摘要:使用工具的语言模型容易受到间接提示注入的影响,而越来越多的研究试图通过探查模型内部来在不安全操作执行前将其捕获,但所得结果却存在严重分歧。我们认为,这种分歧很大程度上源于评估方法上的缺陷,并提出了一种双层评估协议:在评估与训练数据集中,将“提示注入”与“行为承诺”加以分离。在主要的Qwen AgentDojo基准测试集上,那些基于朴素的“不安全与其余”混合对比进行训练的监控器,大多仅学会识别“暴露”:它们会标记出所有被暴露的轨迹,无论智能体是否真正执行了相应操作,且几乎无法预测哪些情况最终会导致不安全行为。而当仅针对已暴露案例重新训练后,同一类探测器便能预测模型自身发出的不安全工具调用,时间延迟长达两秒。

事件进展与其他报道

面向医学影像的负责任量子机器学习:针对敏感子群体的公平性审计

arXiv:2610.37819v1 发布类型:新 摘要:量子机器学习(QML)正日益被应用于医学分类任务,然而其在考虑子群体公平性标准下的表现仍缺乏深入研究。我们针对医学影像领域中的经典与量子分类器开展了一项实证性的公平性审计,并假设量子机器学习本身并不天然具备公平性。本研究评估了两种场景:基于DDI数据的皮肤病变分类(敏感属性为Fitzpatrick肤色类型)以及基于CheXpert衍生数据的胸部X光片分类(敏感属性为年龄组)。利用ResNet-18提取的特征嵌入,我们在基准设置及三种缓解策略下训练SVM、MLP、QSVM和QCNN模型:可微分的等权几率(EO)正则化、梯度反转学习(GRL),以及二者结合。同时,以基础模型(PanDerm、EVA-X)作为外部参考。

事件进展与其他报道

超越低通动力学:基于谐振神经元的频率选择性脉冲储备池

arXiv:2610.37906v1 发布类型:新 摘要:脉冲储备计算将固定递归储备池的训练效率与事件驱动推理的能量效率相结合,其中计算由稀疏脉冲触发,而非在每个时间步都进行密集运算。然而,现有的脉冲储备池几乎完全依赖于漏积分-发放(LIF)神经元,其低通特性限制了它们区分不同时间频率所编码信息的能力。我们提出了HRF-Res,一种液态状态机,其中LIF神经元被异质的谐波谐振-发放(HRF)神经元群体所取代。这些神经元具有内在的振荡动力学,并能选择性地响应输入频率,从而使储备池能够捕捉频

事件进展与其他报道

TRACEs:面向分布式科学工作流的细粒度嵌入式溯源

arXiv:2610.39981v1 发布类型:新 摘要:大规模科学工作流运行于分布式高性能计算资源之上,这使得人们难以解释科学数据产品的生成过程,也难以理解为何相似的工作流执行会得到截然不同的结果。现有系统通常只关注分布式工作流的执行或溯源管理,很少将细粒度的溯源视为分布式科学数据产物的固有属性。我们提出了 TRACEs(可追溯的高级容器化执行运行时),这是一种适用于分布式容器化科学工作流的溯源架构,它将数据血统与执行上下文直接嵌入到每一个生成的数据产物中。通过将溯源与工作流编排解耦,TRACEs 将以产物为中心的溯源进行泛化

事件进展与其他报道

异构性何时带来收益?理解GPU与WSE系统的互补性

arXiv:2610.39222v1 发布类型:新 摘要:随着人工智能加速器架构日益多样化,将不同架构整合到统一系统中正逐渐成为一种新兴的异构计算范式。GPU与WSE在计算、内存和通信组织等方面存在显著差异,这既带来了架构上的互补性,也增加了额外的开销;然而,如何将这种异构性转化为实际的性能提升仍不明确。为填补这一空白,我们提出了一种分层基准测试方法,用于刻画GPU—WSE的异构执行特性及发挥互补性的条件,并构建了一个分析型性能模型,用以识别在何种情况下异构性会成为性能瓶颈,而在何种情况下则能带来系统级的性能提升。

事件进展与其他报道

FlatCake:一种用于大语言模型推理的扁平化KV缓存存储架构

arXiv:2610.38355v1 发布类型:新摘要:KV缓存复用能够加速大语言模型的推理,但现有系统将主机DRAM和NVMe SSD视为分层结构,其中DRAM充当中间缓存。然而,实际的大语言模型工作负载打破了这一分层结构的两个前提。首先,双模态复用使DRAM的时间过滤失效,因为工作负载要么由具有较长复用距离的一次性块主导,要么由超过DRAM容量的数GB级智能体会话主导,从而将SSD置于关键的读取路径上。其次,DRAM的暂存与按驱逐顺序布局导致SSD恢复出现瓶颈。为在途前缀保留主机暂存缓冲区会在负载下引发争用,进而中止预取操作;而增量式驱逐则会将会话的块分散到整个SSD上,阻碍大规模顺序读取。我们 p

事件进展与其他报道

在不阅读解释的情况下进行评分:自动化可解释性评估中的结构化捷径

arXiv:2610.37676v1 公告类型:新摘要:自动化可解释性通过让模型逐个标记地预测特征在评估样本上的激活位置,或判断标记的标记是否与该特征相符,从而对稀疏自编码器(SAE)特征的解释进行评分。我们发现,评估数据的标准处理流程可以在不读取解释的情况下完成评分。在Neuronpedia存储的针对500个随机GPT-2小型特征的模糊测试运行中,91.3%的激活样本都以中心标记为峰值进行裁剪;而当中心标记被标记时判定为“是”的规则,其平衡准确率达到了0.979,相比之下,基于存储的LLM评分器(根据管道代码重新计算的逐项判决结果)的准确率为0.838;仅依据标记数量的规则则达到了0.969。T

事件进展与其他报道

Seq@K:在序列反馈下的语言模型评估

arXiv:2610.37859v1 发布类型:新 摘要:语言模型驱动的智能体与以往的智能系统存在根本性差异,其能够在上下文中从自然语言中学习。这一能力使智能体能够根据反馈逐步优化自己的回答,而这正是现代智能体工作流中普遍采用的操作模式。然而,学术界目前主要依据Pass@1或Pass@K等指标对模型进行排名,这些指标无法反映模型如何利用先前尝试的反馈信息。我们提出了Seq@K,这是一种自然的评估方案,用于衡量模型在每次先前失败后获得反馈的情况下,是否能在K次连续尝试内解决问题。与那些考察长期规划的多轮智能体基准测试不同,Seq@K将重点聚焦并形式化了从……中进行迭代优化的核心能力。

事件进展与其他报道

FinLLM-KG:用于算法交易中金融情绪分析的知识图谱增强型大语言模型

arXiv:2610.36083v1 发布类型:新 原文摘要:生成式人工智能的最新进展通过后训练的金融领域大型语言模型(LLMs),显著提升了金融情绪分析的性能。然而,现有方法仍局限于孤立地预测每篇文章的情绪,且运行机制如同“黑箱”,这限制了对上下文的理解,并阻碍了其在高风险金融决策中的应用。为此,我们提出了FinLLM-KG,这是一种与模型无关的框架,将因果推理的大语言模型与金融知识图谱相结合,在推理阶段注入来自美国证券交易委员会10-K文件的、具有时间关联性的公司级知识,而无需更新模型权重。在FinLLM-KG中,上下文既可以以自然语言形式的公司简介提供,也可以以一小部分关系作为输入。

事件进展与其他报道

ReCoPII:一种基于关系的上下文化PII掩码数据集构建框架

arXiv:2610.35925v1 发布类型:新 摘要:训练用于个人身份信息(PII)的上下文化掩码系统,需要能够区分某一实体类型中可掩码与不可掩码提及的示例,但隐私限制使得获取真实数据受到制约。基于作者的增强方法(SPY)会将与作者无关的提及标记为非PII,这种方法假定存在单一的数据主体,而忽视了其他可能的主体。我们提出了ReCoPII(基于关系的上下文化PII掩码),该框架无需这一假设即可构建此类数据:它规划受本体约束的实体关系,编写带有占位符的插入句,通过代码重建标注,利用独立的大型语言模型检查结果,并根据实体关系推导出MASK/KEEP标签。在来自六个领域的韩语文档上,它生成了Re

事件进展与其他报道

在适应之前进行校正:面向联邦自适应优化的梯度校正

arXiv:2502.02727v4 发布类型:替换-交叉 摘要:客户端漂移补偿方法能够缓解联邦学习(FL)中数据异构性带来的影响。尽管针对基于随机梯度下降(SGD)的联邦学习,漂移校正已得到充分研究,但其与自适应客户端优化器之间的相互作用仍缺乏深入理解。诸如Adam等自适应优化器会根据过去梯度的运行平均值来构建每次更新,因此仅对最终更新方向进行校正,将无法改变这些平均值及其所包含的漂移。我们提出了联邦自适应梯度校正({\tt FA-GC}),该方法在梯度进入这些运行平均值之前即对其进行校正,并将其与联邦自适应朴素跟踪({\tt FA-NT})进行了对比——后者是在最终更新方向上添加校正。我们证明,在一种理想情况下

事件进展与其他报道

通过低秩多线性分解进行大语言模型幻觉检测

arXiv:2610.36191v1 发布类型:新 摘要:大型语言模型(LLMs)经常生成流畅但事实错误的回复,这引发了对其可靠性的担忧。近期的幻觉检测方法越来越多地利用内部表示,但从高维隐藏状态中提取有效信息仍然充满挑战。现有方法往往依赖于特定激活或基于池化的压缩方式,可能忽略了分布在Transformer各层、特征模式和标记中的判别性信息。我们提出了LOTUS(基于低秩顺序统计TUcker的子空间学习),这是一种用于幻觉检测的多线性低秩分解框架,能够在降低对标签依赖的同时,从LLM的隐藏状态中提取紧凑的表示。

事件进展与其他报道

没有分词器,依然存在鸿沟:同形异义字符与不可见字符水印的跨语言公平性

arXiv:2610.36432v1 发布类型:新 摘要:同形异义字符与不可见字符水印均属于基于编辑的水印技术。它们并非改变模型生成文本的方式,而是在文本生成之后将其隐藏于其中。具体而言,这些水印会用外观相同或极为相似但拥有不同Unicode码点的同形异义字符替换部分字符,或者插入一些不会显示的字符,且整个过程无需访问生成该文本的模型。由于分词器对文本的切分方式,生成时水印在资源匮乏的语言上表现较差。鉴于这类水印作用于单个字符,它们并不会触及分词器,因此我们不禁要问:它们是否能够绕过这一局限?我们在24种文字体系下的40种语言变体中,测量了其容量(即每个字符所能承载的隐秘信息位数),以及其中有多少……

事件进展与其他报道

KORA:面向人工智能工作负载的确定性优先执行控制

arXiv:2610.35869v1 发布类型:新 摘要:人工智能应用通常会在决定是否需要进行推理之前先调用模型。这种默认行为对于模糊的生成任务很有用,但与那些结构化、确定性、受策略约束、以查找为主或可直接验证的工作并不匹配。KORA 提出了确定性优先执行控制:一种位于推理前的控制层,它将请求表示为任务路径,优先尝试确定性或结构化的执行路径,验证路径结果,记录遥测数据,并仅在确定性处理不足时才切换到模型候选路径。本文将 KORA 介绍为一种确定性优先的执行控制架构,并基于可复现的基准测试和验证工作负载提供了有限的实证证据。在一项重

事件进展与其他报道

令牌置信度只是链长吗?对推理轨迹的信号处理审计

arXiv:2610.36709v1 发布类型:新 摘要:推理型语言模型通过撰写长长的思维链条来解答数学问题,而针对每个问题采样多条链条并以多数投票的方式提高准确率,却会大幅增加生成文本的开销。一种常见的降本方法是根据模型对其所写每个标记的置信度为每条链条打分,这里的“标记”指一个词或词的一部分。该方法将这种置信度在滑动窗口内(2048个标记)进行平均,并依据最低平均值决定保留或终止链条。我们将逐标记记录的置信度视为一种类似于音频或无线电信号的信号,并借助频谱分析、统计检验等标准信号处理工具来检测其中是否出现突变。我们从……中为500道题目各采样了16条链条。

事件进展与其他报道

雅可比透镜的数学理论

arXiv:2610.31955v1 发布类型:新 提要:Anthropic 的最新研究提出了一种名为“雅可比透镜”(J-lens,Gurnee 等人,2026)的新可解释性工具。该方法在前沿语言模型的隐藏状态中识别出一些线性方向,这些方向表现出类似工作记忆表征的特性。然而,尚不清楚究竟是哪些机制特性使这类特征能够被 J-lens 检测到。为此,我们提出了 J-lens 的数学理论,并证明它倾向于识别相干特征——即那些类似于主导、在空间上具有连贯性的李雅普诺夫模态的方向。沿着这些方向施加微小扰动时,其放大效应会逐层传递,在各个标记位置大致保持不变,并且在不同上下文中也具有一致性。尽管 w

新闻源配图 · arXiv cs.LG
事件进展与其他报道

MANTA:在异步BFT中解锁DAG的灵活性

arXiv:2610.34419v1 发布类型:新 摘要:基于有向无环图(DAG)的拜占庭容错(BFT)协议通过用并行的区块提案取代单主节点的提案路径,并借助共享图结构将这些提案相互连接,从而在共识设计上实现了重大转变;其中,引用机制用于编码共识证据。然而,在异构广域网(WAN)环境下,现有方案由于拖后腿效应而面临轮次延长和性能下降的问题。其根本原因在于僵化的轮次推进机制:各副本以同步的方式按固定轮次推进,必须等待前一轮中足够多的引用后才能继续前进。我们提出了一种适用于异步BFT共识的灵活DAG扩展框架。我们的关键观察是:尽管引用法定人数对于安全性和活性至关重要,但并不需要在每一轮推进时都予以阻塞;相反,连通性r

事件进展与其他报道