跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

轮辐,而非环:重新审视语言模型中的工作日流形

arXiv:2610.37796v1 发布类型:新 摘要:近期研究提出,大型语言模型可能将某些概念表示为多维流形,而非单一方向。利用这些流形来解释或引导模型的表征时,通常假设沿流形移动对应于所表征概念的连续变化。在本研究中,我们针对典型的工作日流形检验了这一连续流形假设。尽管其具有引人注目的圆形几何结构,我们发现工作日的表征更像七个按圆周排列的离散状态,而非连续的环状结构。首先,我们证明局部敏感性在七个星期几处各有一个极小值,从而在流形内引导下,表征与行为之间呈现出阶梯式的映射关系。其次,w

事件进展与其他报道

令牌置信度只是链长吗?对推理轨迹的信号处理审计

arXiv:2610.36709v1 发布类型:新 摘要:推理型语言模型通过撰写长长的思维链条来解答数学问题,而针对每个问题采样多条链条并以多数投票的方式提高准确率,却会大幅增加生成文本的开销。一种常见的降本方法是根据模型对其所写每个标记的置信度为每条链条打分,这里的“标记”指一个词或词的一部分。该方法将这种置信度在滑动窗口内(2048个标记)进行平均,并依据最低平均值决定保留或终止链条。我们将逐标记记录的置信度视为一种类似于音频或无线电信号的信号,并借助频谱分析、统计检验等标准信号处理工具来检测其中是否出现突变。我们从……中为500道题目各采样了16条链条。

事件进展与其他报道

流形上流匹配的兼容似然性

arXiv:2610.31981v1 发布类型:新 基本摘要:在最简单的非欧几里得流形——一维平坦环面上,我们展示了一种分布,在该分布下,一种近期提出的黎曼流匹配扩展方法能够通过一个将样本从数据分布中推开的速度场实现全局最优。我们将这种失效模式归因于我们称之为“兼容性”的性质:基于似然的流匹配目标若具备兼容性,则其总体最小化解能够恢复由数据与耦合所诱导的边际速度场。我们给出了兼容性的通用条件,并将其应用于现有方法,同时以在兼容性条件下趋于零的残差项为基准,对最坏情况下的误差进行了界定。此外,我们指出,现有的兼容性目标会在紧致流形上对那些不可行的速度施加密度约束。

新闻源配图 · arXiv cs.LG
事件进展与其他报道

LooseLeaf:为计算型笔记本电脑启用无服务器GPU

arXiv:2610.33275v1 发布类型:新 摘要:计算型笔记本会在整个会话期间独占一块GPU,然而GPU仅在单元格执行时进行计算,其余时间则处于空闲状态。无服务器执行模式可以在各单元格之间释放GPU资源,但在新的工作节点上重建累积的笔记本状态会对每个GPU单元格带来显著的开销。本文提出了一种面向交互式笔记本的无服务器GPU平台——LooseLeaf。LooseLeaf能够推导出每个单元格的状态及其导入闭包,即该单元格所需的最小变量与软件包集合。我们在5,000个真实世界笔记本上的分析表明,这些闭包规模很小,且用户对单元格的编辑操作只需数秒即可完成准备。LooseLeaf会在用户编辑单元格的同时,基于这些闭包为GPU工作节点做好准备。执行结束后,该工作节点会…

新闻源配图 · arXiv cs.DC
事件进展与其他报道

PhaseBreak:针对未经授权的图像转视频动画的主动时序保护

arXiv:2610.33070v1 发布类型:新 摘要:图像到视频(I2V)扩散模型能够为单张肖像或照片赋予动态效果,从而使得共享的图像在未经主体授权的情况下被重新用于运动合成。我们研究针对此类用途的主动视觉保护机制:在图像发布之前,其所有者施加一种有界扰动,既保持共享工作流不变,又干扰下游的运动生成过程。现有的频谱扰动目标会全局性地削弱时序特征表示,因此难以对细微或空间局部化的运动进行有效控制。我们的核心思路是:生成的动态不仅取决于时序特征的强度,还与特征事件的发生顺序密切相关。我们提出了一种白盒式的频谱重定时保护方法——PhaseBreak。

事件进展与其他报道

篡改的机器学习:评估大型语言模型对机器学习研究的判断

arXiv:2610.32114v1 发布类型:新 摘要:加速人工智能对齐研究进展的一种方法,是将对齐研究的部分环节实现自动化。这需要能够可靠地完成难以监督的研究任务的系统,包括识别研究方案中的缺陷,以及评估某项实验设计是否支持其预期结论。为评估这一能力,我们提出了“Tampered ML”基准,包含1,858个项目对,每一对均由一篇已发表的机器学习论文重构而成的实验方案,以及一个经过轻微修改、引入特定方法学缺陷的反事实版本组成。模型需在两种呈现顺序下均能识别出方法上更为合理的方案。一项针对分层抽样的人工验证研究估计,其中86%的项…

事件进展与其他报道

TaxoSAE:通过分类逻辑重新思考稀疏自编码器

arXiv:2610.31894v1 发布类型:新 摘要:近期的稀疏自编码器(SAE)能够将大型语言模型(LLM)的表示分解为可解释的特征,从而实现对编码知识的精确读取与控制。然而,现有的SAE将每个特征视为独立单元,而现实世界中的知识往往具有层级化的分类结构。因此,这种读取方式无法保证分类学上的一致性,控制也缺乏足够的粒度来明确指定编辑的范围。我们提出了TaxoSAE,该方法在SAE的特征空间中显式地编码了分类学信息,基于“is-a”(超类—子类)关系构建。TaxoSAE通过堆叠一系列SAE来模拟一个分类体系,每一层对应一个分类层级,并引入了一种分类对齐损失,使每个概念在被激活时都能准确对应其所属的分类层级。

事件进展与其他报道

PnP*:一种用于透视-点-点问题的可认证求解器

arXiv:2610.31797v1 发布类型:新 摘要:从3D-2D对应关系中估计相机位姿——即Perspective-n-Point问题——是计算机视觉中最基础的难题之一。现有方法要么求解极小化问题,要么用更简单的目标函数替代原目标。令人惊讶的是,目前尚不存在一种可扩展且能提供严格证明的、用于求解实际最大似然估计(MLE)的算法。我们提出了PnP*,这是首个既能保证高效计算、又能给出严格可证的全局最优解的实用算法。我们证明,在中等噪声条件下,其背后的凸松弛是精确的;据我们所知,这是首次针对PnP的最大似然估计问题的松弛方法提供稳定性保证。此外,我们还通过利用弦图稀疏结构和商环约简等技术进一步降低了松弛的复杂度……

PnP*: A certifiable solver for Perspective-n-Point
事件进展与其他报道