跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

用于模型校准的均摊化局部后验推断及其在海洋湍流闭合中的应用

arXiv:2610.37731v1 发布类型:新 摘要:模型偏差可能导致单一校准参数无法在整个上下文域内重现物理响应。此外,观测与上下文中的不确定性会影响校准过程,必须予以考虑并加以量化。我们通过根据观测值与目标上下文的接近程度对观测似然进行加权,构建了一族局部后验分布。高斯型局部化权重借助协方差膨胀来纳入上下文不确定性,并在域边界处进行反射处理,同时可选地针对不均匀的上下文采样进行修正。一种条件归一化流通过均摊化的变分推断方法近似该族后验分布。将这些局部后验分布按照预设的上下文测度进行整合,即可得到

事件进展与其他报道

雅可比透镜的数学理论

arXiv:2610.31955v1 发布类型:新 提要:Anthropic 的最新研究提出了一种名为“雅可比透镜”(J-lens,Gurnee 等人,2026)的新可解释性工具。该方法在前沿语言模型的隐藏状态中识别出一些线性方向,这些方向表现出类似工作记忆表征的特性。然而,尚不清楚究竟是哪些机制特性使这类特征能够被 J-lens 检测到。为此,我们提出了 J-lens 的数学理论,并证明它倾向于识别相干特征——即那些类似于主导、在空间上具有连贯性的李雅普诺夫模态的方向。沿着这些方向施加微小扰动时,其放大效应会逐层传递,在各个标记位置大致保持不变,并且在不同上下文中也具有一致性。尽管 w

新闻源配图 · arXiv cs.LG
事件进展与其他报道

EVOLVE:基于自适应原型记忆的不确定性感知多变量时间序列异常预测

arXiv:2610.32189v1 发布类型:新 摘要:无监督多变量时间序列异常预测(AP)旨在根据当前观测值估计未来的异常风险,为复杂系统中的主动干预与维护提供早期预警信号。现有的无监督AP方法遵循基于扰动的范式,即在历史窗口中注入预定义或随机的扰动,以模拟异常的未来演化。然而,这些方法在不同变量和情境之间共享同一类扰动,并学习一种确定性的历史到未来的演化模式。实际上,异常演化具有变量和情境依赖性:同样的扰动在某一变量或情境下可能被放大为异常的未来动态,而在另一情境下却可能被吸收为正常的波动。

事件进展与其他报道

基于状态空间编码的线性时间上下文压缩

arXiv:2610.33006v1 发布类型:新 摘要:基于Transformer的大型语言模型(LLMs)在上下文长度增加时会带来巨大的计算与内存开销,这促使人们研究在推理前将上下文压缩为更短表示的方法。现有的软提示压缩方法通常采用与目标模型相同的Transformer主干架构,而在生成压缩表示的过程中会产生显著的延迟开销。这使得这些方法仅适用于离线场景——即上下文被一次性压缩后,在多次查询中重复使用。我们提出了Boa压缩器,这是一种即插即用的在线上下文压缩器,基于Mamba状态空间模型(SSM)构建,能够在一次线性时间的遍历中编码任意长度的上下文,并生成一个可用于后续条件化的表示……

事件进展与其他报道