当你把代码仓库交给别人训练之前，先给模型装一个后门
你有没有想过一件事：你用的那个编程助手模型，最初的权重文件从哪来的？大概率不是公司自己从零训练的。现在做AI应用的公司,十个里有九个是拿一个别人训练好的基础模型,再用自己的数据微调一下,变成自己产品里的"大脑"。Cursor的Composer 2用的是Kimi K2.5底子,WebRL把Llama模型改造成了网页操作助手。这事本身没毛病,省时...
AI NEWS JOURNAL
搜索 AI 资讯
检索标题、摘要与正文，把分散的信息连起来。
基于证据的直觉：面向多模态智能体的自适应双重记忆
arXiv:2610.33019v1 发布类型：新 摘要：随着多模态智能体开展持续交互，长期记忆发挥着两种既 distinct 又互补的功能：细粒度的证据召回，以及用于全局理解的内化解读。尽管情景记忆与隐式记忆分别通过显式的历史记录和内化的经验来满足这些需求，但由于情景记忆在证据覆盖与整合方面存在局限，而隐式记忆又缺乏扎实的事实基础，单一的范式难以兼顾不同任务间多样化的记忆偏好。为弥合这一鸿沟，我们提出了一种双记忆框架，将模型原生的隐式记忆作为直观的先验，同时结合多索引的情景记忆，通过检索驱动的联合对齐实现精确的证据重建。在 i
TaxoSAE：通过分类逻辑重新思考稀疏自编码器
arXiv：2610.31894v1 发布类型：新 摘要：近期的稀疏自编码器（SAE）能够将大型语言模型（LLM）的表示分解为可解释的特征，从而实现对编码知识的精确读取与控制。然而，现有的SAE将每个特征视为独立单元，而现实世界中的知识往往具有层级化的分类结构。因此，这种读取方式无法保证分类学上的一致性，控制也缺乏足够的粒度来明确指定编辑的范围。我们提出了TaxoSAE，该方法在SAE的特征空间中显式地编码了分类学信息，基于“is-a”（超类—子类）关系构建。TaxoSAE通过堆叠一系列SAE来模拟一个分类体系，每一层对应一个分类层级，并引入了一种分类对齐损失，使每个概念在被激活时都能准确对应其所属的分类层级。