GPT-6爆改模型权重!数学能力狂飙6倍,MIT博一新作破圈了
新智元报道 这一天还是来了!不用训练、不算梯度,只让GPT-6 Astra改写另一款小模型0.016%权重,数学成绩就能原地暴涨6倍!今天,MIT计算机科学与人工智能实验室(CSAIL)带来的这项新研究,在全网彻底火了。他们首次提出了一个颠覆传统深度学习的新范式,「权重空间编程」。要知道,神经网络的权重文件里全是一眼望不到头...
检索标题、摘要与正文,把分散的信息连起来。
新智元报道 这一天还是来了!不用训练、不算梯度,只让GPT-6 Astra改写另一款小模型0.016%权重,数学成绩就能原地暴涨6倍!今天,MIT计算机科学与人工智能实验室(CSAIL)带来的这项新研究,在全网彻底火了。他们首次提出了一个颠覆传统深度学习的新范式,「权重空间编程」。要知道,神经网络的权重文件里全是一眼望不到头...
arXiv:2610.38355v1 发布类型:新摘要:KV缓存复用能够加速大语言模型的推理,但现有系统将主机DRAM和NVMe SSD视为分层结构,其中DRAM充当中间缓存。然而,实际的大语言模型工作负载打破了这一分层结构的两个前提。首先,双模态复用使DRAM的时间过滤失效,因为工作负载要么由具有较长复用距离的一次性块主导,要么由超过DRAM容量的数GB级智能体会话主导,从而将SSD置于关键的读取路径上。其次,DRAM的暂存与按驱逐顺序布局导致SSD恢复出现瓶颈。为在途前缀保留主机暂存缓冲区会在负载下引发争用,进而中止预取操作;而增量式驱逐则会将会话的块分散到整个SSD上,阻碍大规模顺序读取。我们 p
arXiv:2610.36178v1 发布类型:新 摘要:我们无需抽样误差,即可测量当被要求生成一个随机数时,语言模型为1至N之间的每个整数所分配的概率。对于固定的提示词,模型会定义一个概率向量;我们通过累加每个整数的得分拼写来计算该向量,而非采用抽样估计,从而消除了限制早期研究[1, 4]的噪声。我们在两个推理栈上,针对多达N=100的五个范围,评估了18条开放权重模型系列,并采用了29种解码配置;其中15个模型同时拥有基础版和指令微调版的检查点,且两者均能给出可用的答案。指令微调使这15对模型中的分布更加不均匀,它引入了一种避免使用整数的启发式方法,并强化了另一种避免接近端点的启发式方法。基础检查点
2026年10月26日,arXiv发布论文arXiv:2610.31838v1,提出Sense-Aligned Grounding Evaluation(SAGE)——一个统一的10候选图像选择基准,并配套训练无关的Gloss-Augmented Reasoning(GAR)框架,用于跨名词、动词和实体中心的多模态接地评估。
推荐理由:该研究首次将VWSD、VerSe和WikiDiverse三类任务统一为术语中心的接地评测协议,引入混淆难负样本与上下文交换诊断机制,并通过实证表明定义增强与约束引导推理的协同可显著提升Hits@1指标(65.90→71.22),为多模态语义对齐提供了更细粒度、可解释的评估新范式。
月之暗面于2026年10月22日前后发布Kimi K3.1 Pro,一款2.8万亿参数、1040亿激活参数的多模态MoE模型,宣称性能逼近Fable 5.1;官方承诺11月4日发布开源权重,但截至报道时权重尚未公开;独立评测显示其在智能指数、代码与网络安全基准中表现突出,但存在推理成本、本地部署可行性及营销透明度等争议。
推荐理由:该事件标志着当前最接近闭源前沿模型能力的开源权重模型正式进入发布倒计时,是AI开源生态关键进展;材料来源为Latent Space旗下AINews(2026年10月24日发布),内容基于对X平台、Reddit、Arena及Artificial Analysis等多方独立评测的整合,信息密度高且具时效性与交叉验证特征。
2026年10月24日,研究者在arXiv发布论文arXiv:2610.30841v1,正式推出TRIAD基准——专用于评估文本、图像与音频三模态协同歧义消解能力的新评测框架。该基准含327个手工构建的三模态样本,覆盖86个场景组和18类跨模态歧义类型。
推荐理由:该成果直击当前多模态大模型评测的核心盲区:现有基准多聚焦确定性输入下的感知或推理,而TRIAD首次系统性地以‘模态互补消歧’为评测目标,通过严格设计的留一模态反事实测试,揭示模型(尤其对音频)利用不足、场景级鲁棒性薄弱等关键缺陷,为下一代全模态模型评估提供可复现的诊断协议与分类法。
论文arXiv:2610.30158v1于2026年10月24日发布,介绍名为Lighthouse的首个专用于探索美国民权运动时期历史(基于南卡罗来纳州档案数据)的数字助手。其核心创新在于以可信内容与用户伤害减缓为设计原则,采用神经符号混合架构,融合大语言模型与规则化符号求解。
推荐理由:该研究首次将AI辅助历史探索聚焦于民权运动这一敏感而关键的历史阶段,并明确提出‘可信性’与‘伤害建模’双重约束,区别于通用聊天机器人;其方法论(神经符号结合)、评估方式(含专家共识构建的主观题金标准)及数据规模(超1.8万份原始档案)均具学术示范价值。