搜索 AI 资讯

等不及了！日本开发者手搓“Qwen4”，Prefill速度提升近3倍

智猩猩AI整理 编辑：没方 前天，日本开发者Ryu在X平台宣布，自己基于阿里通义的Qwen3.8-27B模型，开发出了一个名为Qwen3.8-27B-QSA的改造版本。 ....

等不及了！日本开发者手搓“Qwen4”，Prefill速度提升近3倍

智猩猩AI整理 编辑：没方 前天，日本开发者Ryu在X平台宣布，自己基于阿里通义的Qwen3.8-27B模型，开发出了一个名为Qwen3.8-27B-QSA的改造版本。 ....

FlatCake：一种用于大语言模型推理的扁平化KV缓存存储架构

arXiv:2610.38355v1 发布类型：新摘要：KV缓存复用能够加速大语言模型的推理，但现有系统将主机DRAM和NVMe SSD视为分层结构，其中DRAM充当中间缓存。然而，实际的大语言模型工作负载打破了这一分层结构的两个前提。首先，双模态复用使DRAM的时间过滤失效，因为工作负载要么由具有较长复用距离的一次性块主导，要么由超过DRAM容量的数GB级智能体会话主导，从而将SSD置于关键的读取路径上。其次，DRAM的暂存与按驱逐顺序布局导致SSD恢复出现瓶颈。为在途前缀保留主机暂存缓冲区会在负载下引发争用，进而中止预取操作；而增量式驱逐则会将会话的块分散到整个SSD上，阻碍大规模顺序读取。我们 p

前缀键值对的重要性：在循环语言模型中用于自推测解码的RIPE缓存

arXiv：2610.34436v1 发布类型：新 摘要：循环语言模型在每个标记上会运行 $R$ 轮层，因此其键值（KV）缓存为每递归层保存 $R$ 个平面，而自推测解码（先用几轮进行初步推断，再用全部 $R$ 轮验证）会读取所有这些平面。我们发现，前缀键值的影响主要体现在较晚的阶段：在扰动幅度相同的情况下，第 25 至 32 轮的敏感度分别是第 2 至 9 轮的 $e^{15.0}$ 倍（Huginn-0125）和 $e^{12.8}$ 倍（Raven-Llama），且各平面随循环次数呈几何级数逼近最后一个平面，每轮分别达到 0.88 和 0.81。至于是否仅保留最深层的平面即可，这取决于晚期平面的成熟程度：在 Raven 上，仅存储最深层平面与从 bf16 转换为 fp32 的效果几乎无差异；而在 Huginn 上，仅有 1% 的位置就贡献了其误差的 74%。我们将这一发现转化为 RIPE，该方法存储最深层的

通过边缘端实现大语言模型训练的民主化：挑战、系统与未来之路

arXiv：2610.32215v1 发布类型：新 摘要：现代GPU数据中心日益强大的算力，使少数几家行业巨头得以在海量数据上训练并部署大型语言模型（LLMs）。然而，这些模型及其训练数据的庞大规模，使得集中式开发越来越难以为继，同时也将那些拥有相关私有数据但缺乏同等基础设施的小型机构拒之门外。本文围绕预训练与微调两大范式，梳理了我们在分布式LLM训练方面的立场，涵盖联邦学习、分割学习以及去中心化方法，并评估了它们在异构硬件与连接不稳定等地理分布式环境中的适用性。随后，我们提出了一种{\em 统一}的系统

南贝格发布Nanbeige4.3-33B，一款33B的开源智能体驱动编码模型

Nanbeige LLM 实验室发布了 Nanbeige4.3-33B，这是一款拥有 512K 上下文的 33B 参数密集型 Apache 2.0 模型。据称，该模型在 Terminal-Bench 2.1 上取得了 80.9 的成绩，并将用于训练即将推出的 Nanbeige4.3-3B。文章《Nanbeige 发布 Nanbeige4.3-33B，一款 33B 开放式智能体驱动编码模型》首发于 MarkTechPost。

研究揭示大语言模型中语义意义的局部几何结构

一篇于2026年10月24日发布在arXiv的论文（编号2610.30715v1）通过跨语言探针与细化探针，在Gemma 4、Llama 3.2、Qwen 2.5和Pythia四款解码器-only大语言模型上刻画了语义意义在嵌入空间中的局部几何特性。

推荐理由：该研究首次系统刻画LLM中‘同一语义因子’内部的不变性、可变性与细化机制，提出‘局部各向异性邻域’模型，并经人类盲评验证，方法严谨、模型覆盖多样，结论具跨架构一致性。

研究通过奇异值谱干预调控大语言模型能力分布：Llama与Qwen模型实证分析

一项发表于2026年10月24日arXiv（编号2610.30676v1）的AI研究，对五种开源Llama和Qwen指令微调模型实施后置奇异值谱平滑与尖峰扰动，发现该轻量干预可系统性重塑模型在事实知识、语言理解与演绎推理三类能力上的表现权衡。

推荐理由：该论文首次在多模型、多任务框架下实证验证了变压器前馈层奇异值谱结构对下游能力的因果影响，揭示了能力配置的结构性敏感规律，为模型能力解耦与可控编辑提供了新路径；所有结论均基于公开模型与标准评测，方法透明、评估维度全面。

OpenAI最新GPT-6系列模型将登陆Google Cloud与Antigravity平台

OpenAI的GPT-6及6.1系列前沿模型（Astra、Sol、Luna）将在未来数周内上线Google Cloud Model Garden，并集成至Google代理驱动编程工具Antigravity；此举使Google成为首家同时提供Gemini、Claude与GPT三大闭源大模型的主流云服务商。

FairStress：面向LLM决策对称鲁棒性的新型公平性评估框架

FairStress 是一项聚焦大语言模型（LLM）在人口统计学身份置换情境下决策稳定性、解释一致性与内部表征对称性的新基准，揭示模型存在‘反刻板印象式过度矫正’等系统性行为偏差，并指出主流评估方法（如BBQ）可能因范式差异导致偏见方向误判。