检索标题、摘要与正文，把分散的信息连起来。
arXiv:2610.38355v1 发布类型：新摘要：KV缓存复用能够加速大语言模型的推理，但现有系统将主机DRAM和NVMe SSD视为分层结构，其中DRAM充当中间缓存。然而，实际的大语言模型工作负载打破了这一分层结构的两个前提。首先，双模态复用使DRAM的时间过滤失效，因为工作负载要么由具有较长复用距离的一次性块主导，要么由超过DRAM容量的数GB级智能体会话主导，从而将SSD置于关键的读取路径上。其次，DRAM的暂存与按驱逐顺序布局导致SSD恢复出现瓶颈。为在途前缀保留主机暂存缓冲区会在负载下引发争用，进而中止预取操作；而增量式驱逐则会将会话的块分散到整个SSD上，阻碍大规模顺序读取。我们 p
arXiv：2610.33016v1 发布类型：新 摘要：Llama-3、Qwen3 以及许多其他开源大型语言模型，均采用一种正则表达式对文本进行预分词，该表达式的词类仅允许 Unicode 字母。由于天城文的元音符号属于组合标记，此正则表达式会在每一个元音符号处切分尼泊尔语单词，因此使用该正则的模型在处理尼泊尔语时所消耗的 token 数量，是处理同等长度英语文本的 2.6 至 5.8 倍。基于合并的词汇扩展方法无法将被切分的片段重新拼接：对于 Llama-3 和 Qwen3 而言，无论新增多少次合并操作，其额外开销始终难以降至约 2.2 的阈值以下；而即便已发布的十项扩展方案，其性能也仅比这一预分词基准低不到 4%。我们针对已部署的正则表达式提出了一项小幅修改，经证明可在不包含组合标记或天城文字符的情况下，确保每个 token ID 的完整性。通过新增 32,000 次合并，该方法使尼泊尔语与英语的 token 开销比降至 1.01 倍，且
arXiv：2610.34436v1 发布类型：新 摘要：循环语言模型在每个标记上会运行 $R$ 轮层，因此其键值（KV）缓存为每递归层保存 $R$ 个平面，而自推测解码（先用几轮进行初步推断，再用全部 $R$ 轮验证）会读取所有这些平面。我们发现，前缀键值的影响主要体现在较晚的阶段：在扰动幅度相同的情况下，第 25 至 32 轮的敏感度分别是第 2 至 9 轮的 $e^{15.0}$ 倍（Huginn-0125）和 $e^{12.8}$ 倍（Raven-Llama），且各平面随循环次数呈几何级数逼近最后一个平面，每轮分别达到 0.88 和 0.81。至于是否仅保留最深层的平面即可，这取决于晚期平面的成熟程度：在 Raven 上，仅存储最深层平面与从 bf16 转换为 fp32 的效果几乎无差异；而在 Huginn 上，仅有 1% 的位置就贡献了其误差的 74%。我们将这一发现转化为 RIPE，该方法存储最深层的
arXiv：2610.32632v1 发布类型：新 摘要：RISC‑V 正在成为高性能计算（HPC）领域的候选架构，但其与成熟的 x86 和 Arm 处理器相比的竞争力仍难以评估，因为现有研究采用的平台、工作负载和方法各不相同，且很少考虑能效。我们的工作基于统一的软件栈和评估方法，对当前主流的 HPC RISC‑V、Arm 和 x86 处理器进行了全面评测。我们详细分析了 Sophgo SG2044，并将其与 NVIDIA Grace CPU 超级芯片以及 Intel Xeon Platinum 8480+ 在四项 HPC 基准测试（STREAM、HPL、HPL‑MxP 和 HPCG）以及四款典型应用（iPIC3D、PLUTO、OpenFOAM 和 llama.cpp）上进行了对比。用于本研究的 HPL‑MxP 版本链接至 OpenBLAS，并以此为基础进行构建和测试……
2026年10月26日，arXiv发布预印本论文（编号2610.31685v1），提出一种基于冻结大模型的可追溯多模态情绪推理智能体架构，通过模态专用感知智能体、集成智能体、MLLM批评者及证据验证阶段实现错误归因与提示空间自适应优化，在MER2025数据集上提升多个开源多模态大模型（2B–38B参数）的情绪识别F-score达0.6–2.2分。
推荐理由：该研究针对当前多模态情绪推理系统在指令微调成本高与智能体流水线不可调试之间的矛盾，提出首个融合证据引用、确定性验证、失败归因与靶向提示修补的全流程可解释框架；所有改进均不修改模型权重，且在四个不同规模开源MLLM上实证有效，具备方法论创新性与工程实用性。
arXiv：2610.32215v1 发布类型：新 摘要：现代GPU数据中心日益强大的算力，使少数几家行业巨头得以在海量数据上训练并部署大型语言模型（LLMs）。然而，这些模型及其训练数据的庞大规模，使得集中式开发越来越难以为继，同时也将那些拥有相关私有数据但缺乏同等基础设施的小型机构拒之门外。本文围绕预训练与微调两大范式，梳理了我们在分布式LLM训练方面的立场，涵盖联邦学习、分割学习以及去中心化方法，并评估了它们在异构硬件与连接不稳定等地理分布式环境中的适用性。随后，我们提出了一种{\em 统一}的系统
2026年10月24日，arXiv发布论文arXiv:2610.30705v1，提出ULME——一种面向因果解码器型大语言模型的后训练框架，通过预测耦合（predictive coupling）机制，首次实现文本嵌入与语言生成能力的相互增强式统一。该方法在Qwen2.5/Qwen3系列（0.5B–8B参数）上验证有效，MTEB提升3.3–4.1分，同时保持生成任务（MMLU等）性能不降。
推荐理由：该论文直指当前多模态LLM能力割裂的核心问题：嵌入与生成长期由独立模型或仅参数共享的‘伪统一’模型承担。ULME通过可学习插槽与三目标联合训练（含stop-gradient预测损失），使生成过程主动塑造嵌入表征，属架构层面的实质性突破；实验覆盖广、基线强、指标全面，且发布于权威预印本平台，时效性与技术严谨性兼备。
一篇于2026年10月24日发布在arXiv的论文（编号2610.30715v1）通过跨语言探针与细化探针，在Gemma 4、Llama 3.2、Qwen 2.5和Pythia四款解码器-only大语言模型上刻画了语义意义在嵌入空间中的局部几何特性。
推荐理由：该研究首次系统刻画LLM中‘同一语义因子’内部的不变性、可变性与细化机制，提出‘局部各向异性邻域’模型，并经人类盲评验证，方法严谨、模型覆盖多样，结论具跨架构一致性。
2026年10月24日，arXiv发布论文arXiv:2610.30690v1，提出一种由两名临床医生主导定义、定稿与裁决的四条安全检查规则库，经形式化验证后作为守卫层应用于心理健康场景下的大语言模型（LLM）输出。该守卫层所有判断均可从一条命名规则和十六个事实复现，旨在提升安全性判断的可解释性与可检验性。
推荐理由：该研究提供了一种区别于主流prompt工程、LLM-as-a-Judge或Constitutional AI的安全增强路径，其核心创新在于将临床决策结构化、形式化并全程留痕；所有关键主张（如规则数量、验证方式、事实基数、对比实验数据及成本测量）均来自原文明确陈述，且发布时间（2026-10-24）与当前UTC日期（2026-10-25）一致，具备时效性与可信基础。
2026年10月24日发布的arXiv论文（2610.31017v1）指出，在文档级LoRA适配器评估中，开放书评分（open-book scoring）高度依赖模型即时阅读能力，而非适配器是否真正编码了对应文档的知识；随机适配器在开放书任务中可复现82%的专家适配器优势，但在无源文本的完形填空（cloze）任务中仅复现2%（统计上不可区分于零）。
推荐理由：该研究通过系统控制实验（150篇维基百科文章、Llama-3.1-8B-Instruct模型、双任务对比）揭示了当前开放书评估范式的根本局限性：它无法有效区分‘读取’与‘记住’，对知识编辑和检索型适配器的实际效用构成方法论挑战；论文同时报告了四个导致‘干净但错误结果’的静默错误，凸显可复现性风险。
2026年10月24日，研究者在arXiv发布论文arXiv:2610.30162v1，提出FusionEval——首个专用于评估大语言模型融合方法的统一基准，覆盖推理链长度、工具调用等薄弱环节，并支持训练型与免训练型融合方法对比。
推荐理由：该基准填补了现有评测对长链推理与工具使用覆盖不足的空白，明确区分平均性能与最差能力保留，提供可复现的专家池（基于Qwen3/Llama）、多维指标（含GPU内存与运行时）及开源代码，具强实践指导性。
一项发表于2026年10月24日arXiv（编号2610.30676v1）的AI研究，对五种开源Llama和Qwen指令微调模型实施后置奇异值谱平滑与尖峰扰动，发现该轻量干预可系统性重塑模型在事实知识、语言理解与演绎推理三类能力上的表现权衡。
推荐理由：该论文首次在多模型、多任务框架下实证验证了变压器前馈层奇异值谱结构对下游能力的因果影响，揭示了能力配置的结构性敏感规律，为模型能力解耦与可控编辑提供了新路径；所有结论均基于公开模型与标准评测，方法透明、评估维度全面。
