搜索 AI 资讯

在 NVIDIA DGX Spark 上提升 MoE 推理的三种方法

更快地生成令牌，首先要明确哪些因素限制了推理性能。在 NVIDIA 上对 Inclusion AI 的 Ling-3.0-flash 进行的单批次评估中……

百度开源无限OCR 2，用于百页文档解析

百度发布了 Unlimited OCR 2，这是一款采用 MIT 许可证的 3B 参数规模的 OCR 模型，能够在一次请求中解析百页文档。其 SR-SWA 注意力机制使每步解码开销几乎保持不变，在 MarathonDocBench 上取得了 77.1 的得分。该文章《百度开源 Unlimited OCR 2，用于百页文档解析》首发于 MarkTechPost。

Nace AI 推出用于搜索 AI 智能体的 Drex：在 BrowseComp-Plus 上的准确率为 92.05%，并进行了 12.6 次搜索调用

Nace AI 发布了 Drex for Search，将其 Drex 决策模型应用于 AI 智能体的文档搜索。Nace 在 BrowseComp-Plus 上取得了 92.05% 的成绩，仅需 12.6 次搜索调用，并且在 OfficeQA Pro 上实现了更少的智能体交互次数。该文章“Nace AI 为 AI 智能体发布 Drex for Search：在 BrowseComp-Plus 上取得 92.05% 成绩，仅需 12.6 次搜索调用”首发于 MarkTechPost。

面向开放ISA的超级计算：RISC-V、Arm与x86架构在HPC工作负载上的比较研究

arXiv：2610.32632v1 发布类型：新 摘要：RISC‑V 正在成为高性能计算（HPC）领域的候选架构，但其与成熟的 x86 和 Arm 处理器相比的竞争力仍难以评估，因为现有研究采用的平台、工作负载和方法各不相同，且很少考虑能效。我们的工作基于统一的软件栈和评估方法，对当前主流的 HPC RISC‑V、Arm 和 x86 处理器进行了全面评测。我们详细分析了 Sophgo SG2044，并将其与 NVIDIA Grace CPU 超级芯片以及 Intel Xeon Platinum 8480+ 在四项 HPC 基准测试（STREAM、HPL、HPL‑MxP 和 HPCG）以及四款典型应用（iPIC3D、PLUTO、OpenFOAM 和 llama.cpp）上进行了对比。用于本研究的 HPL‑MxP 版本链接至 OpenBLAS，并以此为基础进行构建和测试……

在 MXFP4 上训练 MoE 大型语言模型：我们如何缩小与 BF16 的差距

arXiv：2610.32229v1 发布类型：新 摘要：在低于8位的算术运算下训练大型语言模型（LLMs）有望显著提升内存带宽和计算吞吐量，然而FP4格式引入的量化误差若不加以处理，将严重扰乱优化过程。我们提出ALTO，这是一种开源的训练方案，用于在MLPerf小型MoE训练基准测试中，以MXFP4微缩尺度格式训练GPT-OSS-20B——一款拥有200亿参数的专家混合模型（MoE）。该方案融合了Abecassis、Felix等人[arXiv:2509.25149]提出的成熟技术（混合1D/2D块量化、随机化哈达玛变换以及随机舍入），并结合了一种基于TetraJet-v2[arXiv:2510.27527]改进的简化权重去振荡机制。在C4验证集上，采用全局批量大小

EDWARD-NMT：用于神经机器翻译的自适应路由与双重一致性弹性维度

arXiv：2610.32115v1 发布类型：新 摘要：稀疏混合专家（MoE）是一种强大的范式，可用于扩展神经机器翻译（NMT）并应对语言异构性。然而，实际限制阻碍了其在资源受限设备上的部署：整个专家池必须常驻内存，且每个标记的计算预算在训练期间由严格的 top-k 路由机制静态固定。我们提出了 EDWARD-NMT（用于 NMT 的弹性维度与自适应路由及双重一致性），这是一种新颖的 MoE 编码器—解码器架构，旨在实现“一次训练、随处部署”的范式，并在推理时提供一系列可部署的子网络。EDWARD-NMT 集成了三项关键创新：(i) 采用套娃式弹性维度，以灵活降低内存占用；(ii) 一个

查询记忆程度决定古典阿拉伯诗歌检索效果：BM25与稠密编码器表现随查询抽象度显著分化

一项发表于2026年10月26日arXiv的最新研究（arXiv:2610.31821v1）表明，在古典阿拉伯诗歌检索任务中，用户对诗句的记忆残留程度（如是否记得半行诗）比模型能力更关键地决定了检索性能；BM25在“舌尖效应”类查询中优于所有稠密编码器（含8B参数SOTA模型），但在抽象查询中大幅落后。

推荐理由：该研究通过双语料库、三索引模式与双评估协议的系统性基准测试，首次量化揭示了查询抽象度对不同检索范式（词法vs.稠密）的支配性影响，并经人类标注员与开源权重模型双重验证，结论具有方法论普适性与实证稳健性。