搜索 AI 资讯

硅谷的AI创始人们，联手点名29家“潜力股”

最近，硅谷创投圈发了一份蛮有意思的榜单：让一些已经做出成功公司的 AI 创始人，推荐他们看好的下一批创业者。 像 Fireworks、Vercel 以及 Mercor 这些明星公司的 CE....

FlatCake：一种用于大语言模型推理的扁平化KV缓存存储架构

arXiv:2610.38355v1 发布类型：新摘要：KV缓存复用能够加速大语言模型的推理，但现有系统将主机DRAM和NVMe SSD视为分层结构，其中DRAM充当中间缓存。然而，实际的大语言模型工作负载打破了这一分层结构的两个前提。首先，双模态复用使DRAM的时间过滤失效，因为工作负载要么由具有较长复用距离的一次性块主导，要么由超过DRAM容量的数GB级智能体会话主导，从而将SSD置于关键的读取路径上。其次，DRAM的暂存与按驱逐顺序布局导致SSD恢复出现瓶颈。为在途前缀保留主机暂存缓冲区会在负载下引发争用，进而中止预取操作；而增量式驱逐则会将会话的块分散到整个SSD上，阻碍大规模顺序读取。我们 p

Seq@K：在序列反馈下的语言模型评估

arXiv:2610.37859v1 发布类型：新 摘要：语言模型驱动的智能体与以往的智能系统存在根本性差异，其能够在上下文中从自然语言中学习。这一能力使智能体能够根据反馈逐步优化自己的回答，而这正是现代智能体工作流中普遍采用的操作模式。然而，学术界目前主要依据Pass@1或Pass@K等指标对模型进行排名，这些指标无法反映模型如何利用先前尝试的反馈信息。我们提出了Seq@K，这是一种自然的评估方案，用于衡量模型在每次先前失败后获得反馈的情况下，是否能在K次连续尝试内解决问题。与那些考察长期规划的多轮智能体基准测试不同，Seq@K将重点聚焦并形式化了从……中进行迭代优化的核心能力。

3、7、14、17、42：指令微调在语言模型中安装并强化了数字选择启发式方法

arXiv：2610.36178v1 发布类型：新 摘要：我们无需抽样误差，即可测量当被要求生成一个随机数时，语言模型为1至N之间的每个整数所分配的概率。对于固定的提示词，模型会定义一个概率向量；我们通过累加每个整数的得分拼写来计算该向量，而非采用抽样估计，从而消除了限制早期研究[1, 4]的噪声。我们在两个推理栈上，针对多达N=100的五个范围，评估了18条开放权重模型系列，并采用了29种解码配置；其中15个模型同时拥有基础版和指令微调版的检查点，且两者均能给出可用的答案。指令微调使这15对模型中的分布更加不均匀，它引入了一种避免使用整数的启发式方法，并强化了另一种避免接近端点的启发式方法。基础检查点

修复评估偏差，以在 Amazon Bedrock 上解锁更优的模型

Property Finder 发现，其视觉AI评估标签中有96.8%源自现有模型，这掩盖了该模型的真实准确率。了解他们如何构建无偏的真值数据、实施进化式提示优化，并在 Amazon Bedrock 上选择了一款更精准且更具成本效益的模型，从而在11项图像质量指标上将成本降低了86%。

百度开源无限OCR 2，用于百页文档解析

百度发布了 Unlimited OCR 2，这是一款采用 MIT 许可证的 3B 参数规模的 OCR 模型，能够在一次请求中解析百页文档。其 SR-SWA 注意力机制使每步解码开销几乎保持不变，在 MarathonDocBench 上取得了 77.1 的得分。该文章《百度开源 Unlimited OCR 2，用于百页文档解析》首发于 MarkTechPost。

SLICE-Mem：用于高效LLM智能体记忆的显著性门控轻量级信息策展

arXiv：2610.33015v1 发布类型：新 摘要：长期记忆使大型语言模型（LLM）代理能够维持个性化且时间上连贯的交互，但为实现记忆的接纳、提取与组织而反复调用LLM进行推理，会带来显著的成本与延迟。我们提出了SLICE-Mem，一个轻量级的记忆框架，它将基于显著性引导的接纳与基于谓词的信息提取相结合。一个紧凑的分类器用于识别值得保留的用户发言，而基于语义依赖关系的提取器则将被接纳的发言转化为简洁的记忆条目。这一在线处理流程无需调用生成式LLM，同时跨条目的一致性校验被推迟至离线的整合阶段。我们在Memora和LongMemEval-S的每周子集上，使用8B a对SLICE-Mem进行了评估

AdaptTok-Indic：面向印度语言的脚本感知自适应分词

arXiv：2610.33017v1 发布类型：新 摘要：在以英语为主导的语料库上训练的多语言分词器往往会对印度语系语言进行过度切分，导致令牌序列更长，并加剧了不同书写系统之间的分词差异。我们提出了 AdaptTok-Indic，这是一种专为印度语系语言设计的自适应分词扩展方案，它将 Unicode 规范化的预处理与显式的印度语系连字处理、基于书写系统的路由策略，以及与小型 Transformer 语言模型联合训练的字节级边界预测相结合。在孟加拉语和印地语上进行评估，并额外针对古吉拉特语、泰米尔语和泰卢固语进行了测试，AdaptTok-Indic 在令牌生成密度方面优于面向印度语系的基准分词器 SentencePiece BPE，以及独立实现的 MAGNET 式基准。在五项已记录的…

一种基于统一排队模型的框架，用于在突发性工作负载下对无服务器自动伸缩策略进行比较评估

arXiv：2610.35564v1 发布类型：新 摘要：无服务器计算平台必须在适应高度突发且不可预测的工作负载的同时，确保服务质量（QoS）。为应对工作负载的波动并满足QoS要求及服务等级协议（SLA），这些平台依赖于资源的自动扩展。商业化的函数即服务（FaaS）平台采用不同的自动伸缩策略，以动态调整活跃函数实例的数量和可用的处理能力。在本研究中，我们对三种具有代表性的自动伸缩策略进行了建模与比较：按请求伸缩（SPR）、并发级别伸缩（CLS）以及基于指标的伸缩（MBS）。为了实现独立于各厂商特定实现的系统化评估，我们……

超越策略内与策略外：LLM智能体蒸馏应在何种层次上遵循学生模型？

arXiv:2610.31918v1 发布类型：新 摘要：对交互式大型语言模型代理进行蒸馏时，需要在教师生成的示范与学生生成的经验之间做出选择，这大致对应于离策略蒸馏与在策略蒸馏。尽管两者都被证明是有效的，但我们认为这种区分本质上具有层次性：引发交互历史的策略未必与生成当前动作的标记前缀的策略相同。我们提出了一种分层代理蒸馏框架，将这两种层次的在策略性加以形式化，并允许对其配对方式、混合比例以及训练计划进行显式控制。我们通过自蒸馏来研究这一问题，在自蒸馏中，冻结的教师能够获得学生无法获取的任务指导，而

BARC基准测试：良性请求，风险后果

arXiv：2610.32024v1 发布类型：新 摘要：用户向智能体发出的任务指令往往存在固有的表述不充分问题，尤其是在安全边界方面——这会带来行为风险。为研究此类风险，我们提出了 BARC-Bench 基准，它包含涵盖九种模拟工作空间环境的 110 项任务，在这些环境中，看似无害的请求可能会为不安全操作留下可乘之机。在该基准中，我们依据工作空间记录、隐含的环境背景以及未明示的社会规范所设定的安全边界，对智能体的行为进行评估。例如，当一个智能体被要求安排离职面谈时，必须在不通过共享日历邀请过早暴露员工辞职信息的前提下安排会议。通过对四种前沿模型配置在每项任务上进行五次尝试的评估发现，m

南贝格发布Nanbeige4.3-33B，一款33B的开源智能体驱动编码模型

Nanbeige LLM 实验室发布了 Nanbeige4.3-33B，这是一款拥有 512K 上下文的 33B 参数密集型 Apache 2.0 模型。据称，该模型在 Terminal-Bench 2.1 上取得了 80.9 的成绩，并将用于训练即将推出的 Nanbeige4.3-3B。文章《Nanbeige 发布 Nanbeige4.3-33B，一款 33B 开放式智能体驱动编码模型》首发于 MarkTechPost。

研究通过奇异值谱干预调控大语言模型能力分布：Llama与Qwen模型实证分析

一项发表于2026年10月24日arXiv（编号2610.30676v1）的AI研究，对五种开源Llama和Qwen指令微调模型实施后置奇异值谱平滑与尖峰扰动，发现该轻量干预可系统性重塑模型在事实知识、语言理解与演绎推理三类能力上的表现权衡。

推荐理由：该论文首次在多模型、多任务框架下实证验证了变压器前馈层奇异值谱结构对下游能力的因果影响，揭示了能力配置的结构性敏感规律，为模型能力解耦与可控编辑提供了新路径；所有结论均基于公开模型与标准评测，方法透明、评估维度全面。