跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

Nemotron 3.5 Bolt 74B-A9B 24GB:一种用于本地人工智能的视觉-语言混合模型

arXiv:2610.33039v1 发布类型:新 摘要:我们推出了 Nemotron 3.5 Bolt 74B-A9B 24GB,这是一种混合型 Mamba-Transformer 视觉语言模型,可在本地智能体驱动的工作负载中实现每 GB 内存的计算速度与智能性能的最优平衡。该模型源自 Nemotron 3.5 Super VL 120B-A12B 系列,通过结合 Star Elastic 压缩与 2 位量化感知蒸馏技术,适用于内存受限的部署场景。该模型针对推理、智能体工具调用以及网页与终端交互进行了优化。此外,我们还训练了一款名为 LiLiCorr 的投机性起草器,并随模型一同发布,以达到预期的推理速度。最终得到的模型在多项通用智能体任务基准测试中,相较于具有相似内存占用和速度的领先模型,实现了更高的准确率。

新闻源配图 · arXiv cs.CV
事件进展与其他报道

DMAIC-Bench:面向多阶段分析任务中智能体的自我反思与自我约束

arXiv:2610.32305v1 发布类型:新 摘要:多阶段分析任务要求大型语言模型(LLM)代理利用中间证据来决定是继续、重定向还是停止。自我反思——即代理对其输出进行批判性评估——已得到广泛研究,然而这种反思并不能说明证据是否改变了下一步行动。我们将这一能力称为“自我约束”。现有的代理基准测试大多仅衡量任务完成度或输出质量,而未对这一能力进行检验。DMAIC-Bench 通过围绕精益六西格玛明确的统计前提条件构建的、涵盖四个行业领域中15个工业案例的97个种子任务,对此进行了评估。成对的反事实变体在相同的工作流位置上要求采取相反的操作,从而能够区分有依据的自我约束与无差别的停止行为。我们采用……对执行轨迹进行评估。

事件进展与其他报道

OpenAI 推出 GPT-6.1 Terra,将用于代理工作的 GPT-6.1 Sol 的 API 价格下调一半

OpenAI发布了GPT-6.1 Terra,这是一种快速的计算机与视觉模型,每百万个标记的价格为1美元/5美元。其在每项任务上的成本为0.29美元,而GPT-6 Astra的中等努力代理的最后一次测试得分则为4.82美元。该文章《OpenAI推出GPT-6.1 Terra,将GPT-6.1 Sol的代理工作API价格减半》首发于MarkTechPost。

新闻源配图 · MarkTechPost
事件进展与其他报道

OpenAI 推出 GPT-6.1 Terra,以半价实现更快速、性能更优的 AI 智能体

OpenAI 集团 PBC 今日发布了 GPT-6.1 Terra,这是其前沿人工智能系统系列中的一款中端模型的升级版。这款新模型是 GPT-5.6 Terra 的继任者,成本降低了约 50%,同时在处理计算机使用任务时速度更快、精度更高。Terra 被定位为 OpenAI 产品线中的日常应用模型,旨在[…] 该文章《OpenAI 推出 GPT-6.1 Terra,以半价实现更快速、性能更优的 AI 智能体》首发于 SiliconANGLE。

事件进展与其他报道

InferSlice:一种面向电信广域网的、由SLO驱动的LLM推理参考架构

arXiv:2610.32638v1 发布类型:新 摘要:大型语言模型(LLM)推理正日益作为企业和交互式应用的核心服务被部署,但主权、合规、延迟以及资源本地化等方面的要求,可能限制集中式云部署的适用性。电信运营商提供地理分布式的计算与网络基础设施,以应对这些约束。然而,现有的 LLM 服务框架主要面向紧密耦合的数据中心设计,对协调地理分布且异构的资源支持有限。我们提出了 InferSlice,一种面向电信基础设施、以服务等级目标(SLO)为导向的 LLM 推理参考架构,集成了网络切片、GPU 分区、弹性服务与可观测性等功能。

InferSlice: A Reference Architecture for SLO-driven LLM Inference over a Telco Wide-Area Network
事件进展与其他报道