编辑推荐
智能体 AI
人工智能
人工智能基础设施
科技新闻
AI论文摘要
技术
AI 短片
应用程序
语言模型
大型语言模型
新版本发布
未分类
Nanbeige LLM 实验室已在 Hugging Face 上以 Apache 2.0 许可证发布了 Nanbeige4.3-33B。Nanbeige4.3-33B 是一款 330 亿参数的稠密语言模型，专为智能体驱动的编码任务以及办公场景下的“协同办公”任务而打造。该实验室隶属于招聘平台 BOSS 直聘。此外，实验室还发布了用于定制化后训练的 Nanbeige4.3-33B-Base 模型。该模型支持 524,288 个标记的上下文窗口。在实验室自测的榜单中，它在与近 300 亿参数的 3 款开源模型对比的 20 项基准测试中，有 17 项位居榜首。
规模：330亿参数，稠密模型（无MoE），524,288个token（512K）上下文窗口，采用BF16权重。
运行环境：多GPU服务器。该卡的SGLang和vLLM方案采用4路张量并行。BF16权重约需66 GB（按我们的计算）。列出了1种社区量化方案。
性能：在Nanbeige针对Qwen3.8-27B、Muse-Glimmer-30B和Gemma4-31B的自主对比测试中，领先17行中的20行。
最佳：在 Terminal-Bench 2.1 上得分为 80.9，而 Qwen3.8-27B 为 73.0。
最差：在 Terminal-Bench 4.0 上得分为 23.8（为最低分）。此外，在 SWE-Bench Pro 上也落后于 Qwen3.8-27B，分别为 60.3 分和 61.7 分。
Nanbeige4.3-33B是什么？
Nanbeige4.3-33B 是 Nanbeige4.3 系列的旗舰“教师”模型。实验室明确表示，其战略是先打造一个强大的教师模型，随后再将智能体驱动的能力提炼到更小的模型中，首先从 Nanbeige4.3-3B 开始。
Nanbeige4.3-33B 是如何构建的？
config.json 声明了标准的 LlamaForCausalLM 架构。由于没有专家路由机制，因此全部 330 亿个参数都会在每个 token 上参与计算。
52层，隐藏层大小7,168
56个查询头和8个键值头（分组查询注意力），头维度为128
FFN 中间层大小为 22,016，词汇表包含 166,912 个标记
RoPE theta 为 1.2 亿，最大位置数为 524,288
聊天模板提供了3个控制选项。enable_thinking 用于启用推理，默认已开启。preserve_thinking 可保留先前轮次的推理结果。Nanbeige 建议在多轮工具调用和代码代理场景中使用此选项。Passing tools 则用于启用工具调用，推荐采用 XML 调用格式。
Nanbeige4.3-33B 在基准测试中的表现如何？
Nanbeige将该模型与Qwen3.8-27B、Muse-Glimmer-30B和Gemma4-31B进行了对比。每种模型均在最高推理强度下运行，且使用了相同的超参数和基准测试工具。本节中的所有得分均为自报数据。
智能体驱动的编码：在Terminal-Bench 2.1上，其得分为80.9，而Qwen3.8-27B为73.0。DeepSWE的表现差距最为明显：65.5对比42.5。在Terminal-Bench 4.0上，它的得分为23.8，而Gemma4-31B则为0.0。
智能体驱动的协作：在 Automation Bench 上得分为 54.2，而在 JobBench 上得分为 44.8。在 YC-bench 上，模拟收益达到 1,025,437 美元，而此前为 641,290 美元。
推理：它在 AIME 2026 上报告得分为 95.2，在 AA-LCR 上报告得分为 84.0。
它丢失了20行中的3行。Qwen3.8-27B在SWE-Bench Pro（61.7 vs 60.3）和GDPval（86.4 vs 84.8）两项指标上均位居榜首。在Nanbeige的表格中，Gemma4-31B以91.3分领先于GPQA Diamond的89.5分。
Base 模型在所有8项已报告的任务上均优于 Gemma4-31B-Base。例如，在 MMLU-Pro 任务中，其得分分别为66.9分和59.3分；在 GPQA 任务中，其得分分别为62.0分和41.5分。
它与竞争对手的模型卡片相比如何？
*由Nanbeige自行报告。竞争对手的数值来自各实验室各自的Hugging Face模型卡片。
南北阁表格中的部分竞争对手数据与这些实验室公布的数据存在差异：
Meta 报告 Muse-Glimmer-30B 在 SWE-Bench Pro 上得分为 51.2，而 Gemma4-31B 得分为 36.9。Nanbeige 则列出了相反的顺序。
Google 在 GPQA Diamond 上将 Gemma 4 31B 的得分列为 84.3。Nanbeige 的表格显示为 91.3。
Meta 报告称，Muse-Glimmer-30B 在 Terminal-Bench 2.1 上的得分为 51.7。Nanbeige 的得分为 61.8。
不同的测试套件解释了一些差异。SWE-Bench Pro 这一对似乎被调换了位置。在出现独立的运行结果之前，请将这些行视为暂定的。
您如何部署 Nanbeige4.3-33B？
该模型卡片提供了 Transformers、SGLang 和 vLLM 的使用指南。其服务器示例采用四路张量并行，搭配 Qwen3 推理与工具调用解析器。推荐的代理参数设置为：温度 1.0、top_p 0.95，以及最大新增标记数 65,536。推理与聊天模式则使用温度 0.6，最大新增标记数为 262,144。
根据 config.json 中的计算结果，BF16 权重大约需要 66 GB。在 BF16 下，每个 token 的 KV 缓存约为 208 KiB。因此，一个完整的 524,288 个 token 的序列大约需要 112 GB 的 KV 缓存。截至发稿时，尚无任何 Hugging Face 推理服务提供商托管该模型。
关键要点
33B 稠密模型，Apache 2.0 许可证，512K 上下文，仅文本。
在 Terminal-Bench 2.1 上自报得分为 80.9，在 DeepSWE 上为 65.5。
Nanbeige 自己的表格中，有 17 行中的 20 行是潜在客户。
若干竞争对手的数据与官方卡片存在冲突。
作为即将推出的Nanbeige4.3-3B的教师而构建。
请查看模型权重、基础模型以及X平台上的发布帖。此外，欢迎在Twitter上关注我们，别忘了加入我们的15万+成员的ML子版块，并订阅我们的新闻通讯。等等！您在使用Telegram吗？现在您也可以在Telegram上加入我们了。
需要与我们合作推广您的 GitHub 仓库、Hugging Face 页面、产品发布或网络研讨会等吗？请联系我们
Asif Razzaq 是 Marktechpost AI Media Inc. 的首席执行官。作为一名富有远见的企业家和工程师，Asif 致力于将人工智能的潜力用于造福社会。他最近的一项重要成果是推出了人工智能媒体平台 Marktechpost，该平台以对机器学习与深度学习领域的新闻进行深入报道而著称，既专业严谨，又易于广大受众理解。该平台每月浏览量超过 200 万，充分彰显了其在受众中的受欢迎程度。
Asif Razzaq Hugging Face 发布了 Carbon-X，一款拥有 140 亿参数的开放 DNA 语言模型，首次将 DNA 与自然语言相结合
阿西夫·拉扎克，斯坦福大学与加州大学伯克利分校的研究人员推出 TokenGate：基于令牌的注意力机制使长上下文预填充速度提升高达 11.3 倍
阿西夫·拉扎克微软开源Agensh：一个可容纳1,024个智能体的多智能体框架
阿西夫·拉扎克 了解 Anthropic 的沙箱运行时：面向 AI 智能体的操作系统级沙箱，无需容器