Underdog Saluki 27B:基于GSQ-RCO的2比特Qwen3.8-27B工具调用模型技术解析
本文介绍Underdog发布的Saluki 27B模型——一款7.9 GB的2比特量化Qwen3.8-27B变体,采用ISTA-DASLab的GSQ-RCO方法构建,声称在120任务BFCL v4工具调用基准上超越原54 GB全精度模型;但所有性能结论均来自其开发者声明,未获独立验证。
检索标题、摘要与正文,把分散的信息连起来。
本文介绍Underdog发布的Saluki 27B模型——一款7.9 GB的2比特量化Qwen3.8-27B变体,采用ISTA-DASLab的GSQ-RCO方法构建,声称在120任务BFCL v4工具调用基准上超越原54 GB全精度模型;但所有性能结论均来自其开发者声明,未获独立验证。
AWS 宣布 SageMaker AI 无服务器模型定制功能新增「训练会话(Training Sessions)」,即日起全面可用。用户可自主编写后训练逻辑(如自定义损失函数、奖励信号、多轮强化学习),而 GPU 分配、分布式执行、容错恢复与检查点存储均由平台自动处理。
Amazon SageMaker发布训练会话(Training Sessions)API,支持用户以纯Python脚本实现SFT、RLHF、GRPO、KTO等自定义大模型训练逻辑,GPU资源调度、容错、分布式执行及检查点管理均由服务托管。