VocabX:通过成本加权词汇专业化将领域专用小语言模型推理成本降低77%
Dharma-AI提出VocabX方法,针对特定任务(如葡萄牙语作文自动评分)重构语言模型词汇表,以生成代价而非词频为优化目标,在不修改模型结构、参数或训练流程的前提下,实测推理成本下降77%,同时评估质量(bench score)从0.703提升至0.810。
检索标题、摘要与正文,把分散的信息连起来。
Dharma-AI提出VocabX方法,针对特定任务(如葡萄牙语作文自动评分)重构语言模型词汇表,以生成代价而非词频为优化目标,在不修改模型结构、参数或训练流程的前提下,实测推理成本下降77%,同时评估质量(bench score)从0.703提升至0.810。
IBM推出Granite Speech 5.0系列三个开源语音模型——granite-speech-5.0-2b(高精度多语种ASR/MT)、granite-speech-5.0-470m-turboctc(超快边缘端多语种转录)和更新版granite-speech-4.1-2b-plus(增强型多说话人会话建模),全部基于Apache 2.0许可,支持主流推理框架。
DeepSeek V4.1 Flash 1017 等三款新模型发布,但尚处早期部署阶段;中美同步强化AI治理:美国国土安全部禁用DeepSeek相关产品,中国拟对超大规模模型出口实施审批;Anthropic启动公共利益股权基金并起草联邦AI法案;行业基础设施与安全研究同步推进。
Hugging Face正式发布AnyLanguageModel 1.0,提供与Apple Foundation Models API完全兼容的开源Swift框架,支持本地(MLX、llama.cpp、Core ML)及托管(OpenAI、Anthropic、Gemini、Hugging Face Inference Providers等)模型无缝切换,并新增图像输入、工具调用、引导式生成、推理块自动适配等特性。
FairStress 是一项聚焦大语言模型(LLM)在人口统计学身份置换情境下决策稳定性、解释一致性与内部表征对称性的新基准,揭示模型存在‘反刻板印象式过度矫正’等系统性行为偏差,并指出主流评估方法(如BBQ)可能因范式差异导致偏见方向误判。