搜索 AI 资讯

研究发布拉丁语专用语言模型LAMB及两大新语料库Acervus与Corpus Trinum

2026年10月26日，arXiv发布论文arXiv:2610.31723v1，提出拉丁语专用编码器Latin Modern BERT（LAMB），基于ModernBERT架构，经两阶段预训练，使用超740亿拉丁语词元及新型形态学感知掩码策略；同时公开两个全新拉丁语语料库：含240亿词元的Acervus（含76万经ByT5修复的OCR损坏文本）和首个人工构建的拉丁语语义三元组数据集Corpus Trinum（超1亿强/弱三元组）。

推荐理由：该研究填补了古典语言NLP基础资源空白，首次系统构建面向拉丁语语义理解的大规模预训练模型与配套评测基准，并通过严谨实验验证LAMB在17个子任务中16项领先，具备明确技术贡献与可复现性；所有结论均严格对应arXiv论文摘要与事实提取内容，未引入外部信息。

研究揭示奖励模型评分存在显著提示依赖性：成对评估无法检测该偏差

一篇2026年10月24日发布于arXiv的AI研究论文指出，当前主流的成对（pairwise）评估方法会自动抵消同一提示下所有响应共有的评分成分，导致奖励模型中关键的‘提示级偏差’未被检验；作者通过人类评分作为参照，对18个已发布评分器开展审计，发现在HelpSteer2数据集上，6个模型高达34%–64%的评分方差源于提示本身，而人类评分几乎无此现象。

推荐理由：该研究指出了大语言模型对齐流程中一个被长期忽视的基础性缺陷——奖励模型评分高度绑定于提示文本而非响应质量本身；其方法论（人类参照审计、提示替换、方差分解）具可复现性，结论基于实证分析且覆盖多个主流开源评分器，对偏好优化、RLHF和安全评估实践具有直接警示意义。

自动合成数据:为企业代理生成培训数据

自动合成数据:为企业代理生成培训数据