跳到正文
AI NEWS JOURNAL
arXiv cs.CLAI NEWS / JOURNAL

研究揭示大语言模型存在“不可见化”偏见:对黑人描述者信息拒绝评估率高达46%

一项发表于2026年10月24日arXiv的实证研究(论文编号2610.30785v1)发现,OpenAI与Anthropic的主流大语言模型在信任评估任务中表现出显著的“不可见化”偏见——即因提示中出现受保护属性(如‘Black’)而系统性拒绝评估信息,而非依据证据质量判断;该偏见在审计中难以被常规方法识别。

一项于2026年10月24日发布在arXiv平台的研究(编号2610.30785v1)指出,当前主流大语言模型(来自OpenAI与Anthropic)在涉及受保护属性(如种族、性别)的提示中,倾向于拒绝或模糊回应,导致一种新型概率偏见——‘不可见化’(invisibilization)。研究通过两 urn 贝叶斯博弈任务,在6,600次会话中系统测试模型对不同身份描述的报告者的信任评估行为。

结果显示:当报告者被描述为‘Black’时,模型拒绝评估其信息的比例达46%,而描述为‘white’时仅为9%;但一旦模型选择评估,黑人描述者获得的信任度反而略高于白人描述者。这种偏见无法通过常规审计(如比较平均信任分或仅分析已评估案例)检出,且随模型推理努力程度增加而加剧;它严格绑定特定英文词汇(如‘Black’),不迁移至语义等价词(如西班牙语‘negro’)或同类概念(如‘Indigenous’),并在施加典型安全警告指令后进一步恶化。

研究同时提出一种缓解方案:在多轮任务中,以‘揭示真相’为基准对模型信任输出进行评分,可使种族间信任差距在Anthropic与OpenAI的五个测试配置中的四个降至0.02以下。该成果基于可控实验,未声称代表真实世界交互,亦未扩展至其他受保护属性或未测试模型版本。

资料来源

arXiv cs.CL

相关主题

← 继续阅读全部动态