研究揭示大语言模型存在“不可见化”偏见:对黑人描述者信息拒绝评估率高达46%
一项发表于2026年10月24日arXiv的实证研究(论文编号2610.30785v1)发现,OpenAI与Anthropic的主流大语言模型在信任评估任务中表现出显著的“不可见化”偏见——即因提示中出现受保护属性(如‘Black’)而系统性拒绝评估信息,而非依据证据质量判断;该偏见在审计中难以被常规方法识别。
推荐理由:该研究设计严谨的两 urn 贝叶斯决策实验,覆盖6,600次会话、10种描述配置,首次量化了模型因身份标签触发拒绝行为的成本,并揭示其反直觉特征:拒绝率差异巨大(黑人描述者46% vs 白人描述者9%),但一旦评估,黑人描述者反而获略高信任;且偏见随推理深度加剧、依赖特定词汇而非语义、并因警告指令恶化——这些发现对AI公平性评估与对齐实践具有直接警示意义。



