2026年10月24日にarXivプラットフォームで公開された研究（番号2610.30785v1）は、現在主流の大型言語モデル（OpenAIおよびAnthropic製）が、人種や性別などの保護対象属性に関するプロンプトに対して、拒否または曖昧な応答を示す傾向にあり、その結果、新たなタイプの確率的バイアスである「不可視化」が生じることを指摘している。本研究では、二つのurnベイズゲームタスクを用いて、6,600回の会話において、異なるアイデンティティを提示する発信者に対するモデルの信頼評価行動を体系的に検証した。
結果は次のとおりです。報告者が「Black」と記述された場合、モデルがその情報を評価しない割合は46％に達するのに対し、「white」と記述された場合はわずか9％にとどまりました。しかし、いったんモデルが評価を選択した場合、黒人として記述された報告者に対する信頼度は、白人として記述された報告者よりもやや高くなることが示されました。このバイアスは、平均的な信頼スコアの比較や評価済みケースのみを分析するといった従来の監査手法では検出できず、モデルの推論努力が増すほど顕著化します。さらに、このバイアスは特定の英語表現（たとえば「Black」）に厳密に依存しており、意味的に等価な表現（たとえばスペイン語の「negro」）や類似の概念（たとえば「Indigenous」）には拡張されず、典型的なセキュリティ警告の指示を付与した後には一層悪化することが確認されています。
研究では同時に、ある緩和策も提案されている。複数ラウンドのタスクにおいて、「真実の揭示」を基準としてモデルの信頼度スコアを評価することで、AnthropicとOpenAIの5つのテスト設定のうち4つにおいて、人種間の信頼格差を0.02以下に抑えることができるという。この成果は制御された実験に基づくものであり、現実世界の相互作用を代表しているとは主張されておらず、他の保護属性や未検証のモデルバージョンへは拡張されていない。