AI 自動翻訳
arXiv:2610.33442v1 公開タイプ：新規
要旨：大規模言語モデル（LLM）は、ハルシネーションや推論エラーを含む信頼性の問題に脆弱であると報告されています。既存の品質検出器は、内部表現に基づいて信頼性の低い出力をある程度の精度で予測できます。しかし、これらの検出器を訓練するには多くの場合、特定分野に特化した大量のラベル付きデータが必要であり、新たな分野への適用性が制限されます。本研究では、関連する複数の分野間で表現のシグネチャーを転送することで、この課題に対処することを提案します。具体的には、まず各分野ごとに低次元のシグネチャーを抽出し、次いでクロスフィッティングを用いて、分野固有の予測器の組み合わせ重みを学習する統計的枠組みを構築します。この重みは、各ソース分野がターゲット分野に対して持つ予測上の相対的な重要性に応じて適応します。最小二乗法の類似手法に関する漸近解析により、領域間の差異や表現バイアスを考慮したうえで、限界的な予測リスクおよび集約重みを定式化しました。複数のハルシネーションデータセットおよびオープンウェイトのLLMを対象とした実験では、新しい分野においてわずか25件のラベル付き質問のみを用いる条件下でも、適応型転送によってハルシネーション検出のAUROCが6.8%向上し、推論ステップの予測においてはAUROCが8.4%向上することが示されました。