AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

2026-10-28

arXiv cs.LG12:00

どの方針に対して校正されるのか？介入下における固定世界モデルに対するコンフォーマル不確実性

arXiv:2610.35877v1 発表タイプ：新規要旨：デプロイメント方針を変更すると、物理的な遷移メカニズムや予測器はそのままでも、世界モデルの不確実性が無効化される可能性がある。一歩先の予測において、源と対象の法則が条件付きメカニズム $P(Y|X)=Q(Y|X)$ を共有している場合、介入は事前結果の測度変化 $w(X)=dQ_X/dP_X$ によって特定される。方針制御された動的系では、この比は状態占有と行動傾向の項に分解される。重み付けされたコンフォーマル校正は、マージナルカバレッジを対象の法則へと移行させる；推定された比 $\hat w$ を用いれば、$P_Q\{Y \in C_{\hat w}(X)\} \ge 1-\alpha-TV(Q,\hat Q) \ge 1-\alpha-E_P|w-\hat w|$ が成立する。ソース対ターゲットのドメイン分類器に対する集団ロスレグレットは、同様の比の誤差を上限付ける。もし $h$ がそのクリッピング

経緯と関連報道

2026-10-26

arXiv cs.CL12:00

文脈または知識：大規模言語モデルが自らの回答をどのように帰属させるか

arXiv:2610.32109v1 発表タイプ：新規要旨：言語モデルは、与えられた文書や自身のパラメトリックな知識に基づいて質問に答えることができる。では、後になってその回答の出所を問われた際、どのような基準で出所を報告するのか？本研究では、回答生成後かつ出所に関する質問が提示される前に、モデルのキーバリュー（KV）キャッシュに介入することでこの問題を検討した。4つのモデル（7B～32B）を用いた制御された事実確認タスクにおいて、文書のキャッシュを変更または削除しても、出所の報告内容には一切影響が見られなかった。一方で、同一の質問と回答トークンを用いた複数回の実行間で質問と回答のキャッシュを移植すると、その報告内容は受け渡され、寄贈元の出所報告に従う一方で、受領側の文書内容は変化しなかった。さらに、比較的小規模な2つのモデルでは、出所に関する質問が提示される前に適合させた方向へQ&A値を操作することで、出所の報告内容を意図的に制御することも可能であった。

経緯と関連報道