本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

大規模言語モデルのアライメント向け、ランキングを考慮した差分プライバシーによるリストワイズな好みの公開

arXiv:2610.37682v1 公告タイプ:新規 要旨:リストワイズな好みフィードバックは、ペアワイズ比較に比べて大規模言語モデル(LLMs)のアライメントにおいてより豊かな監督情報を提供しますが、完全なランキングはさらに機密性の高いユーザーの嗜好も明らかにしてしまいます。既存のプライバシー保護型アライメント手法は主にペアワイズなフィードバックに焦点を当てていますが、ローカル差分プライバシー(LDP)下でのリストワイズなアライメントは未だ十分に探求されていません。このリストワイズな領域へLDPを拡張することは、重大な課題を提起します。すなわち、完全なランキング空間の高い機密性のために過剰なノイズが必要となり、結果としてリストワイズな監督の利点が無効化されてしまうのです。この課題に対処するため、我々は下流の学習における監督の粒度とプライバシー・ノイズの相互作用を分析し、リストワイズな好みをプライバシー保護するランク-awareな指数関数メカニズムを提案します。

経緯と関連報道

賢くささやく:ASRのファインチューニングにおけるスマートなサブセット選択

arXiv:2610.32997v1 公開タイプ:新規 要旨:OpenAIのWhisperなどの自動音声認識(ASR)モデルは、音声認識の精度を大幅に向上させていますが、特に大量のトランスクリプション済み音声データが利用可能な場合でも、ファインチューニングには高いコストがかかります。そのため、多くの実務者がこれらのモデルを新たな言語や領域に適応させるのは困難です。本研究では、ASRのファインチューニングに用いるためのより小規模な学習データセットを選択する、埋め込みベースのサブセット選択手法を提案します。Whisperの事前学習済みエンコーダを用いて、各音声サンプルを固定次元の埋め込み空間へ写像し、貪欲なk-センター法を適用して、多様で代表性のある学習データのサブセットを選定します。本手法をヘブライ語およびデンマーク語に対して評価した結果、k-センター選択はしばしば

新闻源配图 · arXiv cs.CL
経緯と関連報道

覚えたばかりのことを忘れないように:自己主導型修正がエージェントのミスを永続的な学びに変える

arXiv:2610.31846v1 発表タイプ:新規 要旨:知的エージェントは自らのミスから学び、経験を通じて継続的な改善を図るべきである。しかし、今日のエージェントはミスから回復しても、その効果は一時的でしかない。文脈内での振り返りはセッション間で容易に忘れられ、限られた文脈資源と競合する一方で、パラメータ全体の微調整はコストが高く、既存の能力に干渉するおそれがある。そこで私たちは、一時的な文脈内再試行とポリシー更新の利点を組み合わせた、エージェントがミスから学ぶための仕組み「Self-Direction」を提案する。エージェントがタスクに失敗した際、自身の行動経路を振り返って教訓を抽出し、それを即座に軽量な低ランクアダプターへと凝縮する。元の重みを固定することで、Self-Directionはアダプターの学習による上書きを防ぎ

Don't Forget What You Just Learned: Self-Directed Repair Turns Agent Mistakes Into Lasting Lessons
経緯と関連報道