見出し・要約・本文から、情報のつながりを探します。
arXiv:2610.37682v1 公告タイプ：新規 要旨：リストワイズな好みフィードバックは、ペアワイズ比較に比べて大規模言語モデル（LLMs）のアライメントにおいてより豊かな監督情報を提供しますが、完全なランキングはさらに機密性の高いユーザーの嗜好も明らかにしてしまいます。既存のプライバシー保護型アライメント手法は主にペアワイズなフィードバックに焦点を当てていますが、ローカル差分プライバシー（LDP）下でのリストワイズなアライメントは未だ十分に探求されていません。このリストワイズな領域へLDPを拡張することは、重大な課題を提起します。すなわち、完全なランキング空間の高い機密性のために過剰なノイズが必要となり、結果としてリストワイズな監督の利点が無効化されてしまうのです。この課題に対処するため、我々は下流の学習における監督の粒度とプライバシー・ノイズの相互作用を分析し、リストワイズな好みをプライバシー保護するランク-awareな指数関数メカニズムを提案します。
arXiv:2610.37681v1 公表タイプ：新規 要旨：近年、大規模な推論モデルは複雑なタスクの解決において顕著な能力を示しており、長文の思考過程データに対する教師あり微調整（SFT）が、その推論能力を引き出し、さらに向上させるための重要な基盤となっています。推論に特化したSFTの改善と分析の両面で急速な進展が見られるにもかかわらず、この分野には依然として、急成長する文献を統合した体系的なサーベイが存在しません。このギャップを埋めるために、私たちは推論向けSFTに関する最近の進展を包括的にレビューし、方法論的設計と分析的検討という二つの視点から文献を考察します。まず、SFTパイプライン全体にわたる方法論上の改良を概観し、それらをデータ中心のアプローチとアルゴリズム中心のアプローチに分類します。
arXiv:2610.36437v1 発表タイプ：新規 要旨：大規模言語モデル（LLM）が複数のタスクに対して強化学習（RL）で学習する際、各タスクの主報酬は、長さ報酬などの補助報酬を制限することができる。すなわち、不適切な応答に対しては、補助報酬は主報酬を超えることができない。しかし、グループ相対優位推定器では、制限された補助報酬も他の要素と同様に扱われるため、主報酬の順序を逆転させたり、主報酬の上限においてのみ補助報酬が応答の順序を決定したりしてしまう。制限された補助報酬を維持すると一部のタスクに悪影響を及ぼし、一方でそれを排除すると別のタスクに悪影響を及ぼす。そこで我々は、各制限付き補助報酬の標準化スコアを、二つの条件を満たす最も近いスコアに置き換える優位推定器であるCONCURを提案する。具体的には、主報酬が高い応答には低いスコアを与えることはできず、また…
arXiv:2610.33065v1 発表タイプ：新規 要旨：頭皮上の記録はノイズが多く、空間的に粗く、試行間および被験者間で変動するため、EEGによる視覚デコーディングは依然として困難である。多くのシステムでは、各試行を高密度な画像埋め込みに位置合わせしているが、その埋め込みには意味内容と、インスタンス固有のテクスチャ・姿勢・背景が混在している。このような手法では、EEGには存在しない詳細情報を必要とする上、予測を支える視覚的要因について明示的な説明を提供していない。そこで私たちは、共有可能な学習可能な視覚コードブックに基づくソフトな合成としてEEG–画像の位置合わせを再定式化する、プロトタイプ媒介型フレームワークである\textbf{ProtoEEG}を提案する。学習可能なEEGエンコーダーと固定された視覚教師が、同一の$K=64$個のプロトタイプに対する割り当て分布を生成し、それらの重み付けされた再構成が構造化された表現を形成する。
arXiv:2610.32997v1 公開タイプ：新規 要旨：OpenAIのWhisperなどの自動音声認識（ASR）モデルは、音声認識の精度を大幅に向上させていますが、特に大量のトランスクリプション済み音声データが利用可能な場合でも、ファインチューニングには高いコストがかかります。そのため、多くの実務者がこれらのモデルを新たな言語や領域に適応させるのは困難です。本研究では、ASRのファインチューニングに用いるためのより小規模な学習データセットを選択する、埋め込みベースのサブセット選択手法を提案します。Whisperの事前学習済みエンコーダを用いて、各音声サンプルを固定次元の埋め込み空間へ写像し、貪欲なk-センター法を適用して、多様で代表性のある学習データのサブセットを選定します。本手法をヘブライ語およびデンマーク語に対して評価した結果、k-センター選択はしばしば
arXiv:2610.33044v1 発表タイプ：新規 要旨：身体を備えた視覚言語モデルは、部分的で変化する観測情報から質問に答える必要があります。その成功は、選択される推論能力と、それに利用可能な証拠の両方に依存します。専門家ルーターは内部計算を適応させ、ツール拡張型システムは外部証拠を獲得しますが、これらを独立に選択すると、適切な専門家が必要な証拠を持たない状況が生じる可能性があります。私たちは、能力専門家、オプションの知識、および知覚ツールを共同で選択する制限付きフレームワークであるEKT-Routerを提案します。結果に基づくシグネチャは、一般推論、空間推論、時空間推論の各専門家の重なり合う強みを表現します。共同ユーティリティは、呼び出し予算の下で完全な専門家–証拠経路のスコアリングを行います。取得後、パケット検証器が有効なものを承認します
arXiv:2610.32179v1 発表タイプ：新規 要旨：ニューラルアーキテクチャ探索（NAS）はコストが高額であるが、タスク間の転移により過去のタスクから得た知識を再利用することでコストを削減できる。しかし、既存手法はスパースな探索履歴やタスク固有の転移失敗に苦慮している。本研究では、チャンピオンベースの初期化とペアワイズランカーによる共同事前学習を通じて、スパースなソースログとゼロコストの代理モデルを組み合わせるリスクロバストな戦略を提案する。TransNAS-Bench-101において、本提案は深刻な最悪ケースでの失敗を緩和し、マイクロ自動符号化における最悪10％順位を290から43へ、マクロ室内レイアウトにおける最悪10％順位を465から45へと低下させた。さらに、13種類のセルスペースターゲット全体で、平均性能および最悪ケース性能の両面において、代理モデルのみを使用したランカーを10ターゲットで上回りつつ、競争力のある平均性能も維持した。
機械にとって「夜」とは何でしょうか？
arXiv:2610.32237v1 発表タイプ：新規 要旨：現代の金融市場において、大口取引の4分の3以上は、従来の人間トレーダーに比べて高い精度と速度を実現するための高度な取引戦略に基づくアルゴリズム取引によって執行されています。従来の価格ベースの指標に依存した戦略では、社会的センチメントや政治的不安定性、あるいは急激な経済変動といった現実世界の出来事から生じる市場のダイナミズムを捉えるには不十分です。深層強化学習（DRL）の台頭とデータの入手可能性に伴い、こうした外部要因を取引戦略に組み込める、より効率的なアルゴリズムが求められています。DRLは、現実世界のシナリオのシミュレーションや複雑な意思決定の簡素化において有望な成果を示しており、DRLエージェントは自動的に
arXiv:2610.31846v1 発表タイプ：新規 要旨：知的エージェントは自らのミスから学び、経験を通じて継続的な改善を図るべきである。しかし、今日のエージェントはミスから回復しても、その効果は一時的でしかない。文脈内での振り返りはセッション間で容易に忘れられ、限られた文脈資源と競合する一方で、パラメータ全体の微調整はコストが高く、既存の能力に干渉するおそれがある。そこで私たちは、一時的な文脈内再試行とポリシー更新の利点を組み合わせた、エージェントがミスから学ぶための仕組み「Self-Direction」を提案する。エージェントがタスクに失敗した際、自身の行動経路を振り返って教訓を抽出し、それを即座に軽量な低ランクアダプターへと凝縮する。元の重みを固定することで、Self-Directionはアダプターの学習による上書きを防ぎ
Fyxerは、OpenAIモデル、微調整、メモリ、および実際のユーザーフィードバックを使用して、各ユーザーの音声で受信トレイとメールのドラフトを整理します.
パウロ・クリスタノが、AIアライメント、安全、規格に関する経験を持たせる、OpenAI財団理事と安全衛生委員会に参画.
