本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

エピグラフ形式によるガイド付き探索を用いた協調的マルチエージェント強化学習

arXiv:2611.07066v1 発表タイプ:新規 要旨:マルチエージェント強化学習(MARL)において協調行動を発見することは、共同状態・行動空間の組合せ的複雑性により困難であり、試行錯誤だけでは協調的な行動の出現が妨げられる。内在報酬は発見支援にしばしば用いられるが、チーム目標と単純に組み合わせると学習信号が歪められ、タスク性能が損なわれる可能性がある。本論文では、確立されたタスク性能を維持する制約の下で探索目標を最大化する制約付き探索フレームワークEFXPLORERを提案する。得られる問題は、適応型探索予算を導入するエピグラフ再定式化を用いて解決する。このアプローチは内在報酬とタスク目標を分離し、タスクの実現可能性を通じて探索を制御する。さらに多様で時間的に拡張された探索を促進するため、長期的な依存関係を捉える後継者距離ベースの内在報酬を組み込む。実験的には、本手法は強力なベースラインを上回り、SMAX、VMAS、MPEのベンチマークスイート全体で新しい協調戦略を誘発する。

フェアなディープフェイク検出のための交差的不変学習

arXiv:2610.37881v1 発表タイプ:新規 要旨:ディープフェイク検出モデルは全体的な精度は高いものの、人口統計上の各グループ間で性能に大きな偏りが見られ、一部のグループでは他のグループに比べて偽陽性率が著しく高くなるという問題があります。既存の公平性を考慮した手法は、モデルの出力を制限してグループ間の予測結果を均等化することによってこの問題に対処していますが、根本的な特徴レベルのバイアスには対処していません。その結果、モデルは依然として肌の質感など、人口統計的特性を操作されたコンテンツを検出するための間接的な手がかりとして利用してしまう可能性があります。この問題を解決するために、我々は交差的不変学習(IIL)というフレームワークを提案します。これは、単にモデルの出力を調整するだけでなく、特徴学習自体を改善するものです。IILでは、最も困難な人口統計的区分を特定することを繰り返し行い

経緯と関連報道

大規模言語モデルのアライメント向け、ランキングを考慮した差分プライバシーによるリストワイズな好みの公開

arXiv:2610.37682v1 公告タイプ:新規 要旨:リストワイズな好みフィードバックは、ペアワイズ比較に比べて大規模言語モデル(LLMs)のアライメントにおいてより豊かな監督情報を提供しますが、完全なランキングはさらに機密性の高いユーザーの嗜好も明らかにしてしまいます。既存のプライバシー保護型アライメント手法は主にペアワイズなフィードバックに焦点を当てていますが、ローカル差分プライバシー(LDP)下でのリストワイズなアライメントは未だ十分に探求されていません。このリストワイズな領域へLDPを拡張することは、重大な課題を提起します。すなわち、完全なランキング空間の高い機密性のために過剰なノイズが必要となり、結果としてリストワイズな監督の利点が無効化されてしまうのです。この課題に対処するため、我々は下流の学習における監督の粒度とプライバシー・ノイズの相互作用を分析し、リストワイズな好みをプライバシー保護するランク-awareな指数関数メカニズムを提案します。

経緯と関連報道

アーティファクト蒸留:フロンティアモデルから小型言語モデルへの訓練不要な転移

arXiv:2610.37680v1 発表タイプ:新規 要旨:フロンティアモデルと小型言語モデルの性能差を埋める手法としては、通常は蒸留が用いられます。すなわち、フロンティアモデル(教師)の出力に対して小型モデル(生徒)を微調整することで転移を行いますが、この方法では転移に必要な計算コストが伴う上、転移された知識はほとんど不透明なままです。そこで私たちは「アーティファクト蒸留」を提案します。これは、教師モデルが学習課題を解き、その問題解決手順を外部にアーカイブしておき、生徒モデルが推論時にそのアーカイブを参照するという手法です。これにより、勾配による更新は一切不要となります。LiveBenchの4つのタスクにおいて、Claude Opus 4.5が作成したアーカイブを用いることで、Claude Haiku 4.5は空間的推論において、コストを60%に抑えながら、無補助のClaude Sonnet 4.5を0.707対0.647で上回り、テーブル結合タスクではコストを89%に抑えた上でSonnet 4.5と同等の性能を達成しました。さらに、同じ生データのアーカイブを用いることで

経緯と関連報道

オープン言語モデルにおける訓練段階別の迎合行動の特定

arXiv:2610.37788v1 公告タイプ:新規 要旨:言語モデルアシスタントは、ユーザーが誤った回答を示唆すると、正しい回答を変更することがあります。この現象は「迎合行動」と呼ばれ、通常は好みに基づく事後訓練に起因するとされていますが、初期の測定では事前学習済みモデルにも見られました。そこで、我々は訓練のあらゆる可能な段階でこれを測定することで、その発生源を明らかにします。ベースモデルから監督下での微調整、好みに基づく最適化を経てリリースに至るまで、5つの系統に属する13のオープンなチェックポイントを対象としました。さらに、注入された主張がモデルの回答をどの程度変化させるかと、回答がどれほど強固に保持されていたかを区別し、主張を行う主体やその信頼性、および主張の強さを変化させながら検証を行いました。その結果、異なる起源を持つ二種類の迎合行動が浮き彫りになり、いずれも複数のデータセットで再現されました。主張への従順さ i

経緯と関連報道

TRACEs:分散型科学ワークフローのための細粒度組み込みプロヴェナンス

arXiv:2610.39981v1 発表タイプ:新規 要旨:大規模な科学ワークフローは分散型HPCリソース上で実行されるため、科学データ製品がどのように生成され、なぜ類似のワークフロー実行でも非常に異なる結果が得られるのかを説明することは困難である。既存のシステムは通常、分散ワークフローの実行またはプロヴェナンス管理のいずれかに焦点を当てており、細粒度のプロヴェナンスを分散型科学データアーティファクトの固有の特性として扱うことはほとんどない。我々は、TRACEs(Traceable Runtime for Advanced Containerized Executions)を提案する。これは、生成されるすべてのデータアーティファクトにデータの系譜と実行コンテキストを直接埋め込む、分散型コンテナ化された科学ワークフロー向けのプロヴェナンスアーキテクチャである。プロヴェナンスをワークフロー編成から分離することで、TRACEsはアーティファクト中心のプロヴェナンスを一般化する

経緯と関連報道

FinLLM-KG:アルゴリズム取引における金融センチメント分析のための知識グラフ強化型大規模言語モデル

arXiv:2610.36083v1 公告タイプ:新規 要旨:生成系AIの最近の進展により、事後学習済みの金融分野向け大規模言語モデル(LLMs)を用いた金融センチメント分析は大幅に向上しました。しかし、既存の手法は依然として各記事のセンチメントを個別に予測するにとどまり、ブラックボックス的な運用が続くため、文脈理解が制限され、リスクの高い金融意思決定への適用が妨げられています。これに対し、本研究ではFinLLM-KGを提案します。これは、因果関係に基づくLLMsと金融知識グラフを組み合わせたモデル非依存のフレームワークであり、モデルの重みを更新することなく、推論時にSEC 10-K提出書類から得られる時系列に根ざした企業レベルの知識を注入することが可能です。FinLLM-KGでは、コンテキストは自然言語による企業プロフィール、または少数の関連情報セットのいずれかで提供されます。

経緯と関連報道

OmniBrain-0:身体を備えた知能のための統一されたエージェントモデル

arXiv:2610.36013v1 発表タイプ:新規 要旨:汎用的な身体を備えた知能は、ロボットが長期間にわたり多様なスキルを連携させ、タスクの進行状況を追跡し、障害から回復できるよう求められる。専門的なポリシーだけではタスクレベルでの信頼性を確保できず、強力なマルチモーダルエージェントも、コンパクトなモデルでは再現が難しい高コストな推論や外部経験に依存している。そこで私たちは、共有の高レベルな意思決定モデルを通じて操作とナビゲーションを協調させ、タスク理解、計画、進行状況の追跡、フィードバックに基づく回復を統合する、軽量で統一された身体を備えたエージェントであるOmniBrain-0を提案する。当社の段階的学習フレームワークは、身体を備えた事前学習、ドメイン特化型エージェントの蒸留、およびマルチティーチャーによるオンポリシー蒸留(MOPD)を組み合わせている。これにより、強

経緯と関連報道

CONCUR:多タスク・多報酬強化学習における一致型補助報酬

arXiv:2610.36437v1 発表タイプ:新規 要旨:大規模言語モデル(LLM)が複数のタスクに対して強化学習(RL)で学習する際、各タスクの主報酬は、長さ報酬などの補助報酬を制限することができる。すなわち、不適切な応答に対しては、補助報酬は主報酬を超えることができない。しかし、グループ相対優位推定器では、制限された補助報酬も他の要素と同様に扱われるため、主報酬の順序を逆転させたり、主報酬の上限においてのみ補助報酬が応答の順序を決定したりしてしまう。制限された補助報酬を維持すると一部のタスクに悪影響を及ぼし、一方でそれを排除すると別のタスクに悪影響を及ぼす。そこで我々は、各制限付き補助報酬の標準化スコアを、二つの条件を満たす最も近いスコアに置き換える優位推定器であるCONCURを提案する。具体的には、主報酬が高い応答には低いスコアを与えることはできず、また…

経緯と関連報道

ProtoEEG:EEGの視覚的デコーディングのための構造化されたプロトタイプアライメント

arXiv:2610.33065v1 発表タイプ:新規 要旨:頭皮上の記録はノイズが多く、空間的に粗く、試行間および被験者間で変動するため、EEGによる視覚デコーディングは依然として困難である。多くのシステムでは、各試行を高密度な画像埋め込みに位置合わせしているが、その埋め込みには意味内容と、インスタンス固有のテクスチャ・姿勢・背景が混在している。このような手法では、EEGには存在しない詳細情報を必要とする上、予測を支える視覚的要因について明示的な説明を提供していない。そこで私たちは、共有可能な学習可能な視覚コードブックに基づくソフトな合成としてEEG–画像の位置合わせを再定式化する、プロトタイプ媒介型フレームワークである\textbf{ProtoEEG}を提案する。学習可能なEEGエンコーダーと固定された視覚教師が、同一の$K=64$個のプロトタイプに対する割り当て分布を生成し、それらの重み付けされた再構成が構造化された表現を形成する。

経緯と関連報道

PRISM:暗黙的な確率的変調による大規模言語モデルのサンプリング多様性の促進

arXiv:2610.32101v1 発表タイプ:新規 要旨:大規模言語モデル(LLM)は、出力分布が既知の意味的なモードに集中する「モード崩壊」を示す。多様性が失われると、繰り返しサンプリングは発見ではなく意味的な反復となり、稀ではあるがより強力な解が表面化しにくくなるため、自己進化や継続的学習の維持が困難になる。ほとんどの対策は推論時のみに介入し、サンプルを調整するだけで、多様性をモデルの能力として組み込むことはできない。そこで私たちは、訓練時に多様性をモデル内部に内蔵するフレームワークであるPRISMを提案する。PRISMは、(i) 各プロンプトに対し、多様でありながら正解でもある複数の教師モデルによる解答を対応付けるサブモジュラー型キュレーションと、(ii) 特殊トークンの摂動を実行可能な形に変換する確率的埋め込み変調を組み合わせている。

経緯と関連報道

賢くささやく:ASRのファインチューニングにおけるスマートなサブセット選択

arXiv:2610.32997v1 公開タイプ:新規 要旨:OpenAIのWhisperなどの自動音声認識(ASR)モデルは、音声認識の精度を大幅に向上させていますが、特に大量のトランスクリプション済み音声データが利用可能な場合でも、ファインチューニングには高いコストがかかります。そのため、多くの実務者がこれらのモデルを新たな言語や領域に適応させるのは困難です。本研究では、ASRのファインチューニングに用いるためのより小規模な学習データセットを選択する、埋め込みベースのサブセット選択手法を提案します。Whisperの事前学習済みエンコーダを用いて、各音声サンプルを固定次元の埋め込み空間へ写像し、貪欲なk-センター法を適用して、多様で代表性のある学習データのサブセットを選定します。本手法をヘブライ語およびデンマーク語に対して評価した結果、k-センター選択はしばしば

新闻源配图 · arXiv cs.CL
経緯と関連報道

OpenESM:エネルギー駆動モデルはスケーラブルな基礎学習者

arXiv:2610.33005v1 発表タイプ:新規 要旨:エネルギー基盤モデルは、ドメイン固有のタスクにおいて有望な特性を示しているものの、汎用的なシナリオのモデリングには依然として課題が残っています。このギャップを埋めるため、私たちは基礎的な言語モデリング向けにエネルギー駆動型モデル(ESM)を設計しました。ESMは、エネルギーによる探索を活用してトークン生成を精緻化するため、エネルギー駆動とトークン生成を単一のアーキテクチャに統合しています。具体的には、まずエネルギー景観上での潜在状態を最適化し、次いでその精緻化された潜在状態を用いてトークン生成を行います。大規模コーパス上でこのようなエネルギー駆動型の事前学習を実施することで、ESMは一般的に有効なエネルギー景観を学習し、好ましいトークンが低いエネルギー値に対応することを確立します。ESMのスケーリング特性を検討するため、私たちはESMを事前学習させます

新闻源配图 · arXiv cs.CL
経緯と関連報道

ニューラル・マインにおけるカナリア:画像分類器の静かで自信に満ちた失敗を捉える

arXiv:2610.33063v1 発表タイプ:新規 要旨:展開された視覚モデルは、確信度の高い予測を自動的に受け入れるため、高確信度の誤りが静かに拡散してしまう。標準的な故障予測手法である最大ソフトマックス確率(MSP)には構造上の盲点がある。すなわち、分類器ヘッドから読み取られるスカラー値として、その確信度勾配に直交する特徴空間の変動に対して一階的に無力である。特徴空間上の検出器に関する要因分析を通じて、それらがMSPを補完できない理由を説明する条件付き冗長性原理を明らかにする。すなわち、それらが測定するクラス間分離の幾何学的特性は、既にMSPに符号化されており、融合によって崩壊してしまうのだ。そこで生き残る信号は、マンフォールド外の残差に対するクラス条件付き典型性であり、さらにこの残差の分布はバックボーンによって異なり、ほぼ正規分布から重い裾尾まで多様である。

経緯と関連報道

ReMedI:制御可能な分子最適化のための推論時精緻化と自己蒸留

arXiv:2610.32103v1 発表タイプ:新規 要旨:創薬において、リード最適化では、透過性の向上や毒性の低減といった相反する特性を改善しつつ、リードの活性を損なう可能性のあるスケルトン変更を抑制しなければなりません。C-MORAL などの強化学習ベースのポストトレーニング手法は、分子言語モデルを微調整することで、関心のある目的に対して分子リードを直接最適化するというアプローチを採用していますが、これには高価なタスク固有のデータセットが必要であり、多目的最適化(MOO)の実現にも課題が伴います。我々は、事前学習済みモデルには、ゼロショット生成では効率的に到達できない有用な分子編集がすでに含まれている可能性があると主張します。ゼロショット生成の探索能力の限界に着目し、我々は効率的なメトロポリス・ハスティングス探索戦略を開発し、ベット

経緯と関連報道

状態空間符号化による線形時間コンテキスト圧縮

arXiv:2610.33006v1 発表タイプ:新規 要旨:Transformerベースの大型言語モデル(LLMs)は、コンテキストサイズが増加するにつれて計算負荷とメモリ消費が大幅に増大するため、推論前にコンテキストをより短い表現に圧縮する手法が求められています。既存のソフトプロンプト圧縮手法は、通常、対象モデルと同じTransformerバックボーンを用いており、圧縮表現の生成には大きなレイテンシオーバーヘッドが生じます。このため、これらの手法は、コンテキストを一度圧縮して多数のクエリで再利用するオフライン環境に限定されています。私たちは、Mamba状態空間モデル(SSM)に基づくプラグアンドプレイ型のオンラインコンテキスト圧縮器「Boa Compressor」を提案します。これは任意長のコンテキストを単一の線形時間のパスで符号化し、その結果得られた表現を基に…

経緯と関連報道

証拠に基づく直感:マルチモーダルエージェントのための適応型デュアルメモリ

arXiv:2610.33019v1 発表タイプ:新規 要旨:マルチモーダルエージェントが持続的な相互作用を行う際、長期記憶は細粒度の証拠の想起と、全体的理解のための内面化された解釈という、二つの明確でありながら補完的な機能を果たす。エピソード記憶と潜在記憶はそれぞれ、明示的な履歴記録と内面化された経験を通じてこれらの要求に対応しているものの、エピソード記憶における証拠の網羅性と統合の限界、および潜在記憶における事実の基盤形成の限界により、いずれのパラダイムだけではタスク間で多様な記憶特性を十分に捉えることはできない。このギャップを埋めるために、我々はデュアルメモリフレームワークを提案する。これは、モデル固有の潜在記憶を直感的な事前分布として統合し、同時に複数インデックスを持つエピソード記憶を用いて、検索条件に基づく共同アライメントによって正確な証拠の再構築を実現するものである。At i

新闻源配图 · arXiv cs.CV
経緯と関連報道

事後学習は大規模言語モデルの価値観の好みをどのように形成するのか?

arXiv:2610.33371v1 発表タイプ:新規 要旨:事後学習の過程で、大規模言語モデル(LLMs)は、異なる人口統計グループに関連する意見が不均衡な割合で含まれるコーパスから価値観の好みを学習します。こうした不均衡が増幅されることで、一部のグループの意見がさらに過小評価される可能性があります。しかし、意見の混合状態が事後学習の各経路において価値観の好みにどのような影響を及ぼすのかは依然として不明です。この疑問に答えるため、私たちは、異なる意見の混合状態を持つ事後学習用コーパスと、SFT、DPO、GRPOに基づく5つの事後学習経路を用いた制御実験を行いました。その結果、事後学習によって意見の不均衡が各経路ごとに異なる形で増幅されることが明らかになりました。一度価値観の好みが増幅されると、さらなる事後学習によってそれを除去できるかどうかは、事後学習の

経緯と関連報道

執筆アドバイスから原稿ガバナンスへ:学術的改訂のための制約付き変換フレームワーク

arXiv:2610.33001v1 発表タイプ:新規 要旨:学術的な改稿は、正当な執筆上の目的が衝突する場合、ガバナンス上の問題を生じさせる。執筆プロセスおよび社会科学の研究は、改稿が再帰的であり、文言には認識論的・学問分野固有の約束が伴うことを示している。これらの文献は重要な制約を特定しているものの、簡潔さや掲載媒体の形式、文体の多様性が証拠や主張の境界と対立する際に、どの目的を優先すべきかについては明確にしていない。本論文では、改稿を順序付けられた制約下での許容可能性の問題としてモデル化する。タスクに依存する不変量、文脈上の制約、そして変更可能な表現選択が許容可能な領域を定義し、証拠と判断を認可された主張の境界に結び付ける主張保持契約が設定される。さらに、四つのガバナンスに関する命題が具体化される。

経緯と関連報道