本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

VidEngram:構造化階層型メモリによるエージェント的長期ビデオ理解

arXiv:2611.18578v1 発表タイプ:新規 要旨:マルチモーダルモデルがクエリごとに同じ動画を再符号化しなければならない場合、長尺動画の質問応答は非効率的で情報損失が生じます。コンテキストの制限によりスパースなサンプリングや切り捨てを余儀なくされ、後の質問に利用できる再利用可能な表現が残りません。そこで我々はVidEngramを提案します。これはエージェント型の動画QAシステムであり、インジェスト時に一度永続的な階層的メモリを構築し、その後の質問に対してそのメモリから回答を生成します。VidEngramはQwen2.5-Omniを用いて動画と音声を共同でキャプションし、セグメントメモリをエピソード層やエンティティ層に統合し、専用の検索ツールを備えたテキストのみのエージェント型プランナーを利用して根拠のある回答を生成します。Webインターフェースによりこのプロセスを確認可能で、ユーザーはメモリの形成を見守り、検索トレースを調べ、ビデオプレーヤー上で引用された証拠を検証し、エンティティ間の関係性を探索できます。OmniVideoBench全体において、GPT-5-miniプランナーを搭載したVidEngramは強力な単一通過型Qwen2.5-Omniベースラインを上回り(37.0%対32.3%)、特に単一通過ではカバレッジがスパースになる長尺動画でその優位性が顕著です。知覚コストは一度だけかかるため、以降のクエリでは低コストなテキストのみのプランニングが可能です。

フェアなディープフェイク検出のための交差的不変学習

arXiv:2610.37881v1 発表タイプ:新規 要旨:ディープフェイク検出モデルは全体的な精度は高いものの、人口統計上の各グループ間で性能に大きな偏りが見られ、一部のグループでは他のグループに比べて偽陽性率が著しく高くなるという問題があります。既存の公平性を考慮した手法は、モデルの出力を制限してグループ間の予測結果を均等化することによってこの問題に対処していますが、根本的な特徴レベルのバイアスには対処していません。その結果、モデルは依然として肌の質感など、人口統計的特性を操作されたコンテンツを検出するための間接的な手がかりとして利用してしまう可能性があります。この問題を解決するために、我々は交差的不変学習(IIL)というフレームワークを提案します。これは、単にモデルの出力を調整するだけでなく、特徴学習自体を改善するものです。IILでは、最も困難な人口統計的区分を特定することを繰り返し行い

経緯と関連報道

モデルキャリブレーションのためのアモルティズド局所化事後推論—海洋乱流閉鎖への応用

arXiv:2610.37731v1 発表種別:新規 要旨:モデルの不一致により、単一のキャリブレーションパラメータだけでは、文脈領域全体にわたって物理的応答を再現できない場合がある。さらに、観測値や文脈における不確実性もキャリブレーションに影響を及ぼし、これらを考慮・定量化する必要がある。本研究では、ターゲットとなる文脈への近接度に応じて観測尤度に重み付けを行うことで、局所化された事後分布の族を構築する。ガウス型の局所化重みは、共分散の膨張を通じて文脈の不確実性を組み込み、領域境界での反射および不均一な文脈サンプリングに対する補正をオプションで適用できる。条件付き正規化フローを用いて、この事後分布の族をアモルティズド変分推論によって近似する。所定の文脈測度の下で局所化された事後分布を統合することで、

経緯と関連報道

大規模言語モデルのアライメント向け、ランキングを考慮した差分プライバシーによるリストワイズな好みの公開

arXiv:2610.37682v1 公告タイプ:新規 要旨:リストワイズな好みフィードバックは、ペアワイズ比較に比べて大規模言語モデル(LLMs)のアライメントにおいてより豊かな監督情報を提供しますが、完全なランキングはさらに機密性の高いユーザーの嗜好も明らかにしてしまいます。既存のプライバシー保護型アライメント手法は主にペアワイズなフィードバックに焦点を当てていますが、ローカル差分プライバシー(LDP)下でのリストワイズなアライメントは未だ十分に探求されていません。このリストワイズな領域へLDPを拡張することは、重大な課題を提起します。すなわち、完全なランキング空間の高い機密性のために過剰なノイズが必要となり、結果としてリストワイズな監督の利点が無効化されてしまうのです。この課題に対処するため、我々は下流の学習における監督の粒度とプライバシー・ノイズの相互作用を分析し、リストワイズな好みをプライバシー保護するランク-awareな指数関数メカニズムを提案します。

経緯と関連報道

シーケンシングプロトコル理解におけるAIエージェントの評価と改善

arXiv:2610.37851v1 発表タイプ:新規 要旨:既存の科学系エージェントベンチマークでは、カスタマイズされたシーケンシングアッセイの解析に不可欠な、シーケンシングプロトコルで指定された正確な分子構造および生成ワークフローを再構築できるかどうかを評価するケースはほとんどありません。そこで私たちは、シーケンシングライブラリの構造と分子ワークフローの再構築を目的とした文書ベースのベンチマークであるLibStructBenchを提案します。実験結果から、最先端のエージェントは概ね正しい再構築を行えるものの、特に分子状態の表現やワークフローの接続性において、正確な再構築には依然として信頼性が不足していることが明らかになりました。また、基盤となる言語モデルを切り替えた場合の方が、エージェントハーネスを変更した場合よりも平均的な性能差が大きく、統計的に有意な差が認められました。

経緯と関連報道

FlatCake:大規模言語モデルのサービス向けフラットなKVキャッシュストレージアーキテクチャ

arXiv:2610.38355v1 発表タイプ:新規 要旨:KVキャッシュの再利用は大規模言語モデルのサービスを加速させるが、既存のシステムではホストのDRAMとNVMe SSDを階層的なヒエラルキーとして管理しており、DRAMが中間キャッシュとして機能している。しかし、実際の大規模言語モデルのワークロードは、この階層構造の二つの前提をいずれも破っている。第一に、バイモーダルな再利用によりDRAMの時間的フィルタリングが無効化される。というのも、ワークロードは長い再利用距離を持つワンショットブロックか、DRAM容量を超える数ギガバイト規模のエージェントセッションによって支配されており、その結果SSDが重要な読み取りパスに置かれているからである。第二に、DRAMによるステージングと、排出現象に基づくレイアウトがSSDの復元処理をボトルネックにしている。進行中のプレフィックスのためにホストのステージングバッファを保持すると、負荷下で競合が生じてプリフェッチが中断されてしまう一方で、段階的な排出現象によってセッション内のブロックがSSD全体に散らばり、大規模なシーケンシャルリードが妨げられる。我々は…

経緯と関連報道

解説を読まずにスコアリングを行う:自動解釈可能性評価における構造的ショートカット

arXiv:2610.37676v1 公表タイプ:新規 要旨:自動解釈可能性は、スパースオートエンコーダー(SAE)の特徴について、評価例に対してその特徴がどの位置で活性化するかをトークンごとに予測させたり、マークされたトークンがその特徴に適合しているかどうかを判定させたりすることで、解説を評価します。我々は、評価データの標準的な処理パイプラインのみを用いても、解説を読まないままスコアリングが可能であることを示しました。Neuronpediaに保存されているGPT-2 smallモデルのランダムな500個の特徴に対するファジング実行において、活性化した例の91.3%が中心トークン上でピークを持つように切り取られており、さらに中心トークンがマークされていれば「はい」と判定するルールは、パイプラインのコードから再構築されたマークに基づいて計算した結果、保存済みのLLMスコアラーの0.838に対し、バランスのとれた精度0.979を達成しています。一方、マーク数のみを参照するルールでは0.969を記録しました。T

経緯と関連報道

トランスフォーマーにおける証拠効果の因果的局所化

arXiv:2610.36524v1 公告タイプ:新規 要旨:制御された記号入力は、自然言語による証拠から言語モデルの意思決定に影響を与える注意ヘッドを明らかにすることができるのか?我々は、制御された証拠集約(CEA)を提案する。これは、他の部分が固定されたプロンプトにおいて、二つの記号の出現回数と順序を変化させ、凍結されたトランスフォーマーが二つの回答トークンの間で示す選好の変化を測定する手法である。選好は両者のロジット差によって測定され、プロンプト自体には正解が指定されていない。バランスド・ユーティリティ・カウサル・セレクション(BUC)は、各ヘッドの出力を除去した際にカウント効果がどの程度消失するか、またカウント条件間で平均出力を補間することで両方向に効果がどの程度回復するかを同時に評価することにより、コンパクトなヘッド集合を特定する。さらに、ヘッドの帰属と介入との間に結びつく条件付き上限を導出する。

経緯と関連報道

トークン信頼度は単なるチェーン長にすぎないのか?推論トレースに対する信号処理的検証

arXiv:2610.36709v1 発表タイプ:新規 要旨:推論型言語モデルは、長い思考の連鎖を書き出すことで数学問題に解答し、問題ごとに多数の連鎖をサンプリングして多数決を取ることで、生成テキスト量が大幅に増えるというコストを伴いながら精度を向上させている。このコストを削減する一般的な手法として、モデルが各トークンを生成する際の信頼度に基づいて各連鎖をスコアリングする方法がある。ここでトークンとは、単語または単語の一部を指す。この手法では、2048トークンの移動平均を計算し、その平均値が最も低い連鎖を保持または停止する。私たちは、トークンごとに記録された信頼度を、音声やラジオにおける信号と同様の意味で捉え、スペクトル解析や急激な変化を検出する統計検定などの標準的な信号処理手法を用いてこの手法を評価した。私たちは、以下のデータセットから500問の各問題について16本の連鎖をサンプリングした。

経緯と関連報道

フロンティアの大型言語モデルにおけるアッシュの同調性に関する定量的アプローチ

arXiv:2610.36668v1 公告タイプ:新規 要旨:アッシュの同調実験は、近年、大型言語モデル(LLMs)における同調性を測定する手法として大きな注目を集めています。これまでの研究では、主に大型言語モデルにおける同調性の実証に焦点が当てられてきましたが、本研究ではこのアプローチにさらに定量的な視点を加えています。具体的には、フロンティアの大型言語モデルに対して一連の質問を提示してサンプリングを行うのではなく、単一の質問を繰り返しサンプリングし、大型言語モデルの確率的特性を活用して回答の分布を生成します。これにより、モデルに人工的に作られたコンセンサスを提示する前後の回答分布を比較することが可能となります。実験の結果、フロンティアの大型言語モデルが実際に同調性を示すことを確認し、先行研究を裏付けるとともに、分布間の比較を通じて新たな知見を提供しています。

経緯と関連報道

ヤコビアンレンズの数学的理論

arXiv:2610.31955v1 発表タイプ:新規 要旨:Anthropicによる最近の研究では、ジャコビアンレンズ(J-lens、Gurneeら、2026年)と呼ばれる新たな解釈可能性ツールが導入されました。この手法は、最先端の言語モデルの隠れ状態において、作業記憶に類似した表現を想起させる性質を持つ線形方向を特定しました。しかし、こうした特徴がJ-lensによって検出可能となるメカニズム的特性については依然として不明です。そこで本研究では、J-lensの数学的理論を提案し、同理論が特に一貫性のある特徴――すなわち、空間的に一貫したリヤプノフモードのように働く方向――を優先的に識別することを示します。これらの方向に沿った微小な摂動は層を跨いで増幅し、トークン位置間でほぼ一定に保たれ、異なる文脈間でも一貫しています。一方でw

新闻源配图 · arXiv cs.LG
経緯と関連報道

PRISM:暗黙的な確率的変調による大規模言語モデルのサンプリング多様性の促進

arXiv:2610.32101v1 発表タイプ:新規 要旨:大規模言語モデル(LLM)は、出力分布が既知の意味的なモードに集中する「モード崩壊」を示す。多様性が失われると、繰り返しサンプリングは発見ではなく意味的な反復となり、稀ではあるがより強力な解が表面化しにくくなるため、自己進化や継続的学習の維持が困難になる。ほとんどの対策は推論時のみに介入し、サンプルを調整するだけで、多様性をモデルの能力として組み込むことはできない。そこで私たちは、訓練時に多様性をモデル内部に内蔵するフレームワークであるPRISMを提案する。PRISMは、(i) 各プロンプトに対し、多様でありながら正解でもある複数の教師モデルによる解答を対応付けるサブモジュラー型キュレーションと、(ii) 特殊トークンの摂動を実行可能な形に変換する確率的埋め込み変調を組み合わせている。

経緯と関連報道

CFBrainAug:解釈可能なfMRIベースの自閉症診断のためのモジュール性による反事実的脳ネットワーク拡張

arXiv:2610.32184v1 発表タイプ:新規 要旨:安静時機能的磁気共鳴画像法(rs-fMRI)に基づく脳ネットワークに対する機械学習は、自閉症スペクトラム障害(ASD)の診断において有望であるが、既存の手法は限られた学習データに対して過剰適合しやすく、事後的な統計的帰属解析では臨床的な解釈可能性が限定的である。本研究では、ラベルを変更した脳ネットワークを学習することで、データ拡張と反事実的説明を統合する反事実的脳ネットワーク学習フレームワークであるCFBrainAugを提案する。従来のラベル保持型拡張とは異なり、CFBrainAugはまずラベルとは逆だがトポロジー的に類似した候補を抽出し、その後、モジュール数制約の下でそれを精緻化する。事実的および反事実的ネットワークを併せて学習することで、学習

経緯と関連報道

賢くささやく:ASRのファインチューニングにおけるスマートなサブセット選択

arXiv:2610.32997v1 公開タイプ:新規 要旨:OpenAIのWhisperなどの自動音声認識(ASR)モデルは、音声認識の精度を大幅に向上させていますが、特に大量のトランスクリプション済み音声データが利用可能な場合でも、ファインチューニングには高いコストがかかります。そのため、多くの実務者がこれらのモデルを新たな言語や領域に適応させるのは困難です。本研究では、ASRのファインチューニングに用いるためのより小規模な学習データセットを選択する、埋め込みベースのサブセット選択手法を提案します。Whisperの事前学習済みエンコーダを用いて、各音声サンプルを固定次元の埋め込み空間へ写像し、貪欲なk-センター法を適用して、多様で代表性のある学習データのサブセットを選定します。本手法をヘブライ語およびデンマーク語に対して評価した結果、k-センター選択はしばしば

新闻源配图 · arXiv cs.CL
経緯と関連報道

統合地上・非地上6Gネットワークにおける意図駆動型サービスオーケストレーションのための知識主導型LLM

arXiv:2610.33007v1 発表タイプ:新規 要旨:統合された地上系および非地上系(TN/NTN)6Gネットワークにおける自然言語によるサービスインテントは、不完全であったり曖昧だったり、一貫性を欠いていたりするため、信頼性の高いネットワーク向けオーケストレーションを実現するには、制約のないLLMによる生成が困難です。本論文では、文法に基づく制約付き意味解析と知識グラフ(KG)駆動型の明確化ループを組み合わせた、知識主導型LLMフレームワークを提案し、代表的な4つのサービスクラスにわたって検証済みでオーケストレーションに適したサービスプロファイルを生成します。200サンプルからなるインテントデータセットにおいて、このフレームワークは89%の分類精度と95%のポリシー妥当性を達成し、リクエストあたり平均0.66回の明確化ターンを実現しました。純粋なLLMベースラインと比較すると、提案するフレームワークはポリシーの妥当性を向上させ、共…

経緯と関連報道

多様体上のフローマッチングにおける互換性のある尤度

arXiv:2610.31981v1 発表タイプ:新規 要旨:最も単純な非ユークリッド多様体である1次元平坦トーラスにおいて、データ分布からサンプルを押し離す速度場によって、リーマン幾何学的フローマッチングの最近提案された拡張手法が全局的に最適化される分布を示す。我々は、この失敗モードを「互換性」と呼ぶ性質に起因すると指摘する。尤度に基づくフローマッチング目的関数が互換的であるとは、その母集団最小化解がデータと結合によって誘導される周辺速度場を再現する場合をいう。我々は互換性に関する一般条件を提示し、それを既存の手法に適用した上で、互換性のもとで消滅する残差成分の観点から最悪ケースの誤差を評価する。さらに、既存の互換性を満たす目的関数は、コンパクト多様体上では実現不可能な速度に密度を付与してしまうことを指摘する。

新闻源配图 · arXiv cs.LG
経緯と関連報道

事後学習は大規模言語モデルの価値観の好みをどのように形成するのか?

arXiv:2610.33371v1 発表タイプ:新規 要旨:事後学習の過程で、大規模言語モデル(LLMs)は、異なる人口統計グループに関連する意見が不均衡な割合で含まれるコーパスから価値観の好みを学習します。こうした不均衡が増幅されることで、一部のグループの意見がさらに過小評価される可能性があります。しかし、意見の混合状態が事後学習の各経路において価値観の好みにどのような影響を及ぼすのかは依然として不明です。この疑問に答えるため、私たちは、異なる意見の混合状態を持つ事後学習用コーパスと、SFT、DPO、GRPOに基づく5つの事後学習経路を用いた制御実験を行いました。その結果、事後学習によって意見の不均衡が各経路ごとに異なる形で増幅されることが明らかになりました。一度価値観の好みが増幅されると、さらなる事後学習によってそれを除去できるかどうかは、事後学習の

経緯と関連報道

ソーシャルワールドモデル評価のギャップ

arXiv:2610.33014v1 発表タイプ:新規 要旨:交渉支援システムは、相手の反応を正確に予測しなくても良好な取引を成立させることができる。そこで、社会的世界モデルに対する評価がその予測を直接検証しているのかという疑問を提起する。1999年から2026年にかけて発表された113件の研究を調査したところ、9件の主要な評価では、システムまたは実験者が選択した行動に対する実際の人の反応が測定されていた。そのうち、明示的な反応予測と実際の反応を比較しているのはわずか2件であり、しかもそれらの予測手法は行動選択時に利用可能な情報を用いており、評価対象の反応は適合過程から除外されていた上、介入手法もランダム化されていた。さらに、言語モデルに関する25件の研究について全文を個別に確認した結果、これらの条件を満たす実験は見当たらなかった。他の評価は、現状推論やタスク成功、あるいは予測機能の評価を行っているにすぎない。

経緯と関連報道

医療質問応答における摂動ベースのデータ選択

arXiv:2610.33440v1 公告タイプ:新規 要旨:既存の質問応答データベースから医療用言語モデルを適応させる際、コンパクトな学習サブセットを選択することは重要なステップである。本研究では、最終層表現に対するガウス分布による摂動から導かれる二つの指標—予測変化頻度と非フリッピングマージン収縮—を用いた摂動ベースのデータ選択手法を検討する。共通のエントロピーによる事前フィルタリングを経た後、表現感度優先順位付け(RSP)は自動的な平方平均スケーリングによりこれらの指標を組み合わせる一方、RSP-Dropは収縮のみに基づいて候補をランク付けする。両手法とも、選択時には質問と回答選択肢のみを用いる。我々は、MedGemma-4Bを用い、保持セットのサンプル数が64、128、256の各条件下で、5つの医療質問応答データセットに対して評価を行った。主なサンプル数128の条件下では、

経緯と関連報道

スパースな探索履歴を用いた検索:不完全な探索ログとゼロコストの代理モデルからのタスク間アーキテクチャ探索

arXiv:2610.32179v1 発表タイプ:新規 要旨:ニューラルアーキテクチャ探索(NAS)はコストが高額であるが、タスク間の転移により過去のタスクから得た知識を再利用することでコストを削減できる。しかし、既存手法はスパースな探索履歴やタスク固有の転移失敗に苦慮している。本研究では、チャンピオンベースの初期化とペアワイズランカーによる共同事前学習を通じて、スパースなソースログとゼロコストの代理モデルを組み合わせるリスクロバストな戦略を提案する。TransNAS-Bench-101において、本提案は深刻な最悪ケースでの失敗を緩和し、マイクロ自動符号化における最悪10%順位を290から43へ、マクロ室内レイアウトにおける最悪10%順位を465から45へと低下させた。さらに、13種類のセルスペースターゲット全体で、平均性能および最悪ケース性能の両面において、代理モデルのみを使用したランカーを10ターゲットで上回りつつ、競争力のある平均性能も維持した。

経緯と関連報道