本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

適応型最適化における勾配補正:適応前の修正

arXiv:2502.02727v4 発表タイプ:置換・交差 要旨:クライアントドリフト補償手法は、フェデレーテッド学習(FL)におけるデータの非均一性の影響を軽減します。確率的勾配降下法(SGD)ベースのFLではドリフト補正が十分に研究されてきましたが、適応型クライアント最適化手法との相互作用についてはまだ十分に解明されていません。Adamなどの適応型最適化手法は、過去の勾配の移動平均を用いて各更新を行います。そのため、最終的な更新方向のみを補正しても、その移動平均とそこに含まれるドリフトは変更されません。私たちは、これらの移動平均に入る前に各勾配を補正する「フェデレーテッド適応型勾配補正({\tt FA-GC})」を提案し、最終的な方向に補正を加える「フェデレーテッド適応型素朴追跡({\tt FA-NT})」と比較しました。実験により、ある理想的な

経緯と関連報道

INC-MoE:エキスパート並列型混合専門家推論における、ネットワーク内コレクティブの重複と専門家計算

arXiv:2610.36339v1 発表タイプ:新規 要旨:エキスパート並列型混合専門家(MoE)のサービスにおいて、ディスパッチは各トークンをその選択された専門家が配置されているアクセラレータへ送り、コンバインは各トークンの所有者に専門家の出力を集約して返します。これら両操作はクリティカルパス上に位置し、マルチノード環境ではMoE層のレイテンシを大きく左右します。本研究では、ディスパッチとコンバインをネットワークスイッチにオフロードし、さらに両コレクティブを相互に、および専門家計算と重ね合わせるエキスパート並列型MoE層であるINC-MoEを提案します。ディスパッチはスイッチ側のマルチキャストによるネットワーク内AllGatherを用い、コンバインはスイッチ側のリダクションによるネットワーク内ReduceScatterを用います。両コレクティブとも、エンドホストとスイッチ間でメッセージセマンティクスを利用します。なお、ネットワーク内コレクティブはそれぞれ逆方向に負荷をかけるため

経緯と関連報道

KORA:AIワークロード向けの決定論優先実行制御

arXiv:2610.35869v1 発表タイプ:新規 要旨:AIアプリケーションは、推論が必要かどうかを判断する前にしばしばモデルを呼び出します。このデフォルト設定は曖昧な生成タスクには有用ですが、構造化され、決定論的で、方針に基づき、照会中心、あるいは直接検証可能な作業には適していません。KORAは、決定論優先の実行制御を導入します。これは、リクエストをタスクパスとして表現し、まず決定論的または構造化された経路を試行し、その結果を検証し、テレメトリを記録した上で、決定論的な処理だけでは不十分な場合にのみモデル候補への経路へとエスカレートする、事前推論用の制御層です。本論文では、KORAを決定論優先の実行制御アーキテクチャとして提示し、再現可能なベンチマークおよび検証ワークロードによる限定的な実証結果を報告します。再

経緯と関連報道

どの方針に対して校正されるのか?介入下における固定世界モデルに対するコンフォーマル不確実性

arXiv:2610.35877v1 発表タイプ:新規 要旨:デプロイメント方針を変更すると、物理的な遷移メカニズムや予測器はそのままでも、世界モデルの不確実性が無効化される可能性がある。一歩先の予測において、源と対象の法則が条件付きメカニズム $P(Y|X)=Q(Y|X)$ を共有している場合、介入は事前結果の測度変化 $w(X)=dQ_X/dP_X$ によって特定される。方針制御された動的系では、この比は状態占有と行動傾向の項に分解される。重み付けされたコンフォーマル校正は、マージナルカバレッジを対象の法則へと移行させる;推定された比 $\hat w$ を用いれば、$P_Q\{Y \in C_{\hat w}(X)\} \ge 1-\alpha-TV(Q,\hat Q) \ge 1-\alpha-E_P|w-\hat w|$ が成立する。ソース対ターゲットのドメイン分類器に対する集団ロスレグレットは、同様の比の誤差を上限付ける。もし $h$ がそのクリッピング

経緯と関連報道

ProtoEEG:EEGの視覚的デコーディングのための構造化されたプロトタイプアライメント

arXiv:2610.33065v1 発表タイプ:新規 要旨:頭皮上の記録はノイズが多く、空間的に粗く、試行間および被験者間で変動するため、EEGによる視覚デコーディングは依然として困難である。多くのシステムでは、各試行を高密度な画像埋め込みに位置合わせしているが、その埋め込みには意味内容と、インスタンス固有のテクスチャ・姿勢・背景が混在している。このような手法では、EEGには存在しない詳細情報を必要とする上、予測を支える視覚的要因について明示的な説明を提供していない。そこで私たちは、共有可能な学習可能な視覚コードブックに基づくソフトな合成としてEEG–画像の位置合わせを再定式化する、プロトタイプ媒介型フレームワークである\textbf{ProtoEEG}を提案する。学習可能なEEGエンコーダーと固定された視覚教師が、同一の$K=64$個のプロトタイプに対する割り当て分布を生成し、それらの重み付けされた再構成が構造化された表現を形成する。

経緯と関連報道

ヤコビアンレンズの数学的理論

arXiv:2610.31955v1 発表タイプ:新規 要旨:Anthropicによる最近の研究では、ジャコビアンレンズ(J-lens、Gurneeら、2026年)と呼ばれる新たな解釈可能性ツールが導入されました。この手法は、最先端の言語モデルの隠れ状態において、作業記憶に類似した表現を想起させる性質を持つ線形方向を特定しました。しかし、こうした特徴がJ-lensによって検出可能となるメカニズム的特性については依然として不明です。そこで本研究では、J-lensの数学的理論を提案し、同理論が特に一貫性のある特徴――すなわち、空間的に一貫したリヤプノフモードのように働く方向――を優先的に識別することを示します。これらの方向に沿った微小な摂動は層を跨いで増幅し、トークン位置間でほぼ一定に保たれ、異なる文脈間でも一貫しています。一方でw

新闻源配图 · arXiv cs.LG
経緯と関連報道

MANTA:非同期型BFTにおけるDAGの柔軟性を解き放つ

arXiv:2610.34419v1 発表タイプ:新規 要旨:DAGベースのBFTプロトコルは、単一リーダーによる提案経路を、共有グラフで連結された並行なブロック提案へと置き換えることで、コンセンサス設計に大きな転換をもたらしました。このグラフでは、参照がコンセンサスの証拠を表現しています。しかし、異種の広域ネットワーク(WAN)下では、ストラグル効果により、既存の設計はラウンドの長時間化や性能の低下という問題に直面しています。その根本原因は、硬直的なラウンド進行にあります。すなわち、レプリカは同期的にラウンドを進め、前のラウンドからの十分な参照が揃うまで待機した後でようやく次へ進むのです。そこで私たちは、非同期BFTコンセンサス向けの柔軟なDAG成長フレームワークを提案します。私たちの重要な観察は、安全性和活性性のために参照クォーラムは必要であるものの、それがすべてのラウンド進行を阻害する必要はないということです。代わりに、接続性r

経緯と関連報道

PRISM:暗黙的な確率的変調による大規模言語モデルのサンプリング多様性の促進

arXiv:2610.32101v1 発表タイプ:新規 要旨:大規模言語モデル(LLM)は、出力分布が既知の意味的なモードに集中する「モード崩壊」を示す。多様性が失われると、繰り返しサンプリングは発見ではなく意味的な反復となり、稀ではあるがより強力な解が表面化しにくくなるため、自己進化や継続的学習の維持が困難になる。ほとんどの対策は推論時のみに介入し、サンプルを調整するだけで、多様性をモデルの能力として組み込むことはできない。そこで私たちは、訓練時に多様性をモデル内部に内蔵するフレームワークであるPRISMを提案する。PRISMは、(i) 各プロンプトに対し、多様でありながら正解でもある複数の教師モデルによる解答を対応付けるサブモジュラー型キュレーションと、(ii) 特殊トークンの摂動を実行可能な形に変換する確率的埋め込み変調を組み合わせている。

経緯と関連報道

CFBrainAug:解釈可能なfMRIベースの自閉症診断のためのモジュール性による反事実的脳ネットワーク拡張

arXiv:2610.32184v1 発表タイプ:新規 要旨:安静時機能的磁気共鳴画像法(rs-fMRI)に基づく脳ネットワークに対する機械学習は、自閉症スペクトラム障害(ASD)の診断において有望であるが、既存の手法は限られた学習データに対して過剰適合しやすく、事後的な統計的帰属解析では臨床的な解釈可能性が限定的である。本研究では、ラベルを変更した脳ネットワークを学習することで、データ拡張と反事実的説明を統合する反事実的脳ネットワーク学習フレームワークであるCFBrainAugを提案する。従来のラベル保持型拡張とは異なり、CFBrainAugはまずラベルとは逆だがトポロジー的に類似した候補を抽出し、その後、モジュール数制約の下でそれを精緻化する。事実的および反事実的ネットワークを併せて学習することで、学習

経緯と関連報道

TMAを使用するべきタイミングと理由:NVIDIA Hopper GPUにおけるテンソルメモリアクセラレーションのワークロードに基づく特性評価

arXiv:2610.34907v1 発表タイプ:新規 要旨:NVIDIA Hopperで導入されたテンソルメモリアクセラレータ(TMA)は、実運用のGPUカーネルにおいて広く用いられているにもかかわらず、その使用状況は極めて選択的である。CUTLASS、FlashAttention-3、FlashInferなどの専門的なカーネル開発者たちは、カーネル内の一部のテンソルオペランドに対してTMAを適用する一方で、他のオペランドについてはcp.asyncや直接グローバルロード、あるいは分散共有メモリ(DSM)に回帰している。ベンダーのドキュメントではAPIが説明され、最近のマイクロベンチマークによる研究ではTMAのスループットが単独で評価されているが、実際の実務者が直面する問いにはいずれも答えられていない。すなわち、カーネル内で特定のメモリオペランドが存在する場合、それをTMAで処理すべきなのか、また、もしTMAを使うならクラスタマルチキャストを併用すべきか否かという問題である。本研究では、H100を対象としたワークロードに基づく特性評価を通じて、このギャップに取り組む。我々はTMAの利用状況を体系的に整理し、多

経緯と関連報道

ニューラル・マインにおけるカナリア:画像分類器の静かで自信に満ちた失敗を捉える

arXiv:2610.33063v1 発表タイプ:新規 要旨:展開された視覚モデルは、確信度の高い予測を自動的に受け入れるため、高確信度の誤りが静かに拡散してしまう。標準的な故障予測手法である最大ソフトマックス確率(MSP)には構造上の盲点がある。すなわち、分類器ヘッドから読み取られるスカラー値として、その確信度勾配に直交する特徴空間の変動に対して一階的に無力である。特徴空間上の検出器に関する要因分析を通じて、それらがMSPを補完できない理由を説明する条件付き冗長性原理を明らかにする。すなわち、それらが測定するクラス間分離の幾何学的特性は、既にMSPに符号化されており、融合によって崩壊してしまうのだ。そこで生き残る信号は、マンフォールド外の残差に対するクラス条件付き典型性であり、さらにこの残差の分布はバックボーンによって異なり、ほぼ正規分布から重い裾尾まで多様である。

経緯と関連報道

Waypoint:CPU向けGEMMの解析的モデリング

arXiv:2610.34914v1 発表タイプ:新規 要旨:高性能な一般行列乗算(GEMM)実装は、ピーク性能を達成するために、GEMMを慎重に選定されたタイルに分割することに依存しています。本稿では、特定のハードウェアおよび入力行列の形状に対して最適なタイルサイズを自動的に特定する新しい解析モデルであるWaypointを提案します。Waypointは、メモリ階層との相互作用、命令レベルの並列性、マルチスレッド処理など、あらゆるアーキテクチャ上の影響を捉えることで、与えられたタイル選択における達成可能な性能を推定します。この推定値を指標として用い、考えられるタイルサイズの空間を探索し、性能を最大化するものを特定します。さらに、Waypointはハードウェア設計者が実験的なハードウェア最適化に対する現実的な性能を見積もるのにも役立ちます。

経緯と関連報道

EKTルーター:身体化された視覚言語モデルにおける専門家と証拠の整合性

arXiv:2610.33044v1 発表タイプ:新規 要旨:身体を備えた視覚言語モデルは、部分的で変化する観測情報から質問に答える必要があります。その成功は、選択される推論能力と、それに利用可能な証拠の両方に依存します。専門家ルーターは内部計算を適応させ、ツール拡張型システムは外部証拠を獲得しますが、これらを独立に選択すると、適切な専門家が必要な証拠を持たない状況が生じる可能性があります。私たちは、能力専門家、オプションの知識、および知覚ツールを共同で選択する制限付きフレームワークであるEKT-Routerを提案します。結果に基づくシグネチャは、一般推論、空間推論、時空間推論の各専門家の重なり合う強みを表現します。共同ユーティリティは、呼び出し予算の下で完全な専門家–証拠経路のスコアリングを行います。取得後、パケット検証器が有効なものを承認します

新闻源配图 · arXiv cs.CV
経緯と関連報道

ReMedI:制御可能な分子最適化のための推論時精緻化と自己蒸留

arXiv:2610.32103v1 発表タイプ:新規 要旨:創薬において、リード最適化では、透過性の向上や毒性の低減といった相反する特性を改善しつつ、リードの活性を損なう可能性のあるスケルトン変更を抑制しなければなりません。C-MORAL などの強化学習ベースのポストトレーニング手法は、分子言語モデルを微調整することで、関心のある目的に対して分子リードを直接最適化するというアプローチを採用していますが、これには高価なタスク固有のデータセットが必要であり、多目的最適化(MOO)の実現にも課題が伴います。我々は、事前学習済みモデルには、ゼロショット生成では効率的に到達できない有用な分子編集がすでに含まれている可能性があると主張します。ゼロショット生成の探索能力の限界に着目し、我々は効率的なメトロポリス・ハスティングス探索戦略を開発し、ベット

経緯と関連報道

ブロッキングを伴わない監視:協調型ランタイム向けOTPスタイルのフォールトトレランスのエビデンス主導型再設計

arXiv:2610.34521v1 発表タイプ:新規 要旨:主流のランタイム上のアクターフレームワークは、Erlang/OTPスタイルの監督を謳っていますが、OTPの整合性契約は同期的でシングルスレッドの監督者を前提としており、ポートもその前提の欠如を未検証のリスクとして引き継いでいます。私たちは、固定されたリビジョンにおけるさらに3つのRust製アクターフレームワークのソースと、文言通りに読んだOTPのドキュメントおよびソースコードを基に、各監督保証を評価し、それぞれの設計決定の裏付けとなる証拠を記録しました。盲目的な対抗審査とフレームワーク間の比較研究により、24種類の不具合クラスが浮き彫りになり、そのうち8つは単一の根本原因に帰着します。すなわち、同期的な監督者が暗黙的に得ているアトミック性を、明示的なメカニズムによって再構築している点です。私たちは、監督実行時環境を導入します…

経緯と関連報道

Async-RBench:LLMエージェントにおける非同期タスク実行のベンチマーク

arXiv:2610.32429v1 発表タイプ:新規 要旨:大規模言語モデル(LLM)エージェントは、サブエージェントが実行中にメインエージェントが作業を継続し、その結果が到着する前にタスク状態が変化することもあり、ますます非同期的にタスクを実行するようになっています。メインエージェントは、禁止された変更を避ける一方で、どの処理を更新または保持し、どのチェックを再実行すべきかを判断しなければなりません。タスクの最終的な成功だけでは、これらの結果が正しく処理されたかどうかを示すものではなく、自然な非同期的な到着パターンは再現が困難です。私たちは、LLMエージェントにおける非同期タスク実行のベンチマークであるAsync-RBenchを提案します。このベンチマークには、8つのシナリオを網羅する200の実行可能なタスクが含まれています。シナリオコントローラーは、事前に定義されたタスク状態条件に基づいて結果の配信を制御し、イベント応答契約(ERC)は各応答が何を意味するかを明示します

経緯と関連報道

Nemotron 3.5 Bolt 74B-A9B 24GB:ローカルAI向けのハイブリッド視覚言語モデル

arXiv:2610.33039v1 発表タイプ:新規 要旨:私たちは、ローカルなエージェント型ワークロードにおいて、使用するメモリ1GBあたりの速度と知能を最適化したハイブリッドMamba-Transformer視覚言語モデルであるNemotron 3.5 Bolt 74B-A9B 24GBを紹介します。Nemotron 3.5 Super VL 120B-A12Bモデルファミリーを基に構築されたNemotron 3.5 Bolt 74B-A9B 24GBは、メモリ制約下での展開向けに、Star Elastic圧縮と2ビット量子化-aware蒸留を組み合わせています。本モデルは推論、エージェントによるツール利用、およびウェブや端末との対話に最適化されています。また、当社は本モデルと同時にリリースされるLiLiCorrスペキュラティブドラフト生成器も訓練し、目標とする推論速度の達成を目指しました。その結果得られたモデルは、一般的なエージェント型タスクに関する多数のベンチマークにおいて、同程度のメモリフットプリントと速度を持つ最先端モデルよりも高い精度を実現しています。

新闻源配图 · arXiv cs.CV
経緯と関連報道

証拠に基づく直感:マルチモーダルエージェントのための適応型デュアルメモリ

arXiv:2610.33019v1 発表タイプ:新規 要旨:マルチモーダルエージェントが持続的な相互作用を行う際、長期記憶は細粒度の証拠の想起と、全体的理解のための内面化された解釈という、二つの明確でありながら補完的な機能を果たす。エピソード記憶と潜在記憶はそれぞれ、明示的な履歴記録と内面化された経験を通じてこれらの要求に対応しているものの、エピソード記憶における証拠の網羅性と統合の限界、および潜在記憶における事実の基盤形成の限界により、いずれのパラダイムだけではタスク間で多様な記憶特性を十分に捉えることはできない。このギャップを埋めるために、我々はデュアルメモリフレームワークを提案する。これは、モデル固有の潜在記憶を直感的な事前分布として統合し、同時に複数インデックスを持つエピソード記憶を用いて、検索条件に基づく共同アライメントによって正確な証拠の再構築を実現するものである。At i

新闻源配图 · arXiv cs.CV
経緯と関連報道

多様体上のフローマッチングにおける互換性のある尤度

arXiv:2610.31981v1 発表タイプ:新規 要旨:最も単純な非ユークリッド多様体である1次元平坦トーラスにおいて、データ分布からサンプルを押し離す速度場によって、リーマン幾何学的フローマッチングの最近提案された拡張手法が全局的に最適化される分布を示す。我々は、この失敗モードを「互換性」と呼ぶ性質に起因すると指摘する。尤度に基づくフローマッチング目的関数が互換的であるとは、その母集団最小化解がデータと結合によって誘導される周辺速度場を再現する場合をいう。我々は互換性に関する一般条件を提示し、それを既存の手法に適用した上で、互換性のもとで消滅する残差成分の観点から最悪ケースの誤差を評価する。さらに、既存の互換性を満たす目的関数は、コンパクト多様体上では実現不可能な速度に密度を付与してしまうことを指摘する。

新闻源配图 · arXiv cs.LG
経緯と関連報道