本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

状態空間符号化による線形時間コンテキスト圧縮

arXiv:2610.33006v1 発表タイプ:新規 要旨:Transformerベースの大型言語モデル(LLMs)は、コンテキストサイズが増加するにつれて計算負荷とメモリ消費が大幅に増大するため、推論前にコンテキストをより短い表現に圧縮する手法が求められています。既存のソフトプロンプト圧縮手法は、通常、対象モデルと同じTransformerバックボーンを用いており、圧縮表現の生成には大きなレイテンシオーバーヘッドが生じます。このため、これらの手法は、コンテキストを一度圧縮して多数のクエリで再利用するオフライン環境に限定されています。私たちは、Mamba状態空間モデル(SSM)に基づくプラグアンドプレイ型のオンラインコンテキスト圧縮器「Boa Compressor」を提案します。これは任意長のコンテキストを単一の線形時間のパスで符号化し、その結果得られた表現を基に…

経緯と関連報道

LLMエージェントの一貫性を確保するための再帰的意味論的発散

arXiv:2610.33012v1 発表タイプ:新規 要旨:ツール利用を備えた大規模言語モデル(LLM)エージェントは、同一の状態から独立した実行を行った際、異なるツールを呼び出したり、矛盾する出力を生成したり、互いに異なる戦略を採用したりと、一貫性のない挙動を示します。この変動性は時間の経過とともに累積し、デプロイメントの信頼性を損ないます。既存の評価指標は主に完了ベースのスコアによってタスクの正しさを測定しており、実行間におけるエージェントの振る舞いの一致性を捉えられていません。一方で、エージェントの振る舞いは、確率分布を用いたトークンレベルでの分析や、意味クラスタリングによる単一応答レベルでの分析が行われていますが、いずれも軌跡上の将来のターンにわたって不一致がどのように伝播していくかを捉えることはできません。そこで私たちは、Recursive Semantic Divergence(RSD)という手法を提案します。これは未使用の…

経緯と関連報道

二つの不確実性は同じではない:安価な構造化コンテンツモデレーションにおける意見の相違と意思決定リスク

arXiv:2610.33258v1 発表タイプ:新規 要旨:コンテンツモデレーションは、何十億ものアイテムに対して、最先端のLLMを個々の投稿に適用するのは経済的に非現実的である規模で、段階的かつ議論の多い人間の判断をバイナリ的な行為(掲示のまま/削除)へと圧縮します。新たな種類の凍結型「System One」モデルは、1回あたり約0.000025米ドル、処理時間約100ミリ秒で、テキストではなくタイプ付き・校正済みの意思決定を返します。私たちは、そのようなモデルの一つについて、人間がラベル付けした142,658件のコメントを対象とした初の独立審査を実施し、共有プローブセット上で14の最先端推論モデル(GPT-5.x、Claude、Gemini 3、およびGrokファミリー)と比較評価を行いました。二つの重要な発見が際立ちます。第一に、この安価なモデルは精度面で競争力があり、ゼロショット分類のAUROC値(0.83)は統計的に有意な差異が認められず(ペアドブートストラップ、n=56;等価性を棄却できない結果、つまり

経緯と関連報道

統合地上・非地上6Gネットワークにおける意図駆動型サービスオーケストレーションのための知識主導型LLM

arXiv:2610.33007v1 発表タイプ:新規 要旨:統合された地上系および非地上系(TN/NTN)6Gネットワークにおける自然言語によるサービスインテントは、不完全であったり曖昧だったり、一貫性を欠いていたりするため、信頼性の高いネットワーク向けオーケストレーションを実現するには、制約のないLLMによる生成が困難です。本論文では、文法に基づく制約付き意味解析と知識グラフ(KG)駆動型の明確化ループを組み合わせた、知識主導型LLMフレームワークを提案し、代表的な4つのサービスクラスにわたって検証済みでオーケストレーションに適したサービスプロファイルを生成します。200サンプルからなるインテントデータセットにおいて、このフレームワークは89%の分類精度と95%のポリシー妥当性を達成し、リクエストあたり平均0.66回の明確化ターンを実現しました。純粋なLLMベースラインと比較すると、提案するフレームワークはポリシーの妥当性を向上させ、共…

経緯と関連報道

EviGround-CT:LLM生成胸部CTレポートの検証のための文から体積へのグラウンディング

arXiv:2610.33038v1 公告タイプ:新規 要旨:大規模言語モデル(LLMs)によって生成された胸部コンピュータ断層撮影(CT)レポートには、スキャンに局所的な証拠が存在しないにもかかわらず陽性所見を記載するものがある。我々は、レポート生成後にこれらの所見を検証するためのEviGround-CTを提案する。決定論的抽出器が陽性所見の文を特定し、3Dグラウンディングモデルが各文に対応する証拠マスクを予測する。全文を使用することで、解剖学的位置、側方性および記述的修飾語をグラウンディングクエリに保持できる。我々はCT-RATE上でレポート生成を評価し、さらにホールドアウトした100症例からなるReXGroundingCTサブセットにおいてグラウンディングと検証を行った。利用可能なアノテーションを用いることで、文単位でグラウンディングを行う検証手法により、証拠に基づく精度(ESP)は、抽出された137件の対象範囲内において0.263から0.365へと向上した。

経緯と関連報道

Nemotron 3.5 Bolt 74B-A9B 24GB:ローカルAI向けのハイブリッド視覚言語モデル

arXiv:2610.33039v1 発表タイプ:新規 要旨:私たちは、ローカルなエージェント型ワークロードにおいて、使用するメモリ1GBあたりの速度と知能を最適化したハイブリッドMamba-Transformer視覚言語モデルであるNemotron 3.5 Bolt 74B-A9B 24GBを紹介します。Nemotron 3.5 Super VL 120B-A12Bモデルファミリーを基に構築されたNemotron 3.5 Bolt 74B-A9B 24GBは、メモリ制約下での展開向けに、Star Elastic圧縮と2ビット量子化-aware蒸留を組み合わせています。本モデルは推論、エージェントによるツール利用、およびウェブや端末との対話に最適化されています。また、当社は本モデルと同時にリリースされるLiLiCorrスペキュラティブドラフト生成器も訓練し、目標とする推論速度の達成を目指しました。その結果得られたモデルは、一般的なエージェント型タスクに関する多数のベンチマークにおいて、同程度のメモリフットプリントと速度を持つ最先端モデルよりも高い精度を実現しています。

新闻源配图 · arXiv cs.CV
経緯と関連報道

証拠に基づく直感:マルチモーダルエージェントのための適応型デュアルメモリ

arXiv:2610.33019v1 発表タイプ:新規 要旨:マルチモーダルエージェントが持続的な相互作用を行う際、長期記憶は細粒度の証拠の想起と、全体的理解のための内面化された解釈という、二つの明確でありながら補完的な機能を果たす。エピソード記憶と潜在記憶はそれぞれ、明示的な履歴記録と内面化された経験を通じてこれらの要求に対応しているものの、エピソード記憶における証拠の網羅性と統合の限界、および潜在記憶における事実の基盤形成の限界により、いずれのパラダイムだけではタスク間で多様な記憶特性を十分に捉えることはできない。このギャップを埋めるために、我々はデュアルメモリフレームワークを提案する。これは、モデル固有の潜在記憶を直感的な事前分布として統合し、同時に複数インデックスを持つエピソード記憶を用いて、検索条件に基づく共同アライメントによって正確な証拠の再構築を実現するものである。At i

新闻源配图 · arXiv cs.CV
経緯と関連報道

多様体上のフローマッチングにおける互換性のある尤度

arXiv:2610.31981v1 発表タイプ:新規 要旨:最も単純な非ユークリッド多様体である1次元平坦トーラスにおいて、データ分布からサンプルを押し離す速度場によって、リーマン幾何学的フローマッチングの最近提案された拡張手法が全局的に最適化される分布を示す。我々は、この失敗モードを「互換性」と呼ぶ性質に起因すると指摘する。尤度に基づくフローマッチング目的関数が互換的であるとは、その母集団最小化解がデータと結合によって誘導される周辺速度場を再現する場合をいう。我々は互換性に関する一般条件を提示し、それを既存の手法に適用した上で、互換性のもとで消滅する残差成分の観点から最悪ケースの誤差を評価する。さらに、既存の互換性を満たす目的関数は、コンパクト多様体上では実現不可能な速度に密度を付与してしまうことを指摘する。

新闻源配图 · arXiv cs.LG
経緯と関連報道

事後学習は大規模言語モデルの価値観の好みをどのように形成するのか?

arXiv:2610.33371v1 発表タイプ:新規 要旨:事後学習の過程で、大規模言語モデル(LLMs)は、異なる人口統計グループに関連する意見が不均衡な割合で含まれるコーパスから価値観の好みを学習します。こうした不均衡が増幅されることで、一部のグループの意見がさらに過小評価される可能性があります。しかし、意見の混合状態が事後学習の各経路において価値観の好みにどのような影響を及ぼすのかは依然として不明です。この疑問に答えるため、私たちは、異なる意見の混合状態を持つ事後学習用コーパスと、SFT、DPO、GRPOに基づく5つの事後学習経路を用いた制御実験を行いました。その結果、事後学習によって意見の不均衡が各経路ごとに異なる形で増幅されることが明らかになりました。一度価値観の好みが増幅されると、さらなる事後学習によってそれを除去できるかどうかは、事後学習の

経緯と関連報道

ソーシャルワールドモデル評価のギャップ

arXiv:2610.33014v1 発表タイプ:新規 要旨:交渉支援システムは、相手の反応を正確に予測しなくても良好な取引を成立させることができる。そこで、社会的世界モデルに対する評価がその予測を直接検証しているのかという疑問を提起する。1999年から2026年にかけて発表された113件の研究を調査したところ、9件の主要な評価では、システムまたは実験者が選択した行動に対する実際の人の反応が測定されていた。そのうち、明示的な反応予測と実際の反応を比較しているのはわずか2件であり、しかもそれらの予測手法は行動選択時に利用可能な情報を用いており、評価対象の反応は適合過程から除外されていた上、介入手法もランダム化されていた。さらに、言語モデルに関する25件の研究について全文を個別に確認した結果、これらの条件を満たす実験は見当たらなかった。他の評価は、現状推論やタスク成功、あるいは予測機能の評価を行っているにすぎない。

経緯と関連報道

それぞれが独自の限界を持つ:多様な証拠状態にわたる言語モデルの校正

arXiv:2610.33237v1 発表タイプ:新規 要旨:言語モデルは、十分な証拠があるかどうかをどのように判断できるのでしょうか。多くの場合、言語モデルは与えられた証拠が不十分であっても回答してしまいます。回答するべきか、あるいはさらに証拠を集めるべきかを決めるには、利用可能な証拠のもとで回答が正しい確率を正確に推定することが必要です。しかし、これまでの校正研究の多くは入力を固定したまま扱い、証拠の変化に応じてこの推定値がどう変わるべきかについては議論していませんでした。そこで私たちは「証拠状態校正」を提案します。これは、回答前のモデルの信頼度が、その回答が正しい確率と一致し、証拠がその確率を変えるたびにそれに応じて調整されるように求められる手法です。さらに、私たちは\ours{}(Suffi**ci**ency **C**onfidence **E**stimation)を提案し、これを微調整することで

経緯と関連報道

医療質問応答における摂動ベースのデータ選択

arXiv:2610.33440v1 公告タイプ:新規 要旨:既存の質問応答データベースから医療用言語モデルを適応させる際、コンパクトな学習サブセットを選択することは重要なステップである。本研究では、最終層表現に対するガウス分布による摂動から導かれる二つの指標—予測変化頻度と非フリッピングマージン収縮—を用いた摂動ベースのデータ選択手法を検討する。共通のエントロピーによる事前フィルタリングを経た後、表現感度優先順位付け(RSP)は自動的な平方平均スケーリングによりこれらの指標を組み合わせる一方、RSP-Dropは収縮のみに基づいて候補をランク付けする。両手法とも、選択時には質問と回答選択肢のみを用いる。我々は、MedGemma-4Bを用い、保持セットのサンプル数が64、128、256の各条件下で、5つの医療質問応答データセットに対して評価を行った。主なサンプル数128の条件下では、

経緯と関連報道

LooseLeaf:計算ノートブック向けのサーバーレスGPUを実現

arXiv:2610.33275v1 発表タイプ:新規 要旨:計算ノートブックはセッション全体にわたってGPUを占有しますが、GPUが計算を行うのはセルが実行中であり、それ以外の時間はアイドル状態です。サーバーレス実行であれば、セル間でGPUを解放できますが、新しいワーカー上で蓄積されたノートブックの状態を再構築するには、各GPUセルごとに大きなコストが伴います。本論文では、対話型ノートブック向けのサーバーレスGPUプラットフォームであるLooseLeafを提案します。LooseLeafは、各セルの状態とインポートクロージャー、すなわちそのセルが必要とする最小限の変数やパッケージを導出します。5,000件の実世界のノートブックに対する分析から、これらのクロージャーは小さく、ユーザーによるセルの編集によって準備に要する時間は数秒程度であることが示されています。LooseLeafは、ユーザーがセルを編集している間に、これらのクロージャーを用いてGPUワーカーを準備します。実行後、ワーカーは…

新闻源配图 · arXiv cs.DC
経緯と関連報道

大規模言語モデルの信頼性検出のための表現シグネチャーの適応的転送

arXiv:2610.33442v1 公開タイプ:新規 要旨:大規模言語モデル(LLMs)は、ハルシネーションや推論エラーを含む信頼性に関する問題に脆弱であると報告されています。既存の品質検出器は、内部表現に基づいて信頼性の低い出力をある程度の精度で予測できます。しかし、これらの検出器を訓練するには、多くの場合、特定分野に特化した大量のラベル付きデータが必要であり、そのため新たな分野への適用が制限されます。私たちは、この課題に対処するために、関連する複数の分野間で表現シグネチャーを転送することを提案します。具体的には、まず各分野ごとに低次元のシグネチャーを抽出し、次にクロスフィッティングを用いて、分野固有の予測器の組み合わせ重みを学習する統計的枠組みを構築します。この重みは、各ソース分野における予測の重要性に応じて適応していきます。

経緯と関連報道

ゲインを超えて:エージェントスキルの引退に向けたスキルの定着度測定

arXiv:2610.32322v1 発表タイプ:新規 要旨:LLMエージェントは、最大約10万件のエントリーを保持し、多数のモデルにサービスを提供する公開ハブからスキルを取得します。モデルが進化するにつれて、ハブは特定のモデルが既に内蔵しているスキルを見出し、そのモデルにとってそれらが不要になったことを示すためにそれらのスキルを廃止しなければなりません。しかし、内蔵の度合いはこれまで知られている信頼性で測定されていません。既存のルールでは、スキルを有する場合と無する場合の実行結果を比較し、その差分のみを基準としてスキルの廃止を判断しています。ところが、内蔵されたスキルの場合も、モデルもスキルもその能力を発揮しない状態(我々はこれを「未解明」と呼んでいます)でも、得られる効果はほぼゼロです。そこで、私たちはむしろそのスキルを保留し、それに基づいて合成されたタスクにおいてモデルを評価し、別のモデルがそのスキルによって得点を上げる場合にのみ、補助なしでの高得点を信頼することにしています。なぜなら、高得点のほぼ半数は、何らかのタスクに基づくものであり、

経緯と関連報道

クラウドにおける大規模言語モデル:アーキテクチャ、オーケストレーション、推論に関する議論

arXiv:2610.33475v1 発表タイプ:新規 要旨:クラウドデータセンターにおける基盤となる大規模言語モデル(LLM)の広範な導入は、ステートレスなディープラーニングから分散型でメモリ集約的な生成ワークロードへと、根本的なパラダイムシフトを示しています。しかし、厳しいサービスレベル目標(SLO)の下で巨大な基盤モデルを運用するには、重要な物理的およびシステム上のボトルネックが露呈します。これらの課題には、依然として克服されていない高帯域幅メモリ(HBM)の壁、計算負荷に依存するプリフィル処理とメモリ帯域幅に制約されるデコードとの間の運用上の非対称性、急増するキー・バリュー(KV)キャッシュの膨張、コスト面で非常に負担の大きいサーバーレス環境でのコールドスタート、さらにはハードウェアの信頼性に関する脆弱性などが含まれます。既存の文献レビューは依然として層ごとの分断状態にあり、低レベルのアクセラレーター仮想化とクラスター間の連携が切り離されたままです。

経緯と関連報道

執筆アドバイスから原稿ガバナンスへ:学術的改訂のための制約付き変換フレームワーク

arXiv:2610.33001v1 発表タイプ:新規 要旨:学術的な改稿は、正当な執筆上の目的が衝突する場合、ガバナンス上の問題を生じさせる。執筆プロセスおよび社会科学の研究は、改稿が再帰的であり、文言には認識論的・学問分野固有の約束が伴うことを示している。これらの文献は重要な制約を特定しているものの、簡潔さや掲載媒体の形式、文体の多様性が証拠や主張の境界と対立する際に、どの目的を優先すべきかについては明確にしていない。本論文では、改稿を順序付けられた制約下での許容可能性の問題としてモデル化する。タスクに依存する不変量、文脈上の制約、そして変更可能な表現選択が許容可能な領域を定義し、証拠と判断を認可された主張の境界に結び付ける主張保持契約が設定される。さらに、四つのガバナンスに関する命題が具体化される。

経緯と関連報道

溶媒:多段階逆合成における長期的視野による推論

arXiv:2610.32308v1 発表タイプ:新規 要旨:多段階の逆合成反応では、目的分子を連続する反応ステップを通じて購入可能な構成要素へと再帰的に変換する必要があります。近年の研究では、この課題に取り組むために大規模言語モデル(LLM)による推論が活用され始めています。その最新の進化において、LLMによる推論は長期的な視野の領域へと拡張されました。すなわち、モデルは相互依存的な各ステップにわたって目標を追求し、環境と相互作用しながらフィードバックに適応します。このような変化により、AI主導の数学研究における画期的な成果が示されるなど、LLMの能力は著しく向上しています。この最先端の領域において、我々はSolventを提案します。これは8B規模のLLMであり、長期的な視野での推論を多段階の逆合成反応へと効果的に拡張することに成功しました。二段階の事後訓練カリキュラムを通じて、Solventは反復的な処理を織り交ぜる能力を習得します

経緯と関連報道

音声言語モデルにおける制御可能な発話スタイルキャプションのベンチマーク

arXiv:2610.33036v1 公表タイプ:新規 要旨:発話スタイルキャプション(SSC)は、声の質感、プロソディー、表現力といったパラリンガリスティックな属性を捉えながら、話し方がどのように伝えられているかを自然な言語で記述することを目的としています。会話型AIエージェント、制御可能な音声生成、大規模な音声アノテーションなど、多くの下流アプリケーションでは、単一で区別されない記述ではなく、話者の特性、感情、発話スタイルなど、特定の側面を対象とした次元別のスタイルキャプションが必要とされています。しかし、既存の研究には、制御可能な発話スタイルキャプションに関する統一的な定式化が欠けています。本研究では、このギャップを埋めるために、SSCを指示に従う音声言語タスクとして定式化し、明示的な指示によって発話スタイルの次元を指定する形で取り組みました。

経緯と関連報道

DMAIC-Bench:多段階の分析タスクにおけるエージェントの自己反省から自己抑制へ

arXiv:2610.32305v1 発表タイプ:新規 要旨:多段階の分析タスクでは、LLMエージェントが次の行動を継続するか、転送するか、あるいは停止するかを判断するために、中間的な証拠を用いる必要があります。エージェントが自身の出力を批判する自己反省は広く研究されていますが、その批判だけでは、証拠が次の行動に影響を与えたかどうかを示すことはできません。私たちはこの能力を「自己抑制」と呼んでいます。既存のエージェントベンチマークの多くは、タスクの完了度や出力品質を測定するだけで、この点については未検証です。DMAIC-Benchは、リーン・シックスシグマの明示的な統計的要件に基づいて構築された、4つの産業分野における15の産業事例にわたる97の種付け済みタスクを用いて、この能力を評価します。対になる反事実的変種では、同じワークフロー上の同一位置で相反する行動を要求し、正当な抑制と無差別な停止を区別します。私たちは実行トレースを用いて評価を行います。

経緯と関連報道