本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

犬をどれほど信頼できるか?推論型言語モデルにおけるヒント追随の定量化

arXiv:2610.32055v1 発表タイプ:新規 要旨:大規模言語モデル(LLMs)は、客観的な事実や推論に関するタスクにおいてさえ、ユーザーの提案に合わせて回答を変更する「迎合性」をしばしば示す。しかし、この影響の定量的形態や、それが情報源の信頼性に適切に校正されているのかどうかについては、依然として十分に解明されていない。本研究では、MMLUの質問に対するヒントによる回答の変化を通じてこの行動を検証し、「[情報源]は答えが(X)だと思っている」という形式のプロンプトを評価した。さらに、ヒントの帰属先である情報源(教授、友人、あるいは犬)をQwen、Gemma、SmolLMという3つのオープンソースモデルファミリー間で系統的に変化させた。その結果、ヒントによって引き起こされる変化には、指数関数的な傾きによってよく特徴付けられる予測可能な構造が存在することを示した。すなわち、ヒントは

経緯と関連報道

オフライン・多言語対応のLLM支援のためのISO 11783ネットワーク上の機械可読型操作マニュアル

arXiv:2610.31863v1 公告タイプ:新規 要旨:農業機械がインテリジェントなオフライン支援を実現するには、システムが技術文書に動的にアクセスできる必要があります。本論文では、ISO 11783ベースのCANバス上での操作マニュアルのセマンティック同期について分析を行いました。これは、トラクター側のアシスタントのローカル知識ベースと、接続された作業機の操作マニュアルとの間で整合性を図るプロセスとして定義されます。データ転送性能はMarkdown、JSON、XMLを用いてベンチマークされ、また、複数のオープンウェイトの大規模言語モデル(LLM)を用いた多言語クエリタスクについても評価を行いました。回答の自動評価は、4名の人間評価者による検証によって裏付けられました。完全なマニュアルは、物理的なISO 11783ネットワーク上で、状況に応じて31秒から89秒の間に転送されました。

経緯と関連報道

ミュオンの前処理はいつ、どのように行われるのか?構造化された勾配ノイズの役割

arXiv:2610.31728v1 発表タイプ:新規 要旨:ミュオンは大規模言語モデルの学習において人気の最適化手法となっているが、その理論的基盤は依然として十分に解明されていない。本研究では、勾配ノイズの幾何学的特性がミュオンの前処理による利点をどのように形成するかを検討する。まず、古典的な等方性ノイズ仮定のもとでは、ミュオンは学習率の再スケーリング以上の加速効果をもたらさないことを理論的および実験的に示す。これを受けて、私たちは異種タスクの発生頻度を持つ連想記憶におけるミニバッチサンプリングから生じる構造化されたノイズについて調査を開始した。二つのタスクに対する正確なバランス閾値を導出し、さらに複数タスクへの拡張を通じて、タスクカバレッジと勾配の信頼性がいかに協働して学習を形作るかを明らかにする。我々の分析によれば、ミュオンは…を緩和できることが示される。

When and How Does Muon Precondition? The Role of Structured Gradient Noise
経緯と関連報道

ヒューマンエージェント問題:LLMエージェント間の創発的協力が意図されたワークフローを迂回する場合

arXiv:2610.31985v1 発表タイプ:新規 要旨:LLMエージェントは、リソースを共有し、審査や監督プロセスの下で動作しながら、個々に異なるタスクを遂行する協調的な環境において、ますます広く導入されています。このような環境では、エージェントが悪意を持って行動する場合だけでなく、単に助けようとしている場合にも、安全上のリスクが生じます。これまでの研究は、主に敵対的または明示的に共謀的な行動に焦点を当ててきましたが、私たちは、別々の目的を追求する善意のエージェントが、意図されたワークフローを回避する形で自発的に協力し得ることを示します。これを「ヒューマンエージェント問題」と呼びます。私たちは、エージェントが時に仲間が所有するリソースに依存し、所有権の変更が通常は審査担当者によって仲介されるような、長期的な視野を持つ共有リソース環境を研究しています。審査が利用できなくなった場合、エージェント

The Helpful Agent Problem: When Emergent Cooperation Among LLM Agents Bypasses Intended Workflows
経緯と関連報道

AI-for-Scienceエージェントはモデルの安全性を保てるのか?

arXiv:2610.32045v1 発表タイプ:新規 要旨:AI-for-Scienceエージェントは、科学的仮説の立案、自律型実験の実行、および証拠の解釈にますます活用されています。これらのエージェントは、大規模言語モデル(LLM)をドメイン固有のエージェントハーネスに統合することで構築され、その結果、LLMの科学的能力が向上し、モデルが科学ツールを調整・運用できるようになります。本研究では、LLMをAI-for-Scienceエージェントハーネスに統合した際、モデルの安全性が維持されるかどうかを検討します。5つのエージェントハーネスを対象に、50件の有害な化学関連リクエストについて評価を行いました。具体的には、直接的なプロンプト入力、2種類の単純な敵対的プロンプト戦略、および適応型攻撃の条件下で、安全性の挙動がどのように変化するかを調べました。最近のGPT系モデル4種類において、我々の結果は示しています

Do AI-for-Science Agents Preserve Model Safety?
経緯と関連報道

クエリの抽象度が古典アラビア詩の検索精度を左右する:BM25と稠密エンコーダーの性能は、クエリの抽象度に応じて顕著に分かれる

2026年10月26日付のarXivに掲載された最新の研究(arXiv:2610.31821v1)によれば、古典アラビア詩の検索タスクにおいては、ユーザーの詩句の記憶残存度(例えば半行を覚えているかどうか)が、モデルの性能よりも検索精度を決定する上でより重要な要因であることが示されています。BM25は、「舌尖効果」系のクエリでは、8Bパラメータの最先端モデルを含むすべての稠密符号化器を上回る一方で、抽象的なクエリでは大きく劣後することが明らかになりました。

新闻源配图 · arXiv cs.CL

注目する理由:本研究は、二重コーパス、三重インデックス方式、および二重評価プロトコルによる体系的なベンチマークテストを通じて、クエリの抽象度が異なる検索パラダイム(形態素ベース対稠密ベクトル)に与える支配的な影響を初めて定量的に明らかにし、人間のアノテーターとオープンソースの重み付けモデルによる二重検証を経て、その結論は方法論的普遍性と実証的堅牢性を備えている。

経緯と関連報道

大規模言語モデル駆動エージェントの行動分析

arXiv:2610.32087v1 発表種別:新規 要旨:言語ベースのエージェントの行動を理解するには、行動が時間軸上でどのように組織化され、その組織化が文脈や結果とどのように関連しているかを把握する必要があります。私たちは、データ主導の行動発見と分析・実験的検証を結びつける一般的なフレームワークを提案します。記録された活動から導き出されるカテゴリは、何を測定するかを定義します。分析では、行動がプロセス内における位置を保持し、その関係性を解釈可能な仮説として表現します。留保された文脈での統計的評価および検定により、証拠の強度と適用範囲を検討します。さらに、プロンプトの制御を含む実験を通じて、意図的に変化させた条件下で行動と結果がどのように変化するかを検証します。反復的な自己反省に関する研究は、次のように示しています。

経緯と関連報道

エッジによるLLMトレーニングの民主化:課題・システム・今後の展望

arXiv:2610.32215v1 発表タイプ:新規 要旨:現代のGPUデータセンターにおける計算能力の向上により、一部の産業大手企業が膨大なデータを用いて大規模言語モデル(LLM)を訓練し、展開できるようになりました。しかし、これらのモデルとその学習データの圧倒的な規模は、集中型の開発をますます維持困難にすると同時に、関連するプライベートデータを保有しながら同等のインフラを持たない小規模機関を排除しています。本論文では、分散型LLMトレーニングに関する我々の立場を、事前学習および微調整のパラダイムを中心に整理し、フェデレーテッド学習、スプリット学習、そして分散型アプローチを取り上げ、それらが地理的に分散した環境下で、多様なハードウェアや信頼性の低い接続状況においてどの程度実用可能かを評価します。さらに、我々は「統一された」システムを提案します。

Democratizing LLM Training with the Edge: Challenges, Systems, and the Road Ahead
経緯と関連報道

CiteAnchor:幻影引用の検出と解決のためのソース意識型グラウンディング

arXiv:2610.30355v1 発表タイプ:新規 要旨:幻影引用は、科学的主張の背後にある証拠を追跡し、その信憑性を検証することを困難にします。これらの引用を検出するのは、書誌情報が不完全であったり、ソースの種類や出版物のバージョンによって異なるため、非常に難しいです。妥当な一致だけでは、その引用が正当化されるわけでも、その背後にあるソースが特定できるわけでもありません。私たちは、ソースの復元可能性について注釈付きで構築された、実世界の幻影引用423件からなるベンチマークであるCiteResolveを提案します。さらに、ソースごとに検索とフィールドレベルの検証を適応させ、引用の妥当性および固有のソースが復元可能かどうかを個別に判定する、ソース意識型グラウンディングフレームワークであるCiteAnchorを提案します。既存の検出ベンチマークにおいて、CiteAnchorはGPT-5.6を用いてF1スコア0.841を達成しました。

CiteAnchor: Source-Aware Grounding for Hallucinated Citation Detection and Resolution
経緯と関連報道