本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

AI-for-Scienceエージェントはモデルの安全性を保てるのか?

arXiv:2610.32045v1 発表タイプ:新規 要旨:AI-for-Scienceエージェントは、科学的仮説の立案、自律型実験の実行、および証拠の解釈にますます活用されています。これらのエージェントは、大規模言語モデル(LLM)をドメイン固有のエージェントハーネスに統合することで構築され、その結果、LLMの科学的能力が向上し、モデルが科学ツールを調整・運用できるようになります。本研究では、LLMをAI-for-Scienceエージェントハーネスに統合した際、モデルの安全性が維持されるかどうかを検討します。5つのエージェントハーネスを対象に、50件の有害な化学関連リクエストについて評価を行いました。具体的には、直接的なプロンプト入力、2種類の単純な敵対的プロンプト戦略、および適応型攻撃の条件下で、安全性の挙動がどのように変化するかを調べました。最近のGPT系モデル4種類において、我々の結果は示しています

Do AI-for-Science Agents Preserve Model Safety?
経緯と関連報道

クエリの抽象度が古典アラビア詩の検索精度を左右する:BM25と稠密エンコーダーの性能は、クエリの抽象度に応じて顕著に分かれる

2026年10月26日付のarXivに掲載された最新の研究(arXiv:2610.31821v1)によれば、古典アラビア詩の検索タスクにおいては、ユーザーの詩句の記憶残存度(例えば半行を覚えているかどうか)が、モデルの性能よりも検索精度を決定する上でより重要な要因であることが示されています。BM25は、「舌尖効果」系のクエリでは、8Bパラメータの最先端モデルを含むすべての稠密符号化器を上回る一方で、抽象的なクエリでは大きく劣後することが明らかになりました。

新闻源配图 · arXiv cs.CL

注目する理由:本研究は、二重コーパス、三重インデックス方式、および二重評価プロトコルによる体系的なベンチマークテストを通じて、クエリの抽象度が異なる検索パラダイム(形態素ベース対稠密ベクトル)に与える支配的な影響を初めて定量的に明らかにし、人間のアノテーターとオープンソースの重み付けモデルによる二重検証を経て、その結論は方法論的普遍性と実証的堅牢性を備えている。

経緯と関連報道

大規模言語モデル駆動エージェントの行動分析

arXiv:2610.32087v1 発表種別:新規 要旨:言語ベースのエージェントの行動を理解するには、行動が時間軸上でどのように組織化され、その組織化が文脈や結果とどのように関連しているかを把握する必要があります。私たちは、データ主導の行動発見と分析・実験的検証を結びつける一般的なフレームワークを提案します。記録された活動から導き出されるカテゴリは、何を測定するかを定義します。分析では、行動がプロセス内における位置を保持し、その関係性を解釈可能な仮説として表現します。留保された文脈での統計的評価および検定により、証拠の強度と適用範囲を検討します。さらに、プロンプトの制御を含む実験を通じて、意図的に変化させた条件下で行動と結果がどのように変化するかを検証します。反復的な自己反省に関する研究は、次のように示しています。

経緯と関連報道

エッジによるLLMトレーニングの民主化:課題・システム・今後の展望

arXiv:2610.32215v1 発表タイプ:新規 要旨:現代のGPUデータセンターにおける計算能力の向上により、一部の産業大手企業が膨大なデータを用いて大規模言語モデル(LLM)を訓練し、展開できるようになりました。しかし、これらのモデルとその学習データの圧倒的な規模は、集中型の開発をますます維持困難にすると同時に、関連するプライベートデータを保有しながら同等のインフラを持たない小規模機関を排除しています。本論文では、分散型LLMトレーニングに関する我々の立場を、事前学習および微調整のパラダイムを中心に整理し、フェデレーテッド学習、スプリット学習、そして分散型アプローチを取り上げ、それらが地理的に分散した環境下で、多様なハードウェアや信頼性の低い接続状況においてどの程度実用可能かを評価します。さらに、我々は「統一された」システムを提案します。

Democratizing LLM Training with the Edge: Challenges, Systems, and the Road Ahead
経緯と関連報道

CiteAnchor:幻影引用の検出と解決のためのソース意識型グラウンディング

arXiv:2610.30355v1 発表タイプ:新規 要旨:幻影引用は、科学的主張の背後にある証拠を追跡し、その信憑性を検証することを困難にします。これらの引用を検出するのは、書誌情報が不完全であったり、ソースの種類や出版物のバージョンによって異なるため、非常に難しいです。妥当な一致だけでは、その引用が正当化されるわけでも、その背後にあるソースが特定できるわけでもありません。私たちは、ソースの復元可能性について注釈付きで構築された、実世界の幻影引用423件からなるベンチマークであるCiteResolveを提案します。さらに、ソースごとに検索とフィールドレベルの検証を適応させ、引用の妥当性および固有のソースが復元可能かどうかを個別に判定する、ソース意識型グラウンディングフレームワークであるCiteAnchorを提案します。既存の検出ベンチマークにおいて、CiteAnchorはGPT-5.6を用いてF1スコア0.841を達成しました。

CiteAnchor: Source-Aware Grounding for Hallucinated Citation Detection and Resolution
経緯と関連報道