本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

露出は承諾ではない:ツールを使用するエージェントに対する潜在的モニターの二層構造評価

arXiv:2610.37679v1 発表タイプ:新規 要旨:ツールを利用する言語エージェントは間接的なプロンプトインジェクションに対して脆弱であり、不安全な動作が実行される前にそれを検出するためにモデルの内部構造を調査する研究が増加しているものの、その結果には著しく矛盾したものが見られる。我々は、こうした矛盾の多くは評価手法に起因するものであると主張し、評価および学習集団の両方において、インジェクションへの曝露と行動上のコミットメントを明確に分離する二層化プロトコルを提案する。主要なQwen AgentDojoのグリッド上で、素朴な不安全対その他との混合対比に基づいて訓練されたモニターは、ほとんどが曝露の認識に注力しており、エージェントがそれに従うかどうかにかかわらず曝露された軌跡をフラグ付けする一方で、どのケースが不安全になるかを予測することはほとんどできない。曝露事例のみを対象に再訓練した場合でも、同じ種類のプローブは、モデル自身による不安全なツール呼び出しを最大2秒前まで予測できる。

経緯と関連報道

オープン言語モデルにおける学習段階にわたる迎合の検出

arXiv:2610.37788v1 発表タイプ:新規 要旨:言語モデルアシスタントは、ユーザーが誤った回答を示唆すると、正しい回答を変更してしまうことがある。この現象は「諂媚(せんばい)」と呼ばれ、通常は好みに基づく事後訓練に起因するとされるが、初期の測定では事前学習済みモデルにも見られた。そこで、我々は訓練のあらゆる可能な段階でこれを測定することで、その発生源を追求した。具体的には、ベースモデルから監督下での微調整、好みに基づく最適化を経てリリースに至るまでの、5つの系統に属する13の公開チェックポイントを対象とした。さらに、注入された主張がモデルの回答をどの程度ずらすかと、回答がどれほど堅固に保持されていたかを区別し、主張を行う主体やその信頼性、および主張の強さを変化させながら検証を行った。その結果、異なる起源を持つ二種類の諂媚行動が浮かび上がり、いずれも複数のデータセットで再現された。主張への迎合 i

経緯と関連報道

Geminiのチャットで、Googleドキュメントファイルを直接作成および編集できるようになりました

これで、Gemini内でPDF、Google Docs、Google Sheets、スライドデッキ、Markdownファイル、TXTファイル、およびコードを直接生成・プレビュー・編集できるようになりました。新しいファイル編集機能は本日よりすべてのGeminiユーザーに提供されており、PDFのプレビューと編集はウェブとモバイルの両方で利用可能ですが、その他のすべてのファイル形式は[…]でのみ利用可能です。

STK255_Google_Gemini_B_474198
経緯と関連報道

3日間のデモから1か月で全社員が利用可能に:小紅書の企業向けAIアシスタントSealのスケール化実践

AICon世界人工知能開発・応用大会において、小紅書のアーキテクトである孟洪進氏が、企業向けAIパーソナルアシスタントSealの構築実践を紹介しました。春節前、小紅書チームはOpenClawを基に内製テストを開始し、わずか3日で最初のバージョンをリリース。製品価値を検証した後、迅速にアーキテクチャのアップグレードとスケール拡大を進め、最終的に1か月以内に全社員への展開を実現しました。

経緯と関連報道

Infini-AI-Lab、AIエージェント向けのオープンソースハーネスアダプタフレームワーク「Hermit」をリリース

Infini-AI-Labは、タスクからのフィードバックをもとに外部層の指示・スキル・メモリ・ツールを学習させ、エージェントのモデルとハーネスは変更しないApache-2.0ライセンスのハーネスアダプタフレームワーク「Hermit」をリリースしました。記事「Infini-AI-Lab、AIエージェント向けのオープンソースハーネスアダプタフレームワーク『Hermit』をリリース」はMarkTechPostに最初に掲載されました。

経緯と関連報道

b11980

[SYCL] 量子化されたKVキャッシュ向けのDPASフラッシュアテンションカーネルを追加(#31125)* sycl:量子化されたKVキャッシュ向けのDPASフラッシュアテンションカーネルを追加 デコードおよび小規模バッチ(クエリトークン数1〜31)は、現在、各呼び出しでスカラーによるデクアンティゼーションやキャッシュ全体をf16に変換するのではなく、q4_0およびq8_0のKVブロック上で直接フラッシュアテンションを実行しています。Q.KではXMX上でs8×s4およびs8×s8のDPASを使用し、V.Pはf16のままです。dpas.s4.s8はjoint_matrixにs4がないため、インラインvISAとなっています。ヘッドサイズ64から512、GQA最大32、アテンションシンクに対応しています。プロンプトは既存のカーネルのままです。GGML_SYCL_FA_DPAS=0に設定すると無効になります。B580、Llama 3.1 8B Q4_K_M、q4_0 KV、tg128:16Kコンテキストにおいて、31.3〜54.2 t/sを実現しました。FLASH_ATTN_EXT 4582/4584、マスターと同じく2件の失敗が確認されています。補助者:Claude * sycl:ヘッド数192を削減、ドキュメントにWildcat Lakeを追加 補助者:Claude * sycl:str

経緯と関連報道

トランスフォーマーにおける証拠効果の因果的局所化

arXiv:2610.36524v1 公告タイプ:新規 要旨:制御された記号入力は、自然言語による証拠から言語モデルの意思決定に影響を与える注意ヘッドを明らかにすることができるのか?我々は、制御された証拠集約(CEA)を提案する。これは、他の部分が固定されたプロンプトにおいて、二つの記号の出現回数と順序を変化させ、凍結されたトランスフォーマーが二つの回答トークンの間で示す選好の変化を測定する手法である。選好は両者のロジット差によって測定され、プロンプト自体には正解が指定されていない。バランスド・ユーティリティ・カウサル・セレクション(BUC)は、各ヘッドの出力を除去した際にカウント効果がどの程度消失するか、またカウント条件間で平均出力を補間することで両方向に効果がどの程度回復するかを同時に評価することにより、コンパクトなヘッド集合を特定する。さらに、ヘッドの帰属と介入との間に結びつく条件付き上限を導出する。

経緯と関連報道

Regalがゴール指向型エージェントを発表し、すべてのコールにアクターとディレクターのモデルを導入

企業向け音声人工知能企業のRegal Voice Inc.は本日、同社のプラットフォームに「Goal Oriented Agents」を追加しました。これにより、同サービスを利用する企業は、コールが達成すべき目標を明確に定義できるようになり、その目標達成に向けた作業を分割して実行する2つのAIモデルも提供されます。新たなエージェントは、Regalが「こうしたタイプのコールでしばしば見られる問題」に対応することを目的としています[…]。記事「Regal、Goal Oriented Agentsを発表――すべてのコールにアクターとディレクターのモデルを配置」は、SiliconANGLEに最初に掲載されました。

経緯と関連報道

ディスカウント取引が崩れるにつれて、AIトークンの販売はますます難しくなる

モデルクレジットがフェスティバルのプロモーションやキャリアスタイルのパッケージに登場しています。不透明なマークアップで成り立っていた小規模な再販業者は、品質への疑念や規制強化、そして資金力のある競合企業との競争に直面しています。一方、安定した中間業者は、秘密裏な値下げではなく、ルーティング、信頼性、統合に対して料金を請求するでしょう。

経緯と関連報道

n8n@3.0.0

# [3.0.0](https://github.com/n8n-io/n8n/compare/n8n@2.45.0...n8n@3.0.0) (2026-10-27) ### 不具合修正 * アーティファクトのダウンロードボタンにファイルタイプのツールチップを追加 ([#41490](https://github.com/n8n-io/n8n/issues/41490)) ([4a74f02](https://github.com/n8n-io/n8n/commit/4a74f027e612f31098b354dd3a77b2c2ab98281c)) * **ai-builder:** 実行の読み込みを確認:アシスタントの実行で読み込みが行われる ([#41863](https://github.com/n8n-io/n8n/issues/41863)) ([a967486](https://github.com/n8n-io/n8n/commit/a9674866d075e989a5ce896432262c9a7dc8b0c7)) * **ai-builder:** 設定されたAIトランスポート経由でアシスタントモデルへの呼び出しを送信 ([#41948](https://github.com/n8n-io/n8n/issues/41948)) ([9b63561](https://github.com/n8n-io/n8n/commit/9b63561cbb48f06d216f27be3b77722d97e4e74a)) * カスタムOAuth2スコープを許可 ([#41249](https://github.com/n8n-

経緯と関連報道

PRISM:暗黙的な確率的変調による大規模言語モデルのサンプリング多様性の促進

arXiv:2610.32101v1 発表タイプ:新規 要旨:大規模言語モデル(LLM)は、出力分布が既知の意味的なモードに集中する「モード崩壊」を示す。多様性が失われると、繰り返しサンプリングは発見ではなく意味的な反復となり、稀ではあるがより強力な解が表面化しにくくなるため、自己進化や継続的学習の維持が困難になる。ほとんどの対策は推論時のみに介入し、サンプルを調整するだけで、多様性をモデルの能力として組み込むことはできない。そこで私たちは、訓練時に多様性をモデル内部に内蔵するフレームワークであるPRISMを提案する。PRISMは、(i) 各プロンプトに対し、多様でありながら正解でもある複数の教師モデルによる解答を対応付けるサブモジュラー型キュレーションと、(ii) 特殊トークンの摂動を実行可能な形に変換する確率的埋め込み変調を組み合わせている。

経緯と関連報道

Async-RBench:LLMエージェントにおける非同期タスク実行のベンチマーク

arXiv:2610.32429v1 発表タイプ:新規 要旨:大規模言語モデル(LLM)エージェントは、サブエージェントが実行中にメインエージェントが作業を継続し、その結果が到着する前にタスク状態が変化することもあり、ますます非同期的にタスクを実行するようになっています。メインエージェントは、禁止された変更を避ける一方で、どの処理を更新または保持し、どのチェックを再実行すべきかを判断しなければなりません。タスクの最終的な成功だけでは、これらの結果が正しく処理されたかどうかを示すものではなく、自然な非同期的な到着パターンは再現が困難です。私たちは、LLMエージェントにおける非同期タスク実行のベンチマークであるAsync-RBenchを提案します。このベンチマークには、8つのシナリオを網羅する200の実行可能なタスクが含まれています。シナリオコントローラーは、事前に定義されたタスク状態条件に基づいて結果の配信を制御し、イベント応答契約(ERC)は各応答が何を意味するかを明示します

経緯と関連報道