AI ニュースを検索

ISER-MoE：エキスパート並列処理における負荷分散のためのホットエキスパートのスイッチ内動的複製

arXiv:2611.09008v1 発表タイプ：新規 要旨：エキスパート並列型混合专家（MoE）層は、最も負荷の高いGPUの速度で動作し、一部のホットなエキスパートが過剰な負荷の大部分を担っています。各MoE層でそれらを複製しても、重みが層内に到着する場合にのみ負荷が均衡し、所有者からのブロードキャストがボトルネックとなります。ポイントツーポイントコピーはそれを過負荷にし、ベースラインのブロードキャストではレイテンシや帯域幅のオーバーヘッドが発生します。そこで我々は、TensorRT-LLMに組み込まれたISER-MoE（In-Switch Expert Replication for MoE）を提案します。これはNVLinkスイッチを通じてホットなエキスパートを固定されたGPUグループへマルチキャストすることで、各バイトが所有者から一度だけ送出されるようにします。GPUスケジューラーは層ごとにホットなエキスパートをグループに割り当て、マルチポートブロードキャストにより注入をグループのポート間に分散させ、これらは共有エキスパートと重ね合わせて行われます。トレースリプレイにおいて、スケジューラーは過剰な負荷の98〜99%を削減しました。DeepSeek-V4-Proのプレフィルサービングにおいては、数学ベンチマークでスループットが17.4%向上し、エージェント系プロンプトでは7.2%向上しました。

露呈は約束ではない：ツール使用エージェントに対する潜在的モニターの二重層評価

arXiv:2610.37679v1 公表タイプ：新規 要旨：ツールを使用する言語エージェントは間接的なプロンプトインジェクションに対して脆弱であり、不安全な行動が実行される前にそれを検出するためにモデル内部を調査する研究が増加しているが、その結果には著しく矛盾した点が見られる。我々は、こうした矛盾の多くは評価手法に起因すると主張し、評価および学習集団の両方において、インジェクションによる露呈と行動上の約束を分離する二重層化プロトコルを提案する。主要なQwen AgentDojoのグリッド上で、無意識的に不安全なケースとその他を混在させた対照条件下で訓練されたモニターは、ほとんどが露呈を学習しており、エージェントがそれに従うかどうかに関わらず露呈した軌跡を警告し、どのケースが不安全になるかをほとんど予測しない。一方、露呈したケースのみを対象に再訓練した場合、同じ種類のプローブはモデル自身が行う不安全なツール呼び出しを最大2秒前まで予測できる。

LLM評価において、全体のF1スコアのみで自動採点システムを検証することは誤解を招くリスクがある：新たな研究は、具体的なプロンプト間の差異を考慮した検証の必要性を強調している

arXiv論文（2610.31678v1）は、対話型の大規模言語モデルの評価において、自動スコアラーの全体的な正答率やF1スコアだけに依存すると、プロンプト固有の誤りが隠れてしまい、プロンプト効果の誤った判断につながると指摘している。実証結果では、同一のスコアラーでも異なるプロンプト条件下で偽陽性率に大きな差（2.6%～33.3%）が生じ、表面的には有意と見られる9.3ポイントの効果も、二重のLLMによるレビュー下では2.3ポイントに縮小し、統計的に有意ではなくなった。

注目する理由：本研究は、実際の実験データ（6つのモデル、180個の架空のエンティティに関する質問、6種類のプロンプト条件）に基づき、現在のLLM評価において広く見られる方法論上の欠陥——すなわち、スコアラーの全体的な性能を重要な比較タスクにおける信頼性と同一視する——を明らかにしています。その核心的な主張（各プロンプトを個別に検証し、不確実性を考慮に入れる必要がある）は、明確な実証的根拠と実践的な提言に裏打ちされており、発表日（2026年10月26日）も新鮮で、出典も信頼できるarXivプレプリントプラットフォームです。