本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

UniExit:異種エッジAI向けの統合遅延意識型早期終了ランタイム

arXiv:2611.09159v1 発表タイプ:新規 要旨:エッジアプリケーションでは、CNNベースの認識とエッジ展開可能なTransformerベースの言語モデルを組み合わせるケースが増加していますが、リソース制約のあるデバイス上でこのような異種ワークロードをデプロイするのは困難です。これは、推論レイテンシが入力の難易度および実行時のハードウェア状態の両方に依存して変動するためです。早期終了推論は中間段階で処理を終了することで計算量を削減しますが、既存手法は多くの場合モデル固有であり、動的なエッジ環境下では陳腐化する静的なレイテンシプロファイルに依存しています。本論文では、異種エッジAI向けの統一されたレイテンシ-awareな早期終了ランタイムであるUniExitを提案します。UniExitはCNNブロックとTransformer層を順序付けられたステージとして抽象化し、モデル固有の品質メカニズムを維持しつつ、共通のレイテンシ-awareルーティングポリシーを適用します。実行時状態と推論進捗から次の終了点に到達する際のコストを予測し、バジェット-awareな継続/終了判断を行います。UniExitは、実行時状態-awareなレイテンシ予測、キャッシュベースの予測再利用、トレンド-awareフォールバック、およびCNN固有の終了安定化を組み合わせることで、オーバーヘッドが低く堅牢なオンライン制御を実現します。我々は複数のエッジおよびエッジ-クラウドプラットフォーム上でUniExitを実装し、代表性のあるCNNおよびTransformerベースの言語モデルワークロードを用いて評価しました。単一ワークロード、同時実行中の異種ワークロード、およびエッジ-クラウド設定のいずれにおいても、UniExitは既存のプログレッシブ推論ベースラインに比べて、締切満足度とレイテンシ-精度のトレードオフを一貫して改善するとともに、冗長な終了モジュール計算やタスクレベルのエネルギー消費も削減します。

トレードオフ意識型テリトリーデザイン:企業向け顧客–セラー割り当てのための多目的意思決定システム

arXiv:2610.31701v1 発表タイプ:新規 要旨:企業顧客の購買体験は、製品体験やマーケティングだけでなく、繰り返し行われるリソース配分の意思決定によっても形成されます。B2Bの市場参入(GTM)組織においては、テリトリーデザインが、どのアカウントにセラーのカバレッジを提供するか、どのセラー–アカウント関係を維持するか、そして限られたフィールドキャパシティをどのように配分するかを決定します。しかし、このプロセスは多くの場合手作業で行われるため、機会の比較や価値の継続性の評価、さらには成長・バランス・キャパシティ・実現可能性といった要素間のトレードオフの検討が困難です。本稿では、企業向けGTM計画におけるトレードオフ意識型の顧客–セラー割り当てを支援する運用意思決定システムを提案します。本システムは、予測信号を統合してスコアリングを行う多次元アカウント価値層を含む三つの主要コンポーネントを組み合わせています。

Tradeoff-Aware Territory Design: A Multi-Objective Decision System for Enterprise Customer-to-Seller Allocation
経緯と関連報道