本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

UniExit:異種エッジAI向けの統合遅延意識型早期終了ランタイム

arXiv:2611.09159v1 発表タイプ:新規 要旨:エッジアプリケーションでは、CNNベースの認識とエッジ展開可能なTransformerベースの言語モデルを組み合わせるケースが増加していますが、リソース制約のあるデバイス上でこのような異種ワークロードをデプロイするのは困難です。これは、推論レイテンシが入力の難易度および実行時のハードウェア状態の両方に依存して変動するためです。早期終了推論は中間段階で処理を終了することで計算量を削減しますが、既存手法は多くの場合モデル固有であり、動的なエッジ環境下では陳腐化する静的なレイテンシプロファイルに依存しています。本論文では、異種エッジAI向けの統一されたレイテンシ-awareな早期終了ランタイムであるUniExitを提案します。UniExitはCNNブロックとTransformer層を順序付けられたステージとして抽象化し、モデル固有の品質メカニズムを維持しつつ、共通のレイテンシ-awareルーティングポリシーを適用します。実行時状態と推論進捗から次の終了点に到達する際のコストを予測し、バジェット-awareな継続/終了判断を行います。UniExitは、実行時状態-awareなレイテンシ予測、キャッシュベースの予測再利用、トレンド-awareフォールバック、およびCNN固有の終了安定化を組み合わせることで、オーバーヘッドが低く堅牢なオンライン制御を実現します。我々は複数のエッジおよびエッジ-クラウドプラットフォーム上でUniExitを実装し、代表性のあるCNNおよびTransformerベースの言語モデルワークロードを用いて評価しました。単一ワークロード、同時実行中の異種ワークロード、およびエッジ-クラウド設定のいずれにおいても、UniExitは既存のプログレッシブ推論ベースラインに比べて、締切満足度とレイテンシ-精度のトレードオフを一貫して改善するとともに、冗長な終了モジュール計算やタスクレベルのエネルギー消費も削減します。

AIエージェントの導入競争は、データアクセスという見慣れた障壁に直面している

AIエージェントを本番環境へ投入しようと急ぐ企業たちは、そのエージェントを信頼できるかどうかを左右するのはモデルの選択ではなく、ロールベースのアクセス制御であると気づきつつある。推論コストの高騰やプライバシーへの懸念、主権に関する要求なども相まって、ますます多くのAIワークロードが企業内データセンターへと戻りつつある。この変化は、長年にわたり機密データの管理に取り組んできた企業に有利に働いている。[...] 記事「AIエージェントの導入競争は、データアクセスという見慣れた障壁に直面している」は、SiliconANGLEにて最初に公開された。

経緯と関連報道

屋内無線地図推定のための協調的文脈内学習

arXiv:2610.31702v1 発表タイプ:新規 要旨:屋内無線地図推定(RME)は、カバレッジ計画、位置推定、ネットワーク展開などの無線通信アプリケーションにおいて不可欠である。しかし、既存の手法の多くは、高コストなラベル付きデータとタスク固有のモデル学習を必要とする教師あり学習パラダイムに従っている。さらに、屋内環境には建物のレイアウトや構造といったプライバシーに関わる情報が含まれており、これらを集中管理することはしばしば困難である。これらの課題に対処するため、私たちは初めて、屋内RMEを協調的文脈内学習(ICL)問題として定式化する試みを行った。提案するPoly-Rippleは、複数のクライアントがモデルの更新なしに大規模自己回帰型視覚モデル(LAVM)を用いてICLを行うフレームワークである。各クライアントは、自身のプライベートなデモンストレーションによってプロンプトを与えられる。

Collaborative In-Context Learning for Indoor Radio Map Estimation
経緯と関連報道