本文へ移動
AI NEWS JOURNAL
arXiv cs.DCAI NEWS / JOURNAL

LooseLeaf:計算ノートブック向けのサーバーレスGPUを実現

arXiv:2610.33275v1 発表タイプ:新規 要旨:計算ノートブックはセッション全体にわたってGPUを占有しますが、GPUが計算を行うのはセルが実行中であるときだけで、それ以外の時間はアイドル状態となります。サーバーレス実行であれば、セル間でGPUを解放できますが、新しいワーカー上で蓄積されたノートブックの状態を再構築するには、各GPUセルごとに大きなコストが伴います。本論文では、対話型ノートブック向けのサーバーレスGPUプラットフォームであるLooseLeafを提案します。LooseLeafは、各セルの状態とインポートクロージャー、すなわちそのセルが必要とする最小限の変数やパッケージを導出します。実世界のノートブック5,000件に対する分析から、これらのクロージャーは非常に小さく、ユーザーによるセルの編集によっても、準備に要する時間は数秒程度であることが示されました。LooseLeafは、ユーザーがセルを編集している間に、これらのクロージャーを用いてGPUワーカーを準備します。実行後、ワーカーは…

AI 自動翻訳

要旨:計算ノートブックはセッション全体にわたってGPUを占有しますが、GPUが計算を行うのはセルが実行中であり、それ以外の時間はアイドル状態となります。サーバーレスな実行方式では、セル間でGPUを解放できますが、新しいワーカー上で蓄積されたノートブックの状態を再構築するには、各GPUセルごとに大きなコストが伴います。本論文では、対話型ノートブック向けのサーバーレスGPUプラットフォームであるLooseLeafを提案します。LooseLeafは、各セルの状態とインポートクロージャー、すなわちそのセルが必要とする最小限の変数およびパッケージを導出します。5,000件の実際のノートブックに対する分析から、これらのクロージャーは非常に小さく、ユーザーによるセルの編集によっても準備にかかる時間は数秒程度であることが示されました。LooseLeafは、ユーザーがセルを編集している間に、これらのクロージャーを用いてGPUワーカーを準備します。実行後、ワーカーは更新後の状態を数秒以内に保存するため、各セルの実行後にGPUを再利用可能です。LooseLeafは、可視的な遅延なしにGPUセルの95〜98%を起動し、固定セッションと同等の対話性を実現するとともに、最先端のノートブックプラットフォームに比べてGPU時間数を32〜55%削減します。

提出履歴

Paperへのアクセス:

PDFを表示

HTML(実験的)

TeXソース

追加機能

オーディオ要約

現在の閲覧コンテキスト:

参考文献および引用

Google Scholar

セマンティック・スカラー

ブックマーク

機関

arXivLabsは、共同作業者が当社のウェブサイト上で新しいarXiv機能を直接開発・共有できるフレームワークです。

arXivLabsと協働する個人および組織は、いずれも当社の価値観であるオープン性、コミュニティ、卓越性、そしてユーザーデータのプライバシーを尊重し、受け入れています。arXivはこれらの価値観に固くコミットしており、それらを遵守するパートナーのみと協力しています。

arXivのコミュニティに価値をもたらすプロジェクトのアイデアをお持ちですか?arXivLabsについて詳しくご覧ください。

情報源

arXiv cs.DC
← すべてのニュースへ