AI 自動翻訳
多くのAIワークロードは、GPUのほんの一部しか必要としません。各ワークロードに専用のデバイスを割り当てると、リソースが遊んでいる状態になることがあります。GPUを共有することで、プラットフォームチームは既存のインフラストラクチャを活用して、より多くのワークロードに対応できるようになります。NVIDIA GPUはすでに、GPU共有のための複数の手法をサポートしています。マルチインスタンスGPU(MIG)は、GPUをハードウェア的に分離されたインスタンスに分割し、アプリケーションからは透過的に利用できるようにします…
出典