本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

GPUにおけるカーネル外最適化の性能ポータビリティ:分子ドッキングのケーススタディ

arXiv:2611.06207v1 発表タイプ:新規 要旨:繰り返し実行されるマルチカーネルGPUパイプラインとして構築された不規則な科学アプリケーションにおいては、スループットがカーネルの効率と同程度にカーネル外の判断に依存するため、性能の移植性を実現するのは困難である。分子ドッキングを代表的なケーススタディとして取り上げ、バッチングポリシー、ワーカーの並行度、および各ワーカーごとのメモリ割り当てを明示的な最適化パラメータとして扱うカーネル外チューニング手法を提案する。この手法では、バックエンド依存の占有率主導型の選択を、明示的なリソース制約に基づくより移植性の高い実行戦略に置き換える。本手法をmuDockミニアプリに実装し、マネージャ/ワーカー実行モデル下で複数のホストワーカーが独立したストリームを通じてGPUを共有する環境を構築した。その後、NVIDIA、AMD、Intelの各GPUに対し、CUDA、HIP、SYCLの実装上で評価を行った。評価対象となったすべてのプラットフォーム/バックエンドの組み合わせにおいて、メモリ制約に基づく定式化は占有率主導型のベースラインのピークスループットを上回った。完全にチューニングされた本手法は、テストしたすべての構成でエンドツーエンドのスループットを向上させ、ベースラインに対して平均1.53倍の高速化を達成した。

ASRock Creator Radeon AI Pro R9700 レビュー:AMD流のワークステーション推論性能

本日は、ワークステーション向けのASRock製ハイエンドRadeon AI推論カード「Creator Radeon AI Pro R9700」をご紹介します。32GBのメモリを搭載し、価格は1,700ドルというこのカードは、ローカルでのAI推論を実行するワークステーションを手頃なコストで構築するうえで非常に優れた選択肢です。記事「ASRock Creator Radeon AI Pro R9700レビュー:AMD流ワークステーション向け推論」は、ServeTheHomeに初出しました。

経緯と関連報道

TorchNeuronシステムレベルの性能分析(第1部):AWS Trainiumチップをベースとしたエンドツーエンドのプロファイリング

本記事は、Hugging FaceとAmazonが共同で公開する技術ブログシリーズの第1弾であり、AWS Trainium AIアクセラレーションチップ上でTorchNeuronを用いたPyTorchモデルの推論性能分析の手法を体系的に紹介します。内容には、Neuronバックエンドの統合原理、torch.profilerの設定方法、NeuronConfigおよびNeuronProfilerツールの利用、Neuron Explorerによる可視化トレースが含まれます。さらに、RMSNormを例に、3つの実装(従来のPyTorch、torch.rms_normの組み込み融合、torch.compileによる自動融合)間のデバイス上での実行時間の差異を比較しています。

経緯と関連報道