見出し・要約・本文から、情報のつながりを探します。
Amazon SageMakerは、Training Sessions APIをリリースし、ユーザーが純粋なPythonスクリプトでSFT、RLHF、GRPO、KTOなどのカスタム大規模モデルの学習ロジックを実装できるようにしました。GPUリソースのスケジューリング、フォールトトレランス、分散実行、およびチェックポイント管理はすべてサービスによってホストされます。
NVIDIAは2026年10月26日（UTC）に、GPU上で大規模なスパース線形システムを効率的に解くために設計されたCUDA-XライブラリであるcuDSSが一般提供（GA）段階に移行したことを発表しました。これにより、半導体、航空、産業システムなどの分野におけるシミュレーションのスループットと反復処理の効率が大幅に向上します。
本記事は、Hugging FaceとAmazonが共同で公開する技術ブログシリーズの第1弾であり、AWS Trainium AIアクセラレーションチップ上でTorchNeuronを用いたPyTorchモデルの推論性能分析の手法を体系的に紹介します。内容には、Neuronバックエンドの統合原理、torch.profilerの設定方法、NeuronConfigおよびNeuronProfilerツールの利用、Neuron Explorerによる可視化トレースが含まれます。さらに、RMSNormを例に、3つの実装（従来のPyTorch、torch.rms_normの組み込み融合、torch.compileによる自動融合）間のデバイス上での実行時間の差異を比較しています。
i14は、30.28億パラメータを備えるLaplace 3Bモデルを発表しました。このモデルでは、Softmaxアテンションの代わりにゲート制御線形アテンション（GLA）を採用しており、推論時の各シーケンスあたりの再帰状態は常に29.5 MBで、コンテキスト長に依存しません。同モデルは、AWS trn2.48xlarge（Trainium2チップ16基搭載）1台でトレーニングおよびサービス検証を実施し、トレーニングスループットは12万トークン/秒、サービススループットは11,544出力トークン/秒（1,280同時実行シーケンス）に達しました。すべての性能データは、i14とAWS GenAIICチームによる社内実測結果です。
Hugging Face は TorchTPU をリリースし、PyTorch にネイティブな TPU バックエンドを提供することで、Transformers や Diffusers などのライブラリを torch_xla に依存したり JAX へ移行することなく、直接 TPU 上で実行できるようにしました。
