Nvidia、企業が少ないGPUでAIモデルを運用できるよう支援するインドのスタートアップを支援
Simplismartは、年間化した収益のランレートが6か月で14倍に成長し、米国が同社の収益の半分以上を占めていると述べています。
見出し・要約・本文から、情報のつながりを探します。
Simplismartは、年間化した収益のランレートが6か月で14倍に成長し、米国が同社の収益の半分以上を占めていると述べています。
MITコミュニティの各層が集まり、データセンターや強力な温室効果ガスから農業や教育に至るまで、幅広いテーマについて議論を交わしました。
本日は、ワークステーション向けのASRock製ハイエンドRadeon AI推論カード「Creator Radeon AI Pro R9700」をご紹介します。32GBのメモリを搭載し、価格は1,700ドルというこのカードは、ローカルでのAI推論を実行するワークステーションを手頃なコストで構築するうえで非常に優れた選択肢です。記事「ASRock Creator Radeon AI Pro R9700レビュー:AMD流ワークステーション向け推論」は、ServeTheHomeに初出しました。
SpaceXは、AIチップおよび関連するデータセンター設備の購入費用として、約400億ドルの資金調達に関する拘束力のある契約を締結したと、同社は月曜日の規制当局への提出書類で明らかにしました。声明において、SpaceXはこれを史上最大規模のGPU向け資金調達であると述べています。
本記事では、Underdogが公開したSaluki 27Bモデル——7.9 GBの2ビット量子化を採用したQwen3.8-27Bの変種——について紹介します。同モデルはISTA-DASLabのGSQ-RCO手法を用いて構築されており、120タスクにおけるBFCL v4ツール呼び出しベンチマークにおいて、元の54 GBのフル精度モデルを上回るとされています。ただし、すべての性能に関する結論は開発者による声明に基づくものであり、独立した検証は行われていません。
Amazon SageMakerは、Training Sessions APIをリリースし、ユーザーが純粋なPythonスクリプトでSFT、RLHF、GRPO、KTOなどのカスタム大規模モデルの学習ロジックを実装できるようにしました。GPUリソースのスケジューリング、フォールトトレランス、分散実行、およびチェックポイント管理はすべてサービスによってホストされます。
本記事は、Hugging FaceとAmazonが共同で公開する技術ブログシリーズの第1弾であり、AWS Trainium AIアクセラレーションチップ上でTorchNeuronを用いたPyTorchモデルの推論性能分析の手法を体系的に紹介します。内容には、Neuronバックエンドの統合原理、torch.profilerの設定方法、NeuronConfigおよびNeuronProfilerツールの利用、Neuron Explorerによる可視化トレースが含まれます。さらに、RMSNormを例に、3つの実装(従来のPyTorch、torch.rms_normの組み込み融合、torch.compileによる自動融合)間のデバイス上での実行時間の差異を比較しています。