Build-A-Chip-Benchの紹介：ワークロード仕様からGDSまで
オープンソースツールとオープンソースPDKを用いて、チップ設計ワークフローを完了する能力を評価するため、ワークロード仕様からGDSレイアウトに至るまでの段階でAIエージェントを評価します。記事「Build-A-Chip-Benchの紹介：ワークロード仕様からGDSまで」はSemiconductor Engineeringに最初に掲載されました。
AI NEWS JOURNAL
AI ニュースを検索
見出し・要約・本文から、情報のつながりを探します。
TMAを使用するべきタイミングと理由：NVIDIA Hopper GPUにおけるテンソルメモリアクセラレーションのワークロードに基づく特性評価
arXiv:2610.34907v1 発表タイプ：新規 要旨：NVIDIA Hopperで導入されたテンソルメモリアクセラレータ（TMA）は、実運用のGPUカーネルにおいて広く用いられているにもかかわらず、その使用状況は極めて選択的である。CUTLASS、FlashAttention-3、FlashInferなどの専門的なカーネル開発者たちは、カーネル内の一部のテンソルオペランドに対してTMAを適用する一方で、他のオペランドについてはcp.asyncや直接グローバルロード、あるいは分散共有メモリ（DSM）に回帰している。ベンダーのドキュメントではAPIが説明され、最近のマイクロベンチマークによる研究ではTMAのスループットが単独で評価されているが、実際の実務者が直面する問いにはいずれも答えられていない。すなわち、カーネル内で特定のメモリオペランドが存在する場合、それをTMAで処理すべきなのか、また、もしTMAを使うならクラスタマルチキャストを併用すべきか否かという問題である。本研究では、H100を対象としたワークロードに基づく特性評価を通じて、このギャップに取り組む。我々はTMAの利用状況を体系的に整理し、多
ASRock Creator Radeon AI Pro R9700 レビュー：AMD流のワークステーション推論性能
本日は、ワークステーション向けのASRock製ハイエンドRadeon AI推論カード「Creator Radeon AI Pro R9700」をご紹介します。32GBのメモリを搭載し、価格は1,700ドルというこのカードは、ローカルでのAI推論を実行するワークステーションを手頃なコストで構築するうえで非常に優れた選択肢です。記事「ASRock Creator Radeon AI Pro R9700レビュー：AMD流ワークステーション向け推論」は、ServeTheHomeに初出しました。
ブラックストーンのAI事業担当責任者、ジャス・カイラ：AIインフラ整備に関する債務懸念は誇張されている
ブラックストーンのAI事業責任者であるジャス・カイラ氏は、TechCrunch Disruptカンファレンスにおいて、AIインフラ分野における巨額の債務に対する市場の不安は過度に拡大されていると述べました。その核心的な論拠として、債務は主にマイクロソフトやメタといった高信用格付けの顧客との長期契約によって支えられており、さらにGPUなどの基礎資産には強力な担保価値が備わっているため、リスク構造は2008年の銀行システムとは本質的に異なるものだと指摘しました。
TorchNeuronシステムレベルの性能分析（第1部）：AWS Trainiumチップをベースとしたエンドツーエンドのプロファイリング
本記事は、Hugging FaceとAmazonが共同で公開する技術ブログシリーズの第1弾であり、AWS Trainium AIアクセラレーションチップ上でTorchNeuronを用いたPyTorchモデルの推論性能分析の手法を体系的に紹介します。内容には、Neuronバックエンドの統合原理、torch.profilerの設定方法、NeuronConfigおよびNeuronProfilerツールの利用、Neuron Explorerによる可視化トレースが含まれます。さらに、RMSNormを例に、3つの実装（従来のPyTorch、torch.rms_normの組み込み融合、torch.compileによる自動融合）間のデバイス上での実行時間の差異を比較しています。
i14がLaplace 3B線形注意力モデルを発表：AWS Trainium2とネイティブPyTorchを基に、固定状態メモリでの推論を実現
i14は、30.28億パラメータを備えるLaplace 3Bモデルを発表しました。このモデルでは、Softmaxアテンションの代わりにゲート制御線形アテンション（GLA）を採用しており、推論時の各シーケンスあたりの再帰状態は常に29.5 MBで、コンテキスト長に依存しません。同モデルは、AWS trn2.48xlarge（Trainium2チップ16基搭載）1台でトレーニングおよびサービス検証を実施し、トレーニングスループットは12万トークン/秒、サービススループットは11,544出力トークン/秒（1,280同時実行シーケンス）に達しました。すべての性能データは、i14とAWS GenAIICチームによる社内実測結果です。
SF Computeがプログラマブルなデータセンターを構築：物理的な引渡しによりGPU計算能力の取引市場を推進
SF Computeはエヴァン・コンラッドによって設立され、中立的でプログラマブルかつ物理的な引渡しをサポートするGPU計算力取引インフラの構築に注力しています。同社のモデルはFLOPSという抽象的な商品を排し、ハードウェアの異種性や実際の納品、ならびに割り込み耐性、InfiniBandトポロジー、ファームウェアバージョンといったリアルタイムの制約を重視しています。これまでに数百億ドル規模の取引量を達成しており、動的なInfiniBandサブネット分割などの基盤機能も提供しています。
TorchNeuronがパブリックベータをリリース：Hugging FaceモデルがAWS Trainiumによるトレーニングと推論をネイティブでサポート
Hugging FaceとAWSが共同でTorchNeuronを発表しました。これはPyTorch向けのネイティブなTrainiumバックエンドで、2026年10月20日よりパブリックベータが開始されます。この技術により、TransformersやDiffusersなどの主要ライブラリを変更することなく直接Trainiumチップ上で実行でき、テキスト生成および画像生成モデルの使いやすさと互換性が大幅に向上します。