見出し・要約・本文から、情報のつながりを探します。
ブラックストーンのAI事業責任者であるジャス・カイラ氏は、TechCrunch Disruptカンファレンスにおいて、AIインフラ分野における巨額の債務に対する市場の不安は過度に拡大されていると述べました。その核心的な論拠として、債務は主にマイクロソフトやメタといった高信用格付けの顧客との長期契約によって支えられており、さらにGPUなどの基礎資産には強力な担保価値が備わっているため、リスク構造は2008年の銀行システムとは本質的に異なるものだと指摘しました。
米連邦判事は、トランプ政権が環境保護庁（EPA）に対し、スペースXAIがメンフィスで無許可のガスタービンを運用したことによる大気汚染をめぐる訴訟を一方的に取り下げさせる権限はないとの判断を下した。一方、NAACPが提起した訴訟は引き続き進行する。
Dharma-AIはVocabX手法を提案し、ポルトガル語の作文自動採点といった特定のタスク向けに言語モデルの語彙表を再構築することで、語彙の出現頻度ではなく生成コストを最適化目標としています。モデルの構造やパラメータ、学習プロセスを変更することなく、実測では推論コストが77％削減され、同時に評価指標（bench score）も0.703から0.810へ向上しました。
本記事は、Hugging FaceとAmazonが共同で公開する技術ブログシリーズの第1弾であり、AWS Trainium AIアクセラレーションチップ上でTorchNeuronを用いたPyTorchモデルの推論性能分析の手法を体系的に紹介します。内容には、Neuronバックエンドの統合原理、torch.profilerの設定方法、NeuronConfigおよびNeuronProfilerツールの利用、Neuron Explorerによる可視化トレースが含まれます。さらに、RMSNormを例に、3つの実装（従来のPyTorch、torch.rms_normの組み込み融合、torch.compileによる自動融合）間のデバイス上での実行時間の差異を比較しています。
i14は、30.28億パラメータを備えるLaplace 3Bモデルを発表しました。このモデルでは、Softmaxアテンションの代わりにゲート制御線形アテンション（GLA）を採用しており、推論時の各シーケンスあたりの再帰状態は常に29.5 MBで、コンテキスト長に依存しません。同モデルは、AWS trn2.48xlarge（Trainium2チップ16基搭載）1台でトレーニングおよびサービス検証を実施し、トレーニングスループットは12万トークン/秒、サービススループットは11,544出力トークン/秒（1,280同時実行シーケンス）に達しました。すべての性能データは、i14とAWS GenAIICチームによる社内実測結果です。
SF Computeはエヴァン・コンラッドによって設立され、GPUによる計算能力のプログラマブルかつ物理的に確約された取引の実現に注力しています。同社はデータセンターを自前で保有せず、フルスタック技術を用いて第三者の施設と連携して「主権型コンピューティングクラウド」を共同構築しており、市場の中立性とインフラの制御可能性を重視しています。これまでに数億ドル規模の取引額を達成し、InfiniBandの動的スライシングといった重要な機能も実装済みです。
生成AIの急増に伴う高帯域幅メモリーチップの需要急拡大に対応するため、サムスンは韓国・平沢にニューヨークのセントラルパークと同程度の面積を誇る半導体製造クラスターを建設しており、現在では3つのウェハファブが稼働中で、4つ目もまもなく量産開始、5つ目は2024年に需要低迷を受けて一時停止したものの、その後再開されています。現場では、高い水準の建設ペースと厳格な安全基準、そして労働力の整備が進められています。
Hugging Face は TorchTPU をリリースし、PyTorch にネイティブな TPU バックエンドを提供することで、Transformers や Diffusers などのライブラリを torch_xla に依存したり JAX へ移行することなく、直接 TPU 上で実行できるようにしました。
Hugging FaceはAnyLanguageModel 1.0を正式にリリースし、Apple Foundation Models APIと完全互換のオープンソースSwiftフレームワークを提供しています。ローカル（MLX、llama.cpp、Core ML）およびホスティング（OpenAI、Anthropic、Gemini、Hugging Face Inference Providersなど）のモデル間でシームレスに切り替えられるほか、画像入力、ツール呼び出し、ガイド付き生成、推論ブロックの自動適応などの新機能も追加されました。
Hugging FaceとAWSが共同でTorchNeuronを発表しました。これはPyTorch向けのネイティブなTrainiumバックエンドで、2026年10月20日よりパブリックベータが開始されます。この技術により、TransformersやDiffusersなどの主要ライブラリを変更することなく直接Trainiumチップ上で実行でき、テキスト生成および画像生成モデルの使いやすさと互換性が大幅に向上します。
Google DeepMindとシンガポールのGovTechが共同で、Gemmaシリーズをベースとした軽量な端末側AIモデルを公開しました。このモデルはユーザー端末上でローカルに実行されるよう最適化されており、チャットデータをクラウドに一切アップロードすることなく、対話型詐欺をリアルタイムで検出・警告します。
GPU管理: Idle GPUの理由 新しい地上航空機である
