本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

アナログ重ね合わせが有効なPCMの記憶密度を向上(IBMリサーチヨーロッパ)

IBMリサーチヨーロッパの研究者らは、「ニューラルネットワークにおけるベクトル格納のための重ね合わせ型アナログメモリ」を発表しました。要旨:研究者たちは、複数のAIベクトルを重ね合わせて格納するアナログ相変化メモリアーキテクチャを実証し、精度の調整可能なトレードオフにより有効な記憶密度を向上させました。試作のPCMハードウェアによるテストでは、推論精度がフル精度のソフトウェアにほぼ匹敵することが示されました。技術論文はこちらからご覧ください…… » 続きを読む 「アナログ重ね合わせが有効なPCMの記憶密度を向上(IBMリサーチヨーロッパ)」の記事は、Semiconductor Engineeringに最初に掲載されました。

新闻源配图 · SemiEngineering
経緯と関連報道

クラウドにおける大規模言語モデル:アーキテクチャ、オーケストレーション、推論に関する議論

arXiv:2610.33475v1 発表タイプ:新規 要旨:クラウドデータセンターにおける基盤となる大規模言語モデル(LLM)の広範な導入は、ステートレスなディープラーニングから分散型でメモリ集約的な生成ワークロードへと、根本的なパラダイムシフトを示しています。しかし、厳しいサービスレベル目標(SLO)の下で巨大な基盤モデルを運用するには、重要な物理的およびシステム上のボトルネックが露呈します。これらの課題には、依然として克服されていない高帯域幅メモリ(HBM)の壁、計算負荷に依存するプリフィル処理とメモリ帯域幅に制約されるデコードとの間の運用上の非対称性、急増するキー・バリュー(KV)キャッシュの膨張、コスト面で非常に負担の大きいサーバーレス環境でのコールドスタート、さらにはハードウェアの信頼性に関する脆弱性などが含まれます。既存の文献レビューは依然として層ごとの分断状態にあり、低レベルのアクセラレーター仮想化とクラスター間の連携が切り離されたままです。

経緯と関連報道

ASRock Creator Radeon AI Pro R9700 レビュー:AMD流のワークステーション推論性能

本日は、ワークステーション向けのASRock製ハイエンドRadeon AI推論カード「Creator Radeon AI Pro R9700」をご紹介します。32GBのメモリを搭載し、価格は1,700ドルというこのカードは、ローカルでのAI推論を実行するワークステーションを手頃なコストで構築するうえで非常に優れた選択肢です。記事「ASRock Creator Radeon AI Pro R9700レビュー:AMD流ワークステーション向け推論」は、ServeTheHomeに初出しました。

経緯と関連報道

SpaceX、アポロとの間で400億ドルのGPUファイナンス契約を確定

SpaceXは、AIチップおよび関連するデータセンター設備の購入費用として、約400億ドルの資金調達に関する拘束力のある契約を締結したと、同社は月曜日の規制当局への提出書類で明らかにしました。声明において、SpaceXはこれを史上最大規模のGPU向け資金調達であると述べています。

経緯と関連報道

AI需要の高まりを背景に、マーベルの初期の半導体製造への賭けが実を結ぶ

8年前、チップメーカーのマーベル・テクノロジー社はナノメートル単位での技術革新を一気に進めることを決断し、以来その成長軌道は着実に上向き続けている。半導体製造において、ナノメートル表記はトランジスタの正確な物理寸法を示すのではなく、プロセスノードと呼ばれるチップ製造技術の世代を指すものである。先進的なプロセスノードは一般に、より高いトランジスタ密度と性能の向上を実現する[…] 「AI需要の高まりの中で、マーベルの初期のチップ製造への賭けが実を結ぶ」という記事は、最初にSiliconANGLEに掲載された。

経緯と関連報道

i14がLaplace 3B線形注意力モデルを発表:AWS Trainium2とネイティブPyTorchを基に、固定状態メモリでの推論を実現

i14は、30.28億パラメータを備えるLaplace 3Bモデルを発表しました。このモデルでは、Softmaxアテンションの代わりにゲート制御線形アテンション(GLA)を採用しており、推論時の各シーケンスあたりの再帰状態は常に29.5 MBで、コンテキスト長に依存しません。同モデルは、AWS trn2.48xlarge(Trainium2チップ16基搭載)1台でトレーニングおよびサービス検証を実施し、トレーニングスループットは12万トークン/秒、サービススループットは11,544出力トークン/秒(1,280同時実行シーケンス)に達しました。すべての性能データは、i14とAWS GenAIICチームによる社内実測結果です。

経緯と関連報道

SF Computeがプログラマブルなデータセンターを構築:物理的な引渡しによりGPU計算能力の取引市場を推進

SF Computeはエヴァン・コンラッドによって設立され、中立的でプログラマブルかつ物理的な引渡しをサポートするGPU計算力取引インフラの構築に注力しています。同社のモデルはFLOPSという抽象的な商品を排し、ハードウェアの異種性や実際の納品、ならびに割り込み耐性、InfiniBandトポロジー、ファームウェアバージョンといったリアルタイムの制約を重視しています。これまでに数百億ドル規模の取引量を達成しており、動的なInfiniBandサブネット分割などの基盤機能も提供しています。

経緯と関連報道

SF Computeがプログラマブルなデータセンターを構築:物理的な引渡しによりGPU計算能力の取引を市場化へ

SF Computeはエヴァン・コンラッドによって設立され、GPUによる計算能力のプログラマブルかつ物理的に確約された取引の実現に注力しています。同社はデータセンターを自前で保有せず、フルスタック技術を用いて第三者の施設と連携して「主権型コンピューティングクラウド」を共同構築しており、市場の中立性とインフラの制御可能性を重視しています。これまでに数億ドル規模の取引額を達成し、InfiniBandの動的スライシングといった重要な機能も実装済みです。

経緯と関連報道