本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

FlatCake:大規模言語モデルのサービス向けフラットなKVキャッシュストレージアーキテクチャ

arXiv:2610.38355v1 発表タイプ:新規 要旨:KVキャッシュの再利用は大規模言語モデルのサービスを加速させるが、既存のシステムではホストのDRAMとNVMe SSDを階層的なヒエラルキーとして管理しており、DRAMが中間キャッシュとして機能している。しかし、実際の大規模言語モデルのワークロードは、この階層構造の二つの前提をいずれも破っている。第一に、バイモーダルな再利用によりDRAMの時間的フィルタリングが無効化される。というのも、ワークロードは長い再利用距離を持つワンショットブロックか、DRAM容量を超える数ギガバイト規模のエージェントセッションによって支配されており、その結果SSDが重要な読み取りパスに置かれているからである。第二に、DRAMによるステージングと、排出現象に基づくレイアウトがSSDの復元処理をボトルネックにしている。進行中のプレフィックスのためにホストのステージングバッファを保持すると、負荷下で競合が生じてプリフェッチが中断されてしまう一方で、段階的な排出現象によってセッション内のブロックがSSD全体に散らばり、大規模なシーケンシャルリードが妨げられる。我々は…

経緯と関連報道

Wabi、消費者向けAIアシスタントで5,500万ドルを調達

消費者向け人工知能アシスタントを開発するWabi Inc.は本日、シリーズAラウンドで5,500万ドルの資金調達を完了したと発表しました。このラウンドはIVPがリードし、Amazon Alexa Fund、Andreessen Horowitz、Forerunnerから出資を受けました。さらに、Salesforce Inc.のCEOであるマーク・ベニオフ氏やShopify Inc.のCEOであるトビ・リュトケ氏ら、複数のエンジェル投資家も参加しています。記事「Wabi、消費者向けAIアシスタントで5,500万ドルを調達」は、SiliconANGLEに最初に掲載されました。

経緯と関連報道

エンドツーエンドの大規模モデル向けに特化:新芯航途がX7 Ultra自動運転チップを発表、中国初の量産Armv9車載規格CPUを搭載

10月29日、XHEART新芯航途は次世代の自動運転用大規模モデル専用チップ「X7 Ultra」を正式に発表しました。自動運転技術が従来の複数の小規模モデルから「エンドツーエンドの大規模モデル」へと進化する潮流を受け、同社は「大規模モデルがチップを定義する」という理念に基づき、実際の量産モデルの根本的なニーズから逆算して計算アーキテクチャ、ストレージ設計、データフローのあり方を一から見直し、将来のモデル進化にも対応できる余地を確保しています。記事では、コアとなる演算性能やアーキテクチャ設計についても触れられています。

image.png
経緯と関連報道

Liquid AIがLFM3マルチモーダルモデルファミリーを強力に発表、高効率な専用インテリジェンスを主力に据える

近日、Liquid AIは新世代の基礎モデルファミリーであるLFM3を正式に発表しました。最初のバージョンには約2Bパラメータを持つ6種類のモデルが含まれ、テキスト、視覚、音声、オムニモーダル、意思決定といった各領域を網羅しています。これらはすべてLFM3-1.7B-Baseを基盤とし、事前学習時のスループットは22Tトークンに達します。このシリーズは全く新しい三混合層アーキテクチャを採用しており、ゲート制御短い畳み込みやスライディングなどの仕組みを統合することで、より少ないパラメータで高い効率を実現しています。

Liquid AI重磅发布LFM3 多模态模型家族,主打高效专用智能
経緯と関連報道

INC-MoE:エキスパート並列型混合専門家推論における、ネットワーク内コレクティブの重複と専門家計算

arXiv:2610.36339v1 発表タイプ:新規 要旨:エキスパート並列型混合専門家(MoE)のサービスにおいて、ディスパッチは各トークンをその選択された専門家が配置されているアクセラレータへ送り、コンバインは各トークンの所有者に専門家の出力を集約して返します。これら両操作はクリティカルパス上に位置し、マルチノード環境ではMoE層のレイテンシを大きく左右します。本研究では、ディスパッチとコンバインをネットワークスイッチにオフロードし、さらに両コレクティブを相互に、および専門家計算と重ね合わせるエキスパート並列型MoE層であるINC-MoEを提案します。ディスパッチはスイッチ側のマルチキャストによるネットワーク内AllGatherを用い、コンバインはスイッチ側のリダクションによるネットワーク内ReduceScatterを用います。両コレクティブとも、エンドホストとスイッチ間でメッセージセマンティクスを利用します。なお、ネットワーク内コレクティブはそれぞれ逆方向に負荷をかけるため

経緯と関連報道

低ランク多線形分解によるLLMのハルシネーション検出

arXiv:2610.36191v1 公告タイプ:新規 要旨:大規模言語モデル(LLMs)は、流暢でありながら事実と一致しない応答を頻繁に生成し、その信頼性に対する懸念が高まっています。近年のハルシネーション検出手法は、内部表現を活用する傾向が強まっていますが、高次元の隠れ状態から有用な信号を抽出することは依然として困難です。既存のアプローチでは、選択された活性化値やプーリングベースの圧縮に依存することが多く、Transformer層、特徴モード、トークン全体に分散する識別力のある情報を見落としてしまう可能性があります。私たちは、LOTUS(Low-rank Order-statistic TUcker-based Subspace learning)を提案します。これは、ハルシネーション検出のための多線形低ランク分解フレームワークであり、LLMの隠れ状態からコンパクトな表現を抽出しつつ、ラベルへの依存度を低減します。

経緯と関連報道

トランスフォーマーにおける証拠効果の因果的局所化

arXiv:2610.36524v1 公告タイプ:新規 要旨:制御された記号入力は、自然言語による証拠から言語モデルの意思決定に影響を与える注意ヘッドを明らかにすることができるのか?我々は、制御された証拠集約(CEA)を提案する。これは、他の部分が固定されたプロンプトにおいて、二つの記号の出現回数と順序を変化させ、凍結されたトランスフォーマーが二つの回答トークンの間で示す選好の変化を測定する手法である。選好は両者のロジット差によって測定され、プロンプト自体には正解が指定されていない。バランスド・ユーティリティ・カウサル・セレクション(BUC)は、各ヘッドの出力を除去した際にカウント効果がどの程度消失するか、またカウント条件間で平均出力を補間することで両方向に効果がどの程度回復するかを同時に評価することにより、コンパクトなヘッド集合を特定する。さらに、ヘッドの帰属と介入との間に結びつく条件付き上限を導出する。

経緯と関連報道

KORA:AIワークロード向けの決定論優先実行制御

arXiv:2610.35869v1 発表タイプ:新規 要旨:AIアプリケーションは、推論が必要かどうかを判断する前にしばしばモデルを呼び出します。このデフォルト設定は曖昧な生成タスクには有用ですが、構造化され、決定論的で、方針に基づき、照会中心、あるいは直接検証可能な作業には適していません。KORAは、決定論優先の実行制御を導入します。これは、リクエストをタスクパスとして表現し、まず決定論的または構造化された経路を試行し、その結果を検証し、テレメトリを記録した上で、決定論的な処理だけでは不十分な場合にのみモデル候補への経路へとエスカレートする、事前推論用の制御層です。本論文では、KORAを決定論優先の実行制御アーキテクチャとして提示し、再現可能なベンチマークおよび検証ワークロードによる限定的な実証結果を報告します。再

経緯と関連報道

フロンティアの大型言語モデルにおけるアッシュの同調性に関する定量的アプローチ

arXiv:2610.36668v1 公告タイプ:新規 要旨:アッシュの同調実験は、近年、大型言語モデル(LLMs)における同調性を測定する手法として大きな注目を集めています。これまでの研究では、主に大型言語モデルにおける同調性の実証に焦点が当てられてきましたが、本研究ではこのアプローチにさらに定量的な視点を加えています。具体的には、フロンティアの大型言語モデルに対して一連の質問を提示してサンプリングを行うのではなく、単一の質問を繰り返しサンプリングし、大型言語モデルの確率的特性を活用して回答の分布を生成します。これにより、モデルに人工的に作られたコンセンサスを提示する前後の回答分布を比較することが可能となります。実験の結果、フロンティアの大型言語モデルが実際に同調性を示すことを確認し、先行研究を裏付けるとともに、分布間の比較を通じて新たな知見を提供しています。

経緯と関連報道

Edge Soundは、物理的なAIが音声を理解できるよう支援するために200万ドルを調達しました

Edge Sound Research Inc.は本日、有用な音を分離し、他のセンサーデータと組み合わせて物理AIシステムがリアルタイムで状況を理解できるよう支援する音響インフラの構築に向け、新たに200万ドルの資金調達を行ったことを発表しました。このラウンドはStormbreaker Venturesがリードし、同社の総資金調達額は900万ドルに達しました。当該[…] 記事「Edge Sound、音声を物理AIが理解できるようにするための200万ドルを調達」は、元々SiliconANGLEに掲載されたものです。

経緯と関連報道

Crunchbaseのデータによると、米国と中国が物理的AIの推進を主導する中、第3四半期のロボティクススタートアップへの資金調達額は185%増加した

2026年、ロボティクス系スタートアップへのベンチャー投資は急増しており、投資の大部分は中国および米国に拠点を置く企業に向けられていることが、Crunchbaseのデータで示されています。総じて、第3四半期における世界のロボティクス系スタートアップへのベンチャー投資額は99億ドルに達し、これは2025年第3四半期の43億ドルの倍以上に相当します。

新闻源配图 · Crunchbase AI
経緯と関連報道

ディスカウント取引が崩れるにつれて、AIトークンの販売はますます難しくなる

モデルクレジットがフェスティバルのプロモーションやキャリアスタイルのパッケージに登場しています。不透明なマークアップで成り立っていた小規模な再販業者は、品質への疑念や規制強化、そして資金力のある競合企業との競争に直面しています。一方、安定した中間業者は、秘密裏な値下げではなく、ルーティング、信頼性、統合に対して料金を請求するでしょう。

経緯と関連報道

SAP、よりスマートでガバナンスされたJouleエージェントにより自律型企業戦略を推進

SAP SEは本日、開発者向けの年次カンファレンス「TechEd」において、人工知能に関する一連のイノベーションを発表しました。これにより、JouleアシスタントソリューションおよびBusiness AIプラットフォームが強化され、テーブル形式のデータに基づく基礎モデルも搭載されます。Joule Workの新たな機能は、AIエージェントの効率性向上とオープンプロトコルとの相互運用性を実現します。このうち、Model Context Protocol […] この記事の掲載元はSiliconANGLEで、SAPがよりスマートでガバナンスされたJouleエージェントにより自律型企業への取り組みを一段と推進していることを伝えています。

経緯と関連報道

vLLM セマンティックルーターが d3-ultra をリリース:270億パラメータのオープンなマルチモーダル意思決定モデル

vLLMセマンティックルーターは、270億パラメータ規模のオープンウェイトなマルチモーダル意思決定モデルであるd3-ultraをリリースしました。同モデルはテキスト、画像、動画を一度に読み込み、各回答に対する確率を返却し、チームのSR-Textテストで87.2点を獲得しています。この記事「vLLMセマンティックルーター、270億パラメータ規模のオープンマルチモーダル意思決定モデルd3-ultraをリリース」は、MarkTechPostに最初に掲載されました。

新闻源配图 · MarkTechPost
経緯と関連報道