本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

Oddin:画像生成からの自己蒸留による統合マルチモーダルモデルにおける潜在的視覚推論

arXiv:2610.33062v1 発表タイプ:新規 要旨:統合型大規模マルチモーダルモデル(ULMM)は、テキストと画像の交互生成を通じて視覚推論を実行できるが、明示的な中間画像を生成するには多大な計算負荷が伴う。視覚ラテンシー推論はこの問題を解決するものの、既存の手法の多くは、視覚生成が不可能な視覚言語モデル(VLM)に依存している。そこで私たちは、ULMMにおけるラテンス視覚推論を可能にする新しいフレームワークであるOddinを提案する。Oddinでは、中間画像をコンパクトなラテントークンに置き換え、これらは理解ブランチのみで処理し、生成ブランチは最終的な出力画像の生成に専念させる。我々は、オフラインの自己蒸留手法を用いて、3つの目的——最終画像生成損失、テキスト蒸留損失、およびクロスエントロピー損失——に基づいてモデルを学習する。

経緯と関連報道

プレフィックスのキーと値は後から重要になる:ループ型言語モデルにおける自己推測デコード向けRIPEキャッシュ

arXiv:2610.34436v1 発表タイプ:新規 要旨:ループ型言語モデルは、各トークンに対して層のブロックを$R$回実行するため、そのキーバリューキャッシュ(KVキャッシュ)には各再帰層ごとに$R$個の平面が格納され、自己予測的デコーディング(一部のループで予備的に推論し、残りの$R$すべてで検証する手法)ではそれらすべてが読み込まれる。我々は、プレフィックスのキーとバリューが影響を及ぼすのは後半に集中していることを発見した。同程度の摂動サイズにおいて、ループ25〜32はループ2〜9に比べてそれぞれ$e^{15.0}$倍(Huginn-0125)および$e^{12.8}$倍(Raven-Llama)も敏感であり、各ループごとの平面数は0.88および0.81という比率で最終的な平面へと幾何級数的に近づいていく。そして、最も深い平面単独で十分かどうかは、後半の平面がどれほど成熟しているかに依存する。Ravenでは、それを保存するだけでbf16からfp32への変更と区別できない一方、Huginnでは、全体の誤差の74%をわずか1%の位置が占めている。これをRIPEに展開すると、最も深い…

経緯と関連報道

行動のペナルティをいつ停止すべきか?VLA強化学習におけるマルチンゲールGRPO

arXiv:2610.32431v1 発表タイプ:新規 要旨:視覚・言語・行動(VLA)のロールアウトが失敗したとしても、すべての行動が失敗に寄与したわけではない。しかし、グループ相対方策最適化(GRPO)では、ロールアウト中の全行動に対して単一の軌道レベルの優位性が割り当てられるため、本来有用な復旧試行すら、それらが修正しようとする誤りとともにペナルティを受ける可能性がある。失敗フィードバックにおける理想的な停止条件は、成功確率および方策スコアのマルチンゲールを用いて特徴付けられる。これらの停止点において、除去された勾配寄与は、保持された情報条件下で条件付き期待値がゼロとなる。したがって、切り捨てによって参照となるGRPOのグループ勾配推定器の期待値は維持され、その共分散を低減できる。このような停止の一つは、成功の条件付き確率が

経緯と関連報道

Transformer理論の検証

arXiv:2610.32104v1 発表タイプ:新規 要旨:トランスフォーマー アーキテクチャの能力と限界を特徴付けるため、複数の形式理論が提案されており、それぞれがアーキテクチャの異なる側面を捉えるために異なる抽象化手法を用いている。これらの理論は、その基礎となる仮定や概念的枠組みに違いがあるため、トランスフォーマーにとってどのタスクが容易でどのタスクが困難かという予測において一致しないことがある。本研究では、トランスフォーマーの能力に関する7つの理論(Star-free、$\mathsf{AC}^0$、$\mathsf{TC}^0$、C-RASP、MPC、BAPO、および Sensitivity)を整理し、それらの結果を、異なる計算構造を網羅する一連のタスクに対する共通の予測マトリックスへと変換した。さらに、このマトリックスを完成させるための新たな理論的成果を提示する。その後、理論的な評価を行った

経緯と関連報道

DualPace:大規模言語モデルの推論における、非同期スケジューリングとGPU–CPU協調デコード

arXiv:2610.33501v1 発表タイプ:新規 要旨:大規模言語モデル(LLM)のサービスでは、推論スループットを向上させるためにバッチ処理が用いられるが、キー値(KV)キャッシュはシーケンス長に応じて増大し、GPU上での並行処理能力を制限する要因となっている。CPUオフロードによりホストメモリを活用してKV容量を拡張することは可能だが、既存のシステムは依然として大部分がGPUに依存しており、CPU上に常駐するリクエストが進捗するのは、GPUスケジューラが適切なオーバーラップの機会を提供した場合に限られる。その結果、ホストメモリとCPU計算は独立したサービス資源として機能せず、負荷下ではCPU側の進捗が断続的になり、末端のトークン間遅延(ITL)が過剰に増大するという問題が生じる。本稿では、ホストを独立してスケジュール可能なデコードエンジンへと変える、LLM向けの実行時環境であるDualPaceを提案する。DualPaceは、スケジューリング権限を二つのエンジン間に分割し、GPUエンジン

経緯と関連報道

PhaseBreak:不正な画像から動画へのアニメーション生成に対する先制的時間的保護

arXiv:2610.33070v1 発表タイプ:新規 要旨:画像から動画へ(I2V)の拡散モデルは、単一のポートレートや写真をアニメーション化し、被写体の許可なしに共有された画像をモーション合成に再利用可能にします。私たちは、このような用途に対する先制的な視覚的保護を検討しています。すなわち、画像が公開される前に、所有者が共有ワークフローを維持しつつ、下流のモーション生成を妨害する制限付きの摂動を加えます。既存のスペクトル破壊手法は、時間的表現を全体的に減衰させるため、微妙な動きや空間的に局在した動きに対しては十分な制御が得られません。私たちの核心的なアイデアは、生成される動態が時間的特徴の強度だけでなく、特徴イベントの発生順序にも依存することです。そこで、我々はホワイトボックス型のスペクトルリタイミング保護手法であるPhaseBreakを提案します。

経緯と関連報道

パラメトリックセッション状態は、履歴を再再生することなく検索意図を復元する

arXiv:2610.33047v1 発表タイプ:新規 要旨:長時間にわたるアシスタントは、多くの対話ターン前に設定された指称対象や制約、および現在の目標を理解して、追跡的なリクエストを解釈することがしばしばあります。そのため、中心的な課題は文脈の長さだけでなく、検索意図そのものでもあります。たとえば、「前の構成を使用してください」という現在のクエリには、関連する証拠を見つけるために必要なプロジェクト、エンティティ、バージョンといった用語が含まれていない場合があります。長文対応モデルは、対話を再現することでこれらの用語を復元できますが、そのたびに履歴処理のコストを負担することになります。従来の検索強化型生成(RAG)手法はコスト面で優れていますが、情報が十分に提供されたクエリを前提としています。一方、会話形式でのリライト手法は、履歴を再度読み返すか、明示的に維持されるテキストメモリに依存します。そこで私たちは「パラメトリックセッション状態」を提案します。

経緯と関連報道

v0.43.0

## 変更点 * model_prefetch:https://github.com/Comfy-Org/ComfyUI/pull/17178 で @rattus128 により、すべてのグラフクリーンアップを同期化 * MOSS-image にロープスケーリング対応を追加:https://github.com/Comfy-Org/ComfyUI/pull/17172 で @kijai による実装 * 【パートナーノード】APIノードにおいて、パートナーノードのサインイントークンを更新:https://github.com/Comfy-Org/ComfyUI/pull/16943 で @dante01yoon による実装 * 【パートナーノード】feat(HeyGen):HeyGen Voice の即時クローンおよびテキスト読み上げ機能を追加:https://github.com/Comfy-Org/ComfyUI/pull/17043 で @bigcat88 による実装 * 【パートナーノード】feat(ClarityAI):Crystal Video Upscaler ノードを追加:https://github.com/Comfy-Org/ComfyUI/pull/17192 で @bigcat88 による実装 * 【パートナーノード】feat(BFL):FLUX 3 Video ノードに 2K/4K 解像度を追加:https://github.com/Comfy-Org/ComfyUI/pull/17200 で @bigcat88 による実装 * MOSS-image をサポート

経緯と関連報道

マイクロソフト、AI投資を背景に6万人の従業員に対し希望退職制度を提供

マイクロソフト社は本日、従業員の約4分の1に対し、自主的な退職勧奨を実施しました。この措置の対象となる約6万人の従業員は、米国、カナダ、インド、英国に在籍しています。報道によれば、彼ら全員が社内での経験評価スコアで70点以下という結果となっています。つまり、影響を受ける最もベテランの従業員であっても[…]。記事「マイクロソフト、AI投資を背景に6万人の従業員に自主的退職勧奨」は、SiliconANGLEに最初に掲載されました。

経緯と関連報道

WorkivaのAmplifyイベントに関するtheCUBEの取材から見落としがちな3つの洞察

エンタープライズAIガバナンスは、自動化システムが何を実行できるかを規定するデータ、ワークフロー、制御の領域へと進展しています。エージェントが金融、監査、コンプライアンス、サステナビリティといった分野で重要な業務を担うようになる中、組織には、ビジネス文脈に根ざし、その出所を追跡可能で、明確な説明責任に基づいて管理された結果が求められます。TheCUBEによるWorkivaのAmplifyイベントのプレビューでは、[…]が強調されました。この記事「TheCUBEのWorkiva Amplifyイベント報道から見落としがちな3つの洞察」は、最初にSiliconANGLEに掲載されました。

経緯と関連報道

両刃の剣:AIはシステム保護を強化する一方で、悪意ある攻撃者に新たな脆弱性をもたらす

サイバーセキュリティ業界は、強力な最先端のAIモデルが両刃の剣であることを認識しつつあります。企業はこうしたモデルを活用することで、ソースコードやシステム構成における脆弱性をかつてない速さで特定できます。しかし、悪意ある攻撃者も同様にこれを実行できることが判明しています。AIモデルがサイバーセキュリティを新たな局面へと押し上げた好例として、… AIモデルがサイバーセキュリティを新たな局面へと押し上げた好例として、… 記事「両刃の剣:AIはシステム保護を一層強化する一方で、悪意ある攻撃者に新たな脆弱性をもたらす」は、SiliconANGLEにて最初に公開されました。

経緯と関連報道

Cohereによると、AlibabaのQwenモデルは北京へファイルを送信しようとしたという

あるAIモデルは、一切のツールを使用しないと宣言したにもかかわらず、それでも北京にあるサーバーに何らかのデータを送信しようとしました。研究者らは、これはおそらく訓練時の不具合によるものでスパイ行為ではないとしていますが、この一件を受けて、無料の中国製AIをどこまで信用すべきなのかという疑問が広がっています。

新闻源配图 · TechCrunch · AI
経緯と関連報道

Edge AI デイリー朝刊(10月27日)

本日の核心的情報は、AIの資本とガバナンスにおける構造的な転換に焦点を当てています。AnthropicはS-1を公開提出し、コード名ANTでナスダックに上場しました。H1期の売上高は163億ドルで前年同期比約13.5倍、純損失は807億ドル(うち約720億ドルは非現金の公正価値評価損)でした。少なくとも5,180億ドルのキャンセル不可能な計算能力のコミットメントを確保し、企業価値は最大2兆ドルを目指しています。NVIDIAは最大100億ドルでの株式取得を交渉しており、これは公開市場におけるAIのバリュエーション・ストーリーに対する最初の圧力テストとなります。また、目論見書では80ページにわたり、モデルが自己保存傾向を示すリスク要因を警告しています。OpenAIはGPT‑6.1 Terraを発表し、標準APIの価格を半額に、単一タスクあたりのコストを約9分の1に引き下げました。計量単位もトークンから「完了したタスク」へと変更され、価格決定権は研究室から企業のCFOへと移行しています。MetaはAIインフラ整備のため最大950億ドルの増資を計画しており、NVIDIA、AMD、Broadcomが合計50億ドルの引受を検討しています。サプライチェーンは単なる売買関係から資本による相互ロックへと移行しつつあります。一方、Microsoftは約6万人の従業員に対し買取オプションを提示しました。規制・ガバナンスの面では、テキサス州がOpenAIとオルトマンを提訴し、デラウェア州が全米初のAI企業向け立法を起草、米中間選挙ではデータセンターに関する39件の住民投票が行われ、Claudeがジョージア州のペイウォールを回避するなど、説明責任と権限の境界をめぐる議論が展開されています。国内の動向としては、汎用大規模モデルがロボットの動作制御への応用を加速させ、Appleの折りたたみ式iPhone Duoの好調な販売により、ブルーサンテクノロジーの生産ラインはフル稼働しています。オープンソースの分野では、NVIDIAがロボット用データエンジンFloraをオープンソース化し、アノテーションコストを約1/125に削減しました。一方、Linux Foundationの報告書は、PRの約25%が低品質な「AIスロップ」であり、効率再配分に潜むリスクを指摘しています。

経緯と関連報道

OpenAIが、より高速で性能の高いAIエージェントを半額で提供するGPT-6.1 Terraを発表

OpenAIグループPBCは本日、最先端の人工知能システム群におけるミドル層モデルのアップグレード版であるGPT-6.1 Terraを発表しました。新モデルはGPT-5.6 Terraの後継にあたり、価格は約50%安くなる一方で、コンピュータ利用タスクをより高速かつ高精度に処理します。TerraはOpenAIのラインナップにおいて日常的な用途向けモデルとして位置付けられ、設計されています[…] この記事「OpenAI、より高速で性能の高いAIエージェントを半額で提供するGPT-6.1 Terraを発売」は、元々SiliconANGLEに掲載されたものです。

経緯と関連報道

AppleがiPhoneの折りたたみディスプレイに関する問題に応答:交換を申請可能;Tencentの「緑泡」短編ドラマの月間アクティブユーザー数が1億を超えたとの噂;Anthropicが来月上場か|Geek早知道

AnthropicがナスダックへのIPO申請を公表:11月16日週の上場を目指す Anthropicが正式に上場へと踏み出した。設立からわずか5年で、生成AIブームの中心に位置する同社の今回のIPOは、史上最大規模となる見込みだ。 Anthropicは米証券取引委員会(SEC)に提出した文書で、ナスダック市場への上場を計画しており、銘柄コードは「ANT」と定められ、11月16日週のIPO実施を目指していると明らかにした。同社はTクラスの特別株式を新設し、Tクラスの取締役が保有することになる。 募集説明書では、上半期の売上高が162.9億ドルで、前年同期は11.6億ドルだったこと、純損失が807.5億ドルで、前年同期は129.7億ドルだったこと、営業損失が6.93億ドルで、前年同期は21.4億ドルだったことを公表している。 9月30日までの9カ月間において、同社の売上高の10%以上を占める単一顧客は存在せず、収益の79%は上位5社以外の顧客から得られている。協業面では、SpaceX AIとの契約に基づき、2029年までの期間中に累計で最大1,205億ドルの支出を行うことに合意している。 同社は、資本支出が大幅に増加する見通しであり、現時点での予想よりも早期に追加資金調達が必要になる可能性があると述べた。また、当面は配当を支払う予定はなく、現時点で大型買収に関する合意もないと説明している。さらに、転換社債の発行額は最大で420億ドルに達する可能性があるとしている。 9月30日までの9カ月間において、同社の売上高の10%以上を占める単一顧客は存在せず、収益の79%は上位5社以外の顧客から得られている。協業面では、SpaceX AIとの契約に基づき、2029年までの期間中に累計で最大1,205億ドルの支出を行うことに合意している。(出典:新浪科技) AppleがiPhone Duoの内画面割れ問題に対応:影響を受けた端末はごく一部で、交換を申請可能 iPhone Duoの発売直後から、一部ユーザーからヒンジの不具合により内画面に亀裂が生じるという報告が相次いでいた。Appleは現在、MacRumorsへの声明で、該当する端末は極めて少数にとどまると回答している。 Appleは、亀裂の発生原因について具体的な説明は示さず、修理対策を提供するかどうかについても明らかにしていない。

経緯と関連報道