本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

短時間フーリエ変換の並列実装に関する比較研究

arXiv:2610.38069v1 公開タイプ:新規 要旨:短時間フーリエ変換(STFT)は、長時間信号の短い時間窓に対するフーリエ変換を計算し、周波数が時間とともにどのように変化するかを特徴づける手法である。フーリエ変換アルゴリズム、特に高速フーリエ変換(FFT)アルゴリズムは、並列計算を活用するために十分に発展しているが、短時間フーリエ変換の並列アルゴリズムの性能に関する研究はまだ限られている。本研究では、FFTベースのアルゴリズムと準並列型のフィードフォワードアルゴリズムという二つの並列短時間フーリエ変換アルゴリズムを実装し、相互に比較・分析した。その結果、並行度が低い環境下では準並列型アルゴリズムの方が実行時間が短いものの、…

経緯と関連報道

ヤコビアンレンズの数学的理論

arXiv:2610.31955v1 発表タイプ:新規 要旨:Anthropicによる最近の研究では、ジャコビアンレンズ(J-lens、Gurneeら、2026年)と呼ばれる新たな解釈可能性ツールが導入されました。この手法は、最先端の言語モデルの隠れ状態において、作業記憶に類似した表現を想起させる性質を持つ線形方向を特定しました。しかし、こうした特徴がJ-lensによって検出可能となるメカニズム的特性については依然として不明です。そこで本研究では、J-lensの数学的理論を提案し、同理論が特に一貫性のある特徴――すなわち、空間的に一貫したリヤプノフモードのように働く方向――を優先的に識別することを示します。これらの方向に沿った微小な摂動は層を跨いで増幅し、トークン位置間でほぼ一定に保たれ、異なる文脈間でも一貫しています。一方でw

新闻源配图 · arXiv cs.LG
経緯と関連報道

Waypoint:CPU向けGEMMの解析的モデリング

arXiv:2610.34914v1 発表タイプ:新規 要旨:高性能な一般行列乗算(GEMM)実装は、ピーク性能を達成するために、GEMMを慎重に選定されたタイルに分割することに依存しています。本稿では、特定のハードウェアおよび入力行列の形状に対して最適なタイルサイズを自動的に特定する新しい解析モデルであるWaypointを提案します。Waypointは、メモリ階層との相互作用、命令レベルの並列性、マルチスレッド処理など、あらゆるアーキテクチャ上の影響を捉えることで、与えられたタイル選択における達成可能な性能を推定します。この推定値を指標として用い、考えられるタイルサイズの空間を探索し、性能を最大化するものを特定します。さらに、Waypointはハードウェア設計者が実験的なハードウェア最適化に対する現実的な性能を見積もるのにも役立ちます。

経緯と関連報道

状態空間符号化による線形時間コンテキスト圧縮

arXiv:2610.33006v1 発表タイプ:新規 要旨:Transformerベースの大型言語モデル(LLMs)は、コンテキストサイズが増加するにつれて計算負荷とメモリ消費が大幅に増大するため、推論前にコンテキストをより短い表現に圧縮する手法が求められています。既存のソフトプロンプト圧縮手法は、通常、対象モデルと同じTransformerバックボーンを用いており、圧縮表現の生成には大きなレイテンシオーバーヘッドが生じます。このため、これらの手法は、コンテキストを一度圧縮して多数のクエリで再利用するオフライン環境に限定されています。私たちは、Mamba状態空間モデル(SSM)に基づくプラグアンドプレイ型のオンラインコンテキスト圧縮器「Boa Compressor」を提案します。これは任意長のコンテキストを単一の線形時間のパスで符号化し、その結果得られた表現を基に…

経緯と関連報道

証拠に基づく直感:マルチモーダルエージェントのための適応型デュアルメモリ

arXiv:2610.33019v1 発表タイプ:新規 要旨:マルチモーダルエージェントが持続的な相互作用を行う際、長期記憶は細粒度の証拠の想起と、全体的理解のための内面化された解釈という、二つの明確でありながら補完的な機能を果たす。エピソード記憶と潜在記憶はそれぞれ、明示的な履歴記録と内面化された経験を通じてこれらの要求に対応しているものの、エピソード記憶における証拠の網羅性と統合の限界、および潜在記憶における事実の基盤形成の限界により、いずれのパラダイムだけではタスク間で多様な記憶特性を十分に捉えることはできない。このギャップを埋めるために、我々はデュアルメモリフレームワークを提案する。これは、モデル固有の潜在記憶を直感的な事前分布として統合し、同時に複数インデックスを持つエピソード記憶を用いて、検索条件に基づく共同アライメントによって正確な証拠の再構築を実現するものである。At i

新闻源配图 · arXiv cs.CV
経緯と関連報道

パラメトリックセッション状態は、履歴を再再生することなく検索意図を復元する

arXiv:2610.33047v1 発表タイプ:新規 要旨:長時間にわたるアシスタントは、多くの対話ターン前に設定された指称対象や制約、および現在の目標を理解して、追跡的なリクエストを解釈することがしばしばあります。そのため、中心的な課題は文脈の長さだけでなく、検索意図そのものでもあります。たとえば、「前の構成を使用してください」という現在のクエリには、関連する証拠を見つけるために必要なプロジェクト、エンティティ、バージョンといった用語が含まれていない場合があります。長文対応モデルは、対話を再現することでこれらの用語を復元できますが、そのたびに履歴処理のコストを負担することになります。従来の検索強化型生成(RAG)手法はコスト面で優れていますが、情報が十分に提供されたクエリを前提としています。一方、会話形式でのリライト手法は、履歴を再度読み返すか、明示的に維持されるテキストメモリに依存します。そこで私たちは「パラメトリックセッション状態」を提案します。

経緯と関連報道

研究では、Delta N-gram を提案した:言語モデルのネイティブなN元文法表に対する前方のみの持続的書き込み手法

2026年10月24日、arXivは論文arXiv:2610.31125v1を公開し、Delta N-gram——事前学習済みN-gram表T⁰を変更せず、前方伝播のみで疎な増分パッチΔを書き込む新しいメカニズム——を提案し、効率的かつ可逆的な継続的記憶更新を実現することを示した。

Delta N-gram: Forward-Only Continual Writing into a Language Model's Native N-gram Memory

注目する理由:本研究は、継続学習におけるモデルの基礎パラメータの変動が大きいという課題に対し、構造が軽量(4.1Mパラメータ)、計算が効率的(純粋な前方伝播)、完全に可逆的(Δをクリアすれば元のモデルに戻る)な記憶強化パスを提案し、Qwen3.8-Flash-Nextなどのモデル上で、文書特異性と干渉耐性の向上を実証しました。これは最先端の信頼性あるAIシステムに関する研究です。

経緯と関連報道

研究では、政治的論争言説における非明示的推論(エンティメ)の識別に関するアノテーション上の意見対立に対処するための新たな評価手法とモデルを提案している

本論文は、ワクチン接種および移民に関するトゥイートデータ(各投稿は5人のアノテーターによって独立してラベル付けされている)を基に、既存のファインチューニングモデルがエンティメム検出タスクにおいてF1スコアが常に約0.67で頭打ちとなることを明らかにした。これを受け、著者らは単一ラベルによる評価パラダイムを放棄し、アノテーターの意見分布を捉える新たな指標を採用するとともに、その分布を直接予測できるモデルを設計することで、F1スコアを低下させることなく人間の判断の相違をより適切に捉えられるよう提案している。

Interpretive Variation and Discourse Structure in Detecting Enthymemes in Controversial Political Discourse

注目する理由:本論文は、NLP分野で長らく見過ごされてきた「アノテーター間の意見相違こそが本質的な特徴である」という現実に正面から向き合っている――特に政治的に敏感な文脈においては、エンティメの識別は主観的推論に大きく依存する。その方法論上の転換(点予測から分布予測への移行)と、言説構造の限界を実証的に明らかにした点は、コンテンツ審査システムの設計に対して明確な警鐘を鳴らしている:多数決に基づいて学習させたモデルは、深い文脈推論を要する隠れた論証を体系的に見落とすおそれがある。

経緯と関連報道