AI ニュースを検索

解説を読まずにスコアリングを行う：自動解釈可能性評価における構造的ショートカット

arXiv:2610.37676v1 公表タイプ：新規 要旨：自動解釈可能性は、スパースオートエンコーダー（SAE）の特徴について、評価例に対してその特徴がどの位置で活性化するかをトークンごとに予測させたり、マークされたトークンがその特徴に適合しているかどうかを判定させたりすることで、解説を評価します。我々は、評価データの標準的な処理パイプラインのみを用いても、解説を読まないままスコアリングが可能であることを示しました。Neuronpediaに保存されているGPT-2 smallモデルのランダムな500個の特徴に対するファジング実行において、活性化した例の91.3％が中心トークン上でピークを持つように切り取られており、さらに中心トークンがマークされていれば「はい」と判定するルールは、パイプラインのコードから再構築されたマークに基づいて計算した結果、保存済みのLLMスコアラーの0.838に対し、バランスのとれた精度0.979を達成しています。一方、マーク数のみを参照するルールでは0.969を記録しました。T

シーケンス学習ループ - 第960号：先週のAIインフラストラクチャ

DeepSeek、Google、NVIDIAがエージェントスタックを構築

スリープフレームワーク：継続学習においてLLMが知識を保持するための新たな手法

教育イノベーション

AIが認知症を抱える数百万人の生活における発見のスピードをどのように変えているか

今日、世界では5,700万人が認知症を抱えています。彼らを支援しようとする研究者たちにとって、障壁となっているのは努力不足ではなく、データが過剰であり、それを統合する専門家が不足していること、そして疾患の進行に追いつかないほどの発見のペースです。[…]における生物医学研究とAIに関するコンソーシアムは…

産業インテリジェンス：製造業の次の成長機会

各メーカーにはそれぞれ独自の産業用インテリジェンスがあります。その一部は文書化されており、もう一部は熟練作業者の経験知に依存しています。例えば、段取り替え後にラインを再稼働しようとする熟練オペレーターを想像してみてください。機械の設定も重要ですが、特定の材料がどのように挙動するか、前シフトで何が起きたか、そして一見些細に見える…

シーケンスナレッジ - 課題 #959：RSIの学習：モデルが自らの更新を指示する方法

SEALと持続的適応のアーキテクチャ

SAP、よりスマートでガバナンスされたJouleエージェントにより自律型企業戦略を推進

SAP SEは本日、開発者向けの年次カンファレンス「TechEd」において、人工知能に関する一連のイノベーションを発表しました。これにより、JouleアシスタントソリューションおよびBusiness AIプラットフォームが強化され、テーブル形式のデータに基づく基礎モデルも搭載されます。Joule Workの新たな機能は、AIエージェントの効率性向上とオープンプロトコルとの相互運用性を実現します。このうち、Model Context Protocol […] この記事の掲載元はSiliconANGLEで、SAPがよりスマートでガバナンスされたJouleエージェントにより自律型企業への取り組みを一段と推進していることを伝えています。

百度が、数百ページに及ぶ文書の解析向けのUnlimited OCR 2をオープンソース化

Baiduは、MITライセンスの3B規模のOCRモデルであるUnlimited OCR 2をリリースし、1回のリクエストで数百ページに及ぶ文書を解析できます。同モデルのSR-SWAアテンションにより、各ステップのデコーディングコストはほぼ一定に保たれ、MarathonDocBenchでは77.1点を獲得しています。この記事「Baidu、数百ページの文書解析向けUnlimited OCR 2をオープンソース化」は、MarkTechPostに最初に掲載されました。

歴史文書の文字起こしにおけるOCRシステムのエンティティ認識対応評価

arXiv:2610.33004v1 発表タイプ：新規 要旨：光学文字認識（OCR）は歴史的アーカイブのデジタル化において不可欠であるが、文字誤り率（CER）などの標準的な評価指標だけでは、氏名や日付、識別子といった有意義な情報が確実に保持されているかどうかを必ずしも反映しない。本研究では、歴史文書におけるOCR品質を評価するための補完的な視点として、OCRエラーのエンティティレベルでの分析を検討する。公開されているBerruttiアーカイブの175件の文書から構成されるベンチマークを用い、受理後に公開予定の手動でアノテーションされた5,209件のエンティティ言及を追加することで、逐次認識型OCRシステム、OCR専用のビジョン・ランゲージモデル、および汎用のビジョン・ランゲージモデルを比較する。全体的な転写精度にとどまらず

DualPace：大規模言語モデルの推論における、非同期スケジューリングとGPU–CPU協調デコード

arXiv:2610.33501v1 発表タイプ：新規 要旨：大規模言語モデル（LLM）のサービスでは、推論スループットを向上させるためにバッチ処理が用いられるが、キー値（KV）キャッシュはシーケンス長に応じて増大し、GPU上での並行処理能力を制限する要因となっている。CPUオフロードによりホストメモリを活用してKV容量を拡張することは可能だが、既存のシステムは依然として大部分がGPUに依存しており、CPU上に常駐するリクエストが進捗するのは、GPUスケジューラが適切なオーバーラップの機会を提供した場合に限られる。その結果、ホストメモリとCPU計算は独立したサービス資源として機能せず、負荷下ではCPU側の進捗が断続的になり、末端のトークン間遅延（ITL）が過剰に増大するという問題が生じる。本稿では、ホストを独立してスケジュール可能なデコードエンジンへと変える、LLM向けの実行時環境であるDualPaceを提案する。DualPaceは、スケジューリング権限を二つのエンジン間に分割し、GPUエンジン

アンソロピックのIPOは、終末論の入門書でもある

Anthropicは、「ループを閉じること」こそがAIの成功への最善の道であり、同時に人類に対する「存在論的」な脅威を招く要因だと考えている。

ケビン・ルースはAGIに取り憑かれている。あなたはどうしてそうならないのだろうか？

今日は、AI業界の最近の劇的な変革を詳述した新刊『The AGI Chronicles』の著者でジャーナリストのケビン・ルースとお話しします。ケビンは長年ニューヨーク・タイムズの記者を務め、人気ポッドキャスト「Hard Fork」のホストでもありました。しかし彼と、同番組の友人であるケイシー・ニュートンは、先日[…]を去りました。

このAIラジオ司会者はスペイン語を話し、移民を支援しています。そして、リスナーの心をつかんでいます

Coyotecはバイリンガルで、罵倒も織り交ぜながら、リスナーにICEからの身の守り方を伝える。その人気は、より多くの放送局が人工的な人格を試しているなかで高まっている。

誰を信頼すべきかを知るだけでは不十分：反復的多者間LLM交渉における信頼―合意のギャップ

arXiv:2610.31971v1 発表種別：新規 要旨：大規模言語モデル（LLM）エージェントは、個人や組織に代わって交渉に参加する機会が増加している一方で、特に反復的な多者間のやり取りにおいては、依然として操作のリスクにさらされています。従来のマルチエージェントシステムは、明示的な信頼および評判モデルによってこの課題に対処してきましたが、既存のLLMによる交渉に関する研究では、信頼をむしろ創発的な現象として扱うものが主流です。本研究では、過去の相互作用から有用な信頼評価を形成し、それを活用して将来の交渉結果を改善できるかどうかを検証します。さらに、繰り返し参加するエージェントが一連の交渉ゲームに携わる中で、一方の参加者が密かに合意成立を妨害しようとする、反復的かつ多者間・多問題型の交渉フレームワークを提案します。

LazyFlash：長文コンテキストの高速微調整のための前方は密集、後方は疎なアテンション

arXiv:2610.31911v1 発表タイプ：新規 要旨：大規模言語モデル（LLMs）がますます長いシーケンスを処理するにつれ、アテンションは主要な計算上のボトルネックとなっています。疎なアテンション手法は主に推論段階での利用を対象としていますが、多くの手法は依然として密集型で学習を行ったり、疎な学習に対応できなかったりします。さらに、その追加の複雑さにより、疎さを実際の実行時間の短縮へと結びつけることが難しく、結果として実用的には密集型アテンションが広く用いられています。本論文では、アテンションの学習は後方パスが支配的であるという観察に基づき、前方パスを完全に密集型に保ちつつ、後方パスを疎にするLazyFlashという手法を提案します。LazyFlashは前方パスを厳密に密集型に維持するため、学習済みモデルは従来の密集型モデルのままであり、vLLMなどの既存システムでも一切変更なしにサービス可能です。一方、後方パスについては、LazyFlashは勾配を…

低価格のスマートさと高価な野心：DeepInfer、DSX POD、そしてAIへの投資拡大

第958号『The Sequence Radar』では、推論ソフトウェア、モジュール型AI工場、そして企業向けAIへの投資を一堂に集めて考察しています。単回の推論コストが安くなったからといって、業界全体の総投資額が必ずしも低下するわけではありません。本稿は元記事をそのまま整理し、DeepSeekおよびNVIDIAの公式資料を用いて技術範囲と納品条件を補足しました。

baseVultra：新型のコンパクトな非線形循環ユニットによる候補生成で、小規模なシナリオにおいてLSTMおよびGRUを上回る性能を実現

arXivは2026年10月24日、論文arXiv:2610.30154v1を公開し、新型の循環ニューラルネットワークユニットであるbaseVultraを提案した。このモデルは、密集型の循環計算を単一のH×Hの候補生成行列に集約し、従来のゲート行列をO(H)の対角相互作用で置き換えることで、TinyShakespeareなどのコンパクトな設定においてその有効性を実証している。20万パラメータの単層構成において、検証損失は1.594に達し、同規模のLSTM（1.604）やGRU（1.616）よりも優れており、さらに密集計算のオーバーヘッドはGRUの約54%にとどまる。

注目する理由：本研究は、循環ニューラルネットワークのアーキテクチャ設計における新たな探索方向を示しており、ゲート主導型から候補生成主導型への転換を提案しています。実験では、文字レベルの言語モデリング（TinyShakespeare、text8）および形式言語のプローブタスク（Counterタスク）を網羅し、その結果は、隠れ状態の容量が制限されたコンパクトなシナリオ（例：H=16）において特に優位性が顕著であることを明確に示しており、技術的な位置付けと実証的根拠が一貫して裏付けられています。

研究は、異なる長さのコンテキストを持つモデル間で、証拠の位置に対する感度に体系的な差異が存在することを明らかにした

2026年10月24日付のarXivに掲載された実証研究（論文番号2610.31135v1）では、長文コンテキストにおける質問応答タスクにおいて、Transformer、状態空間モデル（state-space）、およびハイブリッドMambaアーキテクチャの位置バイアス現象を比較し、Transformerモデルは一般的に開始位置の証拠を活用する優位性を示す一方で、状態空間モデルにはその特性が欠如していることを明らかにしました。一方で、両モデルとも終端位置の証拠を好む傾向が見られました。

注目する理由：本研究は、制御された実験設計に基づき（干渉文書を9件固定し、ゴールド文書を1件ずつスライドさせる）、統一的な評価フレームワークの下で3種類の主流な序列モデリングアーキテクチャの位置感度を初めて横断的に比較しました。その結果、モデルの性能とアーキテクチャの種類、プロンプト工学、タスクの性質との間に強い相関関係が存在することを明らかにし、長文コンテキストを扱うAIシステムの設計および調整において直接的な参考価値を示しています。