なぜAIはミレニアム問題を解けるのに、RSIにはまだ対応できないのか|Hao好聊トレンド
テンセント・テクノロジー傘下のペンギン・インテリジェンスによる先端技術論文解説コラム。コードとビジネスの交差点において、AIの確実性を探る。 文|博陽 編集|徐青陽 最近しばらくの間、理論数学や物理学分野のニュースだけを見ていると、まるで……という印象を受けます。
見出し・要約・本文から、情報のつながりを探します。
テンセント・テクノロジー傘下のペンギン・インテリジェンスによる先端技術論文解説コラム。コードとビジネスの交差点において、AIの確実性を探る。 文|博陽 編集|徐青陽 最近しばらくの間、理論数学や物理学分野のニュースだけを見ていると、まるで……という印象を受けます。
arXiv:2610.33065v1 発表タイプ:新規 要旨:頭皮上の記録はノイズが多く、空間的に粗く、試行間および被験者間で変動するため、EEGによる視覚デコーディングは依然として困難である。多くのシステムでは、各試行を高密度な画像埋め込みに位置合わせしているが、その埋め込みには意味内容と、インスタンス固有のテクスチャ・姿勢・背景が混在している。このような手法では、EEGには存在しない詳細情報を必要とする上、予測を支える視覚的要因について明示的な説明を提供していない。そこで私たちは、共有可能な学習可能な視覚コードブックに基づくソフトな合成としてEEG–画像の位置合わせを再定式化する、プロトタイプ媒介型フレームワークである\textbf{ProtoEEG}を提案する。学習可能なEEGエンコーダーと固定された視覚教師が、同一の$K=64$個のプロトタイプに対する割り当て分布を生成し、それらの重み付けされた再構成が構造化された表現を形成する。
arXiv:2610.33005v1 発表タイプ:新規 要旨:エネルギー基盤モデルは、ドメイン固有のタスクにおいて有望な特性を示しているものの、汎用的なシナリオのモデリングには依然として課題が残っています。このギャップを埋めるため、私たちは基礎的な言語モデリング向けにエネルギー駆動型モデル(ESM)を設計しました。ESMは、エネルギーによる探索を活用してトークン生成を精緻化するため、エネルギー駆動とトークン生成を単一のアーキテクチャに統合しています。具体的には、まずエネルギー景観上での潜在状態を最適化し、次いでその精緻化された潜在状態を用いてトークン生成を行います。大規模コーパス上でこのようなエネルギー駆動型の事前学習を実施することで、ESMは一般的に有効なエネルギー景観を学習し、好ましいトークンが低いエネルギー値に対応することを確立します。ESMのスケーリング特性を検討するため、私たちはESMを事前学習させます
arXiv:2610.32103v1 発表タイプ:新規 要旨:創薬において、リード最適化では、透過性の向上や毒性の低減といった相反する特性を改善しつつ、リードの活性を損なう可能性のあるスケルトン変更を抑制しなければなりません。C-MORAL などの強化学習ベースのポストトレーニング手法は、分子言語モデルを微調整することで、関心のある目的に対して分子リードを直接最適化するというアプローチを採用していますが、これには高価なタスク固有のデータセットが必要であり、多目的最適化(MOO)の実現にも課題が伴います。我々は、事前学習済みモデルには、ゼロショット生成では効率的に到達できない有用な分子編集がすでに含まれている可能性があると主張します。ゼロショット生成の探索能力の限界に着目し、我々は効率的なメトロポリス・ハスティングス探索戦略を開発し、ベット
arXiv:2610.32179v1 発表タイプ:新規 要旨:ニューラルアーキテクチャ探索(NAS)はコストが高額であるが、タスク間の転移により過去のタスクから得た知識を再利用することでコストを削減できる。しかし、既存手法はスパースな探索履歴やタスク固有の転移失敗に苦慮している。本研究では、チャンピオンベースの初期化とペアワイズランカーによる共同事前学習を通じて、スパースなソースログとゼロコストの代理モデルを組み合わせるリスクロバストな戦略を提案する。TransNAS-Bench-101において、本提案は深刻な最悪ケースでの失敗を緩和し、マイクロ自動符号化における最悪10%順位を290から43へ、マクロ室内レイアウトにおける最悪10%順位を465から45へと低下させた。さらに、13種類のセルスペースターゲット全体で、平均性能および最悪ケース性能の両面において、代理モデルのみを使用したランカーを10ターゲットで上回りつつ、競争力のある平均性能も維持した。
arXiv:2610.32104v1 発表タイプ:新規 要旨:トランスフォーマー アーキテクチャの能力と限界を特徴付けるため、複数の形式理論が提案されており、それぞれがアーキテクチャの異なる側面を捉えるために異なる抽象化手法を用いている。これらの理論は、その基礎となる仮定や概念的枠組みに違いがあるため、トランスフォーマーにとってどのタスクが容易でどのタスクが困難かという予測において一致しないことがある。本研究では、トランスフォーマーの能力に関する7つの理論(Star-free、$\mathsf{AC}^0$、$\mathsf{TC}^0$、C-RASP、MPC、BAPO、および Sensitivity)を整理し、それらの結果を、異なる計算構造を網羅する一連のタスクに対する共通の予測マトリックスへと変換した。さらに、このマトリックスを完成させるための新たな理論的成果を提示する。その後、理論的な評価を行った
機械にとって「夜」とは何でしょうか?
arXiv:2610.31726v1 発表タイプ:新規 要旨:効果的な人間と機械のチーム編成には、予測不可能な人間のパートナーと協調できるエージェントが必要である。実際の人間からのフィードバックや大規模な行動データセットを用いた強化学習はコストが高く、一方でシミュレーションのみによる訓練では人工的な慣例に過剰適合し、現実の人間とのゼロショット協調において失敗してしまう。我々は、認知的に制約されたパートナーに対してチーム編成エージェントを訓練するためのフレームワークを提案する。このフレームワークでは、報酬設計や過去の訓練チェックポイントではなく、人間の生理学的文献に基づく手続き上の制約(特に反応遅延や知覚限界)から生じる多様性を持つシミュレートされたパートナーを用いる。改良版のルナランダー環境において、これらのパートナーはより…のように振る舞うことを示す予備的な証拠を報告する。
arXiv:2610.32241v1 発表タイプ:新規 要旨:従来のヒューリスティック手法は、空間利用率やレイアウトのコンパクトさといった3Dビンパッキングの核心的な目標において、人為的に設計されたルールベースの論理に依存することで成熟した経験を蓄積してきました。しかし、一般化能力や動的シナリオへの適応性には明らかな限界が見られます。一方、強化学習の空間探索能力と拡散学習のデータ分布モデリング能力を統合した拡散強化学習は、行動分布のモデリングや意思決定の遵守制約の面で一定の進展を遂げています。それでもなお、3Dビンパッキングにおける空間的トポロジー構造の十分な把握や、レイアウト最適化能力の限定といった課題が残されています。
arXiv:2610.32583v1 発表タイプ:クロス 要旨:マルチエージェント確定的GLP(madGLP)は、非同期メッセージ送信のみで通信するエージェントとしてグラスルーツ論理プログラム(GLP)を実行し、公平な配信を前提としています。すなわち、送信されたすべてのメッセージは最終的に必ず配信されます。各エージェントは個人のスマートフォン上で動作し、その識別子は本人の公開鍵によって指定されます。グラスルーツ型プラットフォームは、ネットワーク以外にグローバルなリソースを必要としないため、エージェント間の通信はBluetooth Low Energyやローカルネットワーク、さらにはNAT越しにインターネット経由で、誰でも運用可能なランデブーサーバーを通じて行われなければなりません。このようなネットワークがmadGLPに対して何を要求し、またネットワーク自身がプラットフォームに対して何を要求するのかについては、これまで明確に定義されていませんでした。そこで、私たちはmadGLPの下層に位置するネットワーキング層を規定します。GLPで実現可能なことはすべてGLPで実現されるため、この層が提供するのはあくまで
GRASPは、学習された動力学(「世界モデル」)を対象とした新しい勾配ベースの計画手法であり、以下の3つの工夫により長時間スパンの計画を実用的にします:(1) 軌跡を仮想状態に変換することで、最適化を時間軸全体にわたって並列化し、(2) 探索のために状態の反復計算に直接確率性を導入し、(3) 勾配を再構成することで、高次元の視覚モデルによる脆弱な「状態入力」勾配を回避しつつ、行動に対して明確な信号が得られるようにします。大規模で学習された世界モデルは、ますます高い能力を備えるようになっています。それらは、高次元の視覚空間において未来の観測値の長い時系列を予測でき、数年前には想像すら困難だった方法でタスク間の汎用性を発揮します。これらのモデルがスケールアップするにつれ、もはや特定タスク向けの予測器というより、汎用的なシミュレーターへと姿を変えつつあります。しかし、そのような強力な
複雑な機械学習システム、とりわけ大規模言語モデル(LLMs)の挙動を理解することは、現代の人工知能において極めて重要な課題です。解釈可能性に関する研究は、モデル開発者や影響を受ける人々にとって意思決定プロセスをより透明にすることを目指しており、より安全で信頼性の高いAIへの一歩となります。包括的な理解を得るためには、以下の異なる視点からこれらのシステムを分析できます:予測を引き起こす具体的な入力特徴を特定する特徴帰属(Lundberg & Lee, 2017;Ribeiro et al., 2022)、モデルの挙動を影響力のある学習例と結びつけるデータ帰属(Koh & Liang, 2017;Ilyas et al., 2022)、そして内部構成要素の機能を詳細に解析する機構的解釈可能性(Conmy et al., 2023;Sharkey et al.