AI ニュースを検索

機械学習用原子間ポテンシャルにおけるTensor Coreの性能を引き出す

原子論的シミュレーションは、化学反応や相転移から機械的破壊に至るまで、分子や材料がどのように振る舞うかを研究者が理解するのに役立ちます。これらの...

トークン信頼度は単なるチェーン長にすぎないのか？推論トレースに対する信号処理的検証

arXiv:2610.36709v1 発表タイプ：新規 要旨：推論型言語モデルは、長い思考の連鎖を書き出すことで数学問題に解答し、問題ごとに多数の連鎖をサンプリングして多数決を取ることで、生成テキスト量が大幅に増えるというコストを伴いながら精度を向上させている。このコストを削減する一般的な手法として、モデルが各トークンを生成する際の信頼度に基づいて各連鎖をスコアリングする方法がある。ここでトークンとは、単語または単語の一部を指す。この手法では、2048トークンの移動平均を計算し、その平均値が最も低い連鎖を保持または停止する。私たちは、トークンごとに記録された信頼度を、音声やラジオにおける信号と同様の意味で捉え、スペクトル解析や急激な変化を検出する統計検定などの標準的な信号処理手法を用いてこの手法を評価した。私たちは、以下のデータセットから500問の各問題について16本の連鎖をサンプリングした。

新たな研究により、オープンブックの評価は主に読書行動を測定するものであり、知識の蓄積を測るものではないことが明らかになった

2026年10月24日に公開されたarXiv論文（2610.31017v1）は、文書レベルのLoRAアダプター評価において、オープンブックスコアリングはアダプターが対象文書の知識を実際に符号化しているかどうかよりも、モデルの即時読解能力に強く依存していることを示していると指摘している。ランダムなアダプターは、オープンブックタスクにおいて専門家向けアダプターの優位性の82％を再現できるが、ソーステキストを持たないクローズタスクではわずか2％しか再現できず、統計的にゼロと区別できないという結果となった。

注目する理由：本研究は、系統的な制御実験（Wikipedia記事150件、Llama-3.1-8B-Instructモデル、二重タスク比較）を通じて、現在のオープン書評価パラダイムの根本的な限界を明らかにした。すなわち、この手法では「読むこと」と「記憶すること」を効果的に区別できず、知識編集型および検索型アダプターの実際の有用性に対して方法論上の課題をもたらしている。さらに、論文では「一見きれいだが誤った結果」を招く静かなエラーが4つ報告されており、再現性に関するリスクが浮き彫りになっている。

低資源言語における研究の進捗と言語的包摂の測定

arXiv:2610.30296v1 発表タイプ：新規 要旨：大規模言語モデル（LLMs）は、低資源言語および多言語NLPに関する研究を加速させてきたが、公平な研究環境の実現にどの程度寄与しているかについては未だ明らかになっていない。本研究では、2020年から2025年にかけて公開された査読付きオープンアクセス論文1,158件を対象に、低資源言語（LRLs）への研究関心や、言語・話者集団間の代表性を分析した。出版数以外の観点から言語的包摂を評価するため、研究成長、代表性拡充、代表性継続性、分布的公正性の4つの次元で言語的包摂を測定する多次元フレームワーク「言語的包摂フレームワーク（LIF）」を提案する。年間の論文数は52件から415件へと5.4倍に増加した一方で、ACLアンソロジーにおける