見出し・要約・本文から、情報のつながりを探します。
arXiv:2610.37859v1 発表タイプ：新規 要旨：言語モデルエージェントは、文脈における自然言語から学習する能力において、従来の知能システムとは根本的に異なります。この能力により、エージェントはフィードバックに応じて自身の回答を反復的に改善することが可能となり、これは現代のエージェント型ワークフローにおいて広く見られる動作様式です。しかし、コミュニティでは主にPass@1やPass@Kといった指標でモデルを評価しており、それらの指標では、エージェントが過去の試行に対するフィードバックをどのように活用しているかを捉えることはできません。そこで私たちは、Seq@Kという自然な評価プロトコルを提案します。これは、各前の試行が失敗した後にフィードバックを受け取り、K回の逐次的な試行のうちに問題を解決できるかどうかを測定するものです。長期的な計画を検討する多段階のエージェントベンチマークとは異なり、Seq@Kは、フィードバックによる改善という核心的な能力を単独で抽出し、形式化しています。
arXiv:2610.33258v1 発表タイプ：新規 要旨：コンテンツモデレーションは、何十億ものアイテムに対して、最先端のLLMを個々の投稿に適用するのは経済的に非現実的である規模で、段階的かつ議論の多い人間の判断をバイナリ的な行為（掲示のまま／削除）へと圧縮します。新たな種類の凍結型「System One」モデルは、1回あたり約0.000025米ドル、処理時間約100ミリ秒で、テキストではなくタイプ付き・校正済みの意思決定を返します。私たちは、そのようなモデルの一つについて、人間がラベル付けした142,658件のコメントを対象とした初の独立審査を実施し、共有プローブセット上で14の最先端推論モデル（GPT-5.x、Claude、Gemini 3、およびGrokファミリー）と比較評価を行いました。二つの重要な発見が際立ちます。第一に、この安価なモデルは精度面で競争力があり、ゼロショット分類のAUROC値（0.83）は統計的に有意な差異が認められず（ペアドブートストラップ、n=56；等価性を棄却できない結果、つまり
arXiv:2610.33004v1 発表タイプ：新規 要旨：光学文字認識（OCR）は歴史的アーカイブのデジタル化において不可欠であるが、文字誤り率（CER）などの標準的な評価指標だけでは、氏名や日付、識別子といった有意義な情報が確実に保持されているかどうかを必ずしも反映しない。本研究では、歴史文書におけるOCR品質を評価するための補完的な視点として、OCRエラーのエンティティレベルでの分析を検討する。公開されているBerruttiアーカイブの175件の文書から構成されるベンチマークを用い、受理後に公開予定の手動でアノテーションされた5,209件のエンティティ言及を追加することで、逐次認識型OCRシステム、OCR専用のビジョン・ランゲージモデル、および汎用のビジョン・ランゲージモデルを比較する。全体的な転写精度にとどまらず
arXiv:2610.32114v1 公表タイプ：新規 要旨：AIアライメントの進展を加速する一つの手法は、アライメント研究そのものの一部を自動化することである。そのためには、研究提案における欠陥の特定や、提案された実験が意図した主張を支持するかどうかの評価といった、監督が困難な研究課題に対しても信頼性高く機能するシステムが必要となる。この能力を評価するため、我々はTampered MLを導入する。これは、公開されている機械学習論文から再構成された実験提案と、目的とした方法論的欠陥を導入した最小限に編集された対照案からなる、1,858組の項目ペアからなるベンチマークである。モデルは、提示順序に関わらず、より方法論的に妥当な提案を識別しなければならない。層化抽出サンプルに基づく人間による検証研究では、全体の86%が…
