見出し・要約・本文から、情報のつながりを探します。
arXiv:2610.36524v1 公告タイプ：新規 要旨：制御された記号入力は、自然言語による証拠から言語モデルの意思決定に影響を与える注意ヘッドを明らかにすることができるのか？我々は、制御された証拠集約（CEA）を提案する。これは、他の部分が固定されたプロンプトにおいて、二つの記号の出現回数と順序を変化させ、凍結されたトランスフォーマーが二つの回答トークンの間で示す選好の変化を測定する手法である。選好は両者のロジット差によって測定され、プロンプト自体には正解が指定されていない。バランスド・ユーティリティ・カウサル・セレクション（BUC）は、各ヘッドの出力を除去した際にカウント効果がどの程度消失するか、またカウント条件間で平均出力を補間することで両方向に効果がどの程度回復するかを同時に評価することにより、コンパクトなヘッド集合を特定する。さらに、ヘッドの帰属と介入との間に結びつく条件付き上限を導出する。
arXiv:2610.36668v1 公告タイプ：新規 要旨：アッシュの同調実験は、近年、大型言語モデル（LLMs）における同調性を測定する手法として大きな注目を集めています。これまでの研究では、主に大型言語モデルにおける同調性の実証に焦点が当てられてきましたが、本研究ではこのアプローチにさらに定量的な視点を加えています。具体的には、フロンティアの大型言語モデルに対して一連の質問を提示してサンプリングを行うのではなく、単一の質問を繰り返しサンプリングし、大型言語モデルの確率的特性を活用して回答の分布を生成します。これにより、モデルに人工的に作られたコンセンサスを提示する前後の回答分布を比較することが可能となります。実験の結果、フロンティアの大型言語モデルが実際に同調性を示すことを確認し、先行研究を裏付けるとともに、分布間の比較を通じて新たな知見を提供しています。
闫德利 Tencent社のシニアエキスパート LLMは確率モデルであり、因果関係を理解していない。大規模言語モデル（LLM）は言語を理解しているわけではなく、あくまで次のトークンを予測するだけである。それは単調な「言葉の連想ゲーム」を行う機械にすぎず、一歩進むたびにその都度計算を行い、後戻りはしない。LLMは本質的に確率モデルであり、統計的な共起構造から「何がしばしば何と一緒に現れるか」を学習し、出力されるのは「通常そうである」という結果に過ぎない。なぜそうなるのかという「理由」は理解していない……
Claude Mods は、Anthropic が提供する Claude Code のプログラマブルなプラグインシステムで、『Attention Interface』の初期形態を示しています。これは、従来の機械向けエージェント実行時フレームワーク（agent harness）から、人間の注意力に焦点を当てたカスタマイズ可能なインタラクション層へと転換したものです。ユーザーは TypeScript や JS を用いて Mods を作成したり、自然言語で Claude に自動生成を指示したりすることで、いつ中断されるか、どのような内容を閲覧するか、どのような意思決定を行うかを自在に制御できます。
Claude Mods は、Anthropic が提供する開発者向けのプログラマブルなプラグインシステムであり、エージェントハーネスがマシン側のインターフェースから人間側のインターフェース――すなわち「アテンション・インターフェース」（Attention Interface）――へと移行したことを示しています。これにより、ユーザーは TypeScript／JavaScript を用いて Claude Code の動作やレンダリング、インタラクションロジックをカスタマイズし、人間とAIが共同でワークフローを設計できるようになります。この仕組みは、You Should Know などの組み込み機能にもすでに活用されており、ユーザーによる独自の構築や、Claude の支援によるプラグインの生成もサポートしています。
