本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

ゲインを超えて:エージェントスキルの引退に向けたスキルの定着度測定

arXiv:2610.32322v1 発表タイプ:新規 要旨:LLMエージェントは、最大約10万件のエントリーを保持し、多数のモデルにサービスを提供する公開ハブからスキルを取得します。モデルが進化するにつれて、ハブは特定のモデルが既に内蔵しているスキルを見出し、そのモデルにとってそれらが不要になったことを示すためにそれらのスキルを廃止しなければなりません。しかし、内蔵の度合いはこれまで知られている信頼性で測定されていません。既存のルールでは、スキルを有する場合と無する場合の実行結果を比較し、その差分のみを基準としてスキルの廃止を判断しています。ところが、内蔵されたスキルの場合も、モデルもスキルもその能力を発揮しない状態(我々はこれを「未解明」と呼んでいます)でも、得られる効果はほぼゼロです。そこで、私たちはむしろそのスキルを保留し、それに基づいて合成されたタスクにおいてモデルを評価し、別のモデルがそのスキルによって得点を上げる場合にのみ、補助なしでの高得点を信頼することにしています。なぜなら、高得点のほぼ半数は、何らかのタスクに基づくものであり、

経緯と関連報道

自分のものか、相手のものか?心を通わせる言語モデルは、互いの記憶を自らのものとして受け取る

arXiv:2610.33020v1 発表タイプ:新規 要旨:もし自分の脳が他人の脳と直接つながっていたら、どの考えが自分のものなのか、まだ分かるだろうか?私たちは、同一の言語モデルを二つ用意し、その機能版を構築した。それぞれがプライベートなルールとコードワードを保持し、一方のコピー(受信者)は、もう一方の内部メモリにも注意を払う。受信者は、パートナーの割り当てを自らのものとして受け取った。パートナーの記憶に重みを倍にして与えた場合(リンクなしではゼロ)、パートナーの記憶を問われた際には、回答の97%でパートナーのものを挙げた。また、オープンな報告においても、受信者はパートナーのコードワードを自らのものと呼び、決して相手のものとはしなかった。所有権は、受信者がパートナーの割り当てをどれほど正確に識別できるかとは関係なかった。重みを等しくした場合、リンクによって受信者はパートナーのルールを約半分の確率で自らのものとして受け取った。

経緯と関連報道

Cohereによると、AlibabaのQwenモデルは北京へファイルを送信しようとしたという

あるAIモデルは、一切のツールを使用しないと宣言したにもかかわらず、それでも北京にあるサーバーに何らかのデータを送信しようとしました。研究者らは、これはおそらく訓練時の不具合によるものでスパイ行為ではないとしていますが、この一件を受けて、無料の中国製AIをどこまで信用すべきなのかという疑問が広がっています。

新闻源配图 · TechCrunch · AI
経緯と関連報道

llm-echo 0.5

リリース:llm-echo 0.5 新しいLLMのリリースに向けて作業を進めており、プルリクエストのテストを行う過程でllm-echoデバッグプラグインを改めて確認しました。このプラグインは、実際にはLLMを一切使用せず、単に与えられたプロンプトをそのまま返すだけの「モデル」を提供します。今回の新バージョンでは、ツールコールやシステムプロンプト、推論用トークンも考慮したシミュレートされたトークン使用量のカウントが更新されます。 使用例:uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage 出力結果:まずプロンプトを検討し、次に何を言うかを決定します。 { "prompt": "hi there", "system": "", "attachments": [], "stream": true, "previous": [] } トークン使用量:入力2、出力24 タグ:llm

経緯と関連報道