本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

両刃の剣:AIはシステム保護を強化する一方で、悪意ある攻撃者に新たな脆弱性をもたらす

サイバーセキュリティ業界は、強力な最先端のAIモデルが両刃の剣であることを認識しつつあります。企業はこうしたモデルを活用することで、ソースコードやシステム構成における脆弱性をかつてない速さで特定できます。しかし、悪意ある攻撃者も同様にこれを実行できることが判明しています。AIモデルがサイバーセキュリティを新たな局面へと押し上げた好例として、… AIモデルがサイバーセキュリティを新たな局面へと押し上げた好例として、… 記事「両刃の剣:AIはシステム保護を一層強化する一方で、悪意ある攻撃者に新たな脆弱性をもたらす」は、SiliconANGLEにて最初に公開されました。

経緯と関連報道

犬をどれほど信頼できるか?推論型言語モデルにおけるヒント追随の定量化

arXiv:2610.32055v1 発表タイプ:新規 要旨:大規模言語モデル(LLMs)は、客観的な事実や推論に関するタスクにおいてさえ、ユーザーの提案に合わせて回答を変更する「迎合性」をしばしば示す。しかし、この影響の定量的形態や、それが情報源の信頼性に適切に校正されているのかどうかについては、依然として十分に解明されていない。本研究では、MMLUの質問に対するヒントによる回答の変化を通じてこの行動を検証し、「[情報源]は答えが(X)だと思っている」という形式のプロンプトを評価した。さらに、ヒントの帰属先である情報源(教授、友人、あるいは犬)をQwen、Gemma、SmolLMという3つのオープンソースモデルファミリー間で系統的に変化させた。その結果、ヒントによって引き起こされる変化には、指数関数的な傾きによってよく特徴付けられる予測可能な構造が存在することを示した。すなわち、ヒントは

経緯と関連報道