本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

医療質問応答における摂動ベースのデータ選択

arXiv:2610.33440v1 公告タイプ:新規 要旨:既存の質問応答データベースから医療用言語モデルを適応させる際、コンパクトな学習サブセットを選択することは重要なステップである。本研究では、最終層表現に対するガウス分布による摂動から導かれる二つの指標—予測変化頻度と非フリッピングマージン収縮—を用いた摂動ベースのデータ選択手法を検討する。共通のエントロピーによる事前フィルタリングを経た後、表現感度優先順位付け(RSP)は自動的な平方平均スケーリングによりこれらの指標を組み合わせる一方、RSP-Dropは収縮のみに基づいて候補をランク付けする。両手法とも、選択時には質問と回答選択肢のみを用いる。我々は、MedGemma-4Bを用い、保持セットのサンプル数が64、128、256の各条件下で、5つの医療質問応答データセットに対して評価を行った。主なサンプル数128の条件下では、

経緯と関連報道

人々と大規模言語モデルにおける形態に基づく言語生産性の検証

arXiv:2610.33433v1 公告タイプ:新規 要旨:新しい文脈での単語の使用に見られる言語生産性は、人間の言語に関する最も顕著な事実の一つである。しかし、このような生産性を可能にする知識がどれほど抽象的なのかについては、依然として不明である。本研究では、成功した一般化が形態に基づく情報に依存する文脈において、人々と計算言語モデルの言語生産性を比較する。特に、能動態で学習した新しい動詞を受動態の文脈へ拡張するという課題に焦点を当てる。その結果、人々は、たとえその新しい動詞に妥当な意味を付与できない場合であっても、言語形態に関する抽象的な一般化と整合する形で、能動態から受動態への用法を拡張することが示された。一方で、大規模言語モデルは、既存の動詞に類似した意味を持つ場合にのみ、この拡張に成功した。

経緯と関連報道