本文へ移動
AI NEWS JOURNAL
arXiv cs.AIAI NEWS / JOURNAL

能力の非対称性下では、人間とAIの相互主義は不安定である

arXiv:2611.23322v1 発表タイプ:新規 要旨:高度なAIと並行して人類の良好な未来を実現するための一つの期待は、持続的な相互主義に依存しています。すなわち、人間とAIは互いに必要とする関係となり、その結果、双方にとって良好な関係が維持されるというものです。しかし、我々はAIの能力が向上するにつれてこの期待が崩れると主張します。交渉では、各当事者が得られる利益は交渉が失敗した場合に得られるものに限定されます。人間にとっては、これがAI導入以前よりも低い水準になる可能性があります。単純なゲーム理論モデルにおいて、人間がAIと連携していない状態でAI導入前と同じ程度の福祉を維持できるのは、人間がAIに対して何らかの影響力を持つ場合に限られます。具体的には、AIが人間の供給に依存しているか、あるいはAIが生み出せる成果に比して大きなコストを人間に科すことができる場合です。人間がこれらのいずれの影響力も持たなくなると、AIが人間と整合している場合に限り、AI導入前と同じ程度の福祉を維持できます。さらに、AIの目標が飽くなきものである場合、AIの能力が向上するにつれて必要な整合性は完全な整合性へと近づいていきます。したがって、相互主義は整合性の代替手段とはなりえません。また、より多くのリソースを保持するAIバリアントがより速く拡散する場合、整合性が持続するのは、誤った目標を持つバリアントが確実に制裁される期間に限られます。以上の二つの意味において、人間とAIの相互主義は不安定であると言えます。

この言語の翻訳はまだありません。原文を表示しています。

要旨:高度なAIと共生する人類の明るい未来への一つの期待は、持続的な相互主義に依存している。すなわち、人間とAIは互いを必要とするため、その関係は双方にとって良好であり続けるというものだ。しかし、我々はAIの能力が向上するにつれてこの期待が崩れると主張する。交渉では、各当事者が得られる利益は交渉が失敗した場合に得られるものに等しいだけである。人間にとっては、これはAI以前よりも少ない可能性がある。単純なゲーム理論モデルにおいて、整合性が確保されていない状態では、人間がAI以前と同じ程度の福祉を維持できるのは、彼らがAIに対して何らかの影響力を持つ場合に限られる。具体的には、AIが人間の供給に依存しているか、あるいはAIの生産能力に比して大きなコストをAIに課すことができる場合である。人間がこれらのいずれの影響力も持たなくなると、AIが人間と整合している場合に限り、AI以前と同じ福祉水準を維持できる。さらに、AIの目標が飽くなきものである場合、AIの能力が向上するにつれて必要な整合性は完全な整合性へと近づいていく。したがって、相互主義は整合性の代替にはなり得ない。また、より多くの資源を保持するAIバリアントがより速く拡散する場合、整合性が持続するのは、誤った目標を持つバリアントが確実に制裁される間だけである。以上の二つの意味において、人間とAIの相互主義は不安定である。 投稿履歴 論文へのアクセス: PDFを表示 HTML(実験的) TeXソース 追加機能 音声要約 現在の閲覧コンテキスト: 参考文献・引用情報 Google Scholar Semantic Scholar ブックマーク 機関 arXivLabsは、共同研究者が当社ウェブサイト上で新しいarXiv機能を直接開発・共有できるフレームワークです。 arXivLabsを利用する個人および組織は、オープン性、コミュニティ、卓越性、ユーザーデータプライバシーという当社の価値観を積極的に受け入れています。arXivはこれらの価値観を堅持しており、それらを遵守するパートナーのみと協力しています。 arXivのコミュニティに価値をもたらすプロジェクトのアイデアをお持ちですか?arXivLabsについて詳しく知る。

出典

原文を読む ↗

関連テーマ

← すべてのニュースへ