本文へ移動
AI NEWS JOURNAL
AI NEWS / ONE EVENT. MANY PERSPECTIVES.

公正なディープフェイク検出のための交差的不変学習

arXiv:2610.37881v1 発表タイプ:新規 要旨:ディープフェイク検出モデルは全体的な精度は高いものの、人口統計学的グループ間で性能に大きな偏りが見られ、一部のグループでは他のグループに比べて偽陽性率が著しく高くなるという問題があります。既存の公平性を考慮した手法は、モデルの出力を制限して各グループの予測を均等化することでこの問題に対処していますが、根本的な特徴レベルのバイアスには対処していません。その結果、モデルは依然として肌の質感など、人口統計学的特性を操作されたコンテンツを検出するための間接的な手がかりとして利用してしまう可能性があります。この問題に対処するため、我々はIntersectional Invariant Learning(IIL)というフレームワークを提案します。これは、モデルの出力調整のみならず、特徴学習自体を改善するものです。IILは、最も困難な人口統計学的区分を特定することを繰り返し行い

1 件の報道arXiv cs.CV ↗

要旨:ディープフェイク検出モデルは全体的な精度は高いものの、人口統計学的グループ間で性能に大きな偏りが見られ、一部のグループでは他グループに比べて偽陽性率が著しく高くなるという問題があります。既存の公平性配慮型手法は、モデルの出力を制限して各グループの予測を均等化することでこの問題に対処していますが、根本的な特徴レベルのバイアスには対処していません。その結果、モデルは依然として肌の質感など人口統計学的特性を、改ざんされたコンテンツを検出するための間接的な手がかりとして依存してしまう可能性があります。この問題を解決するために、本研究では、モデルの出力調整にとどまらず特徴学習自体を改善するフレームワークである「Intersectional Invariant Learning(IIL)」を提案します。IILは、最も困難な人口統計学的区分を特定し、それらの区分間で一貫性を保つ特徴を学習することを交互に繰り返します。さらに、本フレームワークには偽陽性率の公平性に関する目的関数と、6つの性別×肌色の交差的グループ間で均衡したサンプリングを組み込んでいます。我々は、100万枚を超える画像、10種類のベースライン検出器、および21項目の公平性・有用性指標を含む大規模な公平性ベンチマーク上でIILを評価しました。その結果、IILはパレート最適な性能を実現し、AUCが99%を超え、偽陽性率が2.5%未満でありながら、比較対象となったすべての手法の中で最も低い交差的公平性格差(FMEO)を達成していることが示されました。IILは、21項目の評価指標の大部分において従来の公平性配慮型手法を上回る性能を示す一方で、最も強力な競合手法と比較しても、偽陽性率と交差的公平性格差の両方を数倍にわたり低減しています。

コメント:| 付録を含む全4ページ、図7点、表8点 主題:| コンピュータビジョンおよびパターン認識(cs.CV) 引用形式:| arXiv:2610.37881 [cs.CV] | (または

arXiv:2610.37881v1 [cs.CV] このバージョン) | https://doi.org/10.48550/arXiv.2610.37881

詳しく学ぶためにフォーカス

DataCite経由のarXiv発行DOI(登録待ち)

投稿履歴

論文へのアクセス:

PDFを表示

HTML(実験的)

TeXソース

追加機能

音声要約

現在の閲覧コンテキスト:

参考文献・引用

Google Scholar

Semantic Scholar

ブックマーク

機関

arXivLabsは、共同作業者が当社のウェブサイト上で新しいarXiv機能を直接開発・共有できるフレームワークです。

arXivLabsを利用する個人および組織は、オープン性、コミュニティ、卓越性、そしてユーザーデータのプライバシーという当社の価値観を積極的に受け入れ、尊重しています。arXivはこれらの価値観に固くコミットしており、それらを遵守するパートナーのみと協力しています。

arXivのコミュニティに価値をもたらすプロジェクトのアイデアをお持ちですか?arXivLabsについて詳しくご覧ください。