摘要：部署后的视觉模型会自动接受置信度较高的预测，因此高置信度错误会在不知不觉中传播。作为标准的故障预测器，最大 softmax 概率（MSP）存在一个结构性盲区：作为一种从分类器头部读取的标量，它对与其置信度梯度正交的特征变化在一阶上是无感知的。通过对特征空间检测器进行因子分析，我们揭示了一条条件冗余原则，解释了为何这些检测器无法有效补充 MSP：它们所衡量的类别可分性几何结构早已被编码在 MSP 中，并且在融合后趋于坍缩。最终幸存的信号是流形外残差上的类别条件典型性——而由于该残差的分布因骨干网络的不同而异，从近高斯分布到重尾分布不等，因此必须采用非参数化方法进行估计。我们将上述发现具体化为 CANARY，这是一种无需训练的检测器，它在倒数第二层特征的 PCA 残差上计算每类的 kNN 距离，在验证数据上对其进行百分位校准，并通过一个经验证数据调优的单一权重将其与 MSP 融合。CANARY 的收益遵循“安全裕度法则”：当基准 MSP 的质量越低时，其提升幅度越大，因此仅凭一个干净的验证指标即可预估改进效果。由于所有参数均仅基于分布内数据选定，CANARY 在五种骨干网络上实现了 385 个偏移场景中的 382 个（e-AURC；AUROC 为 379），最差情况下的性能退化也仅在种子噪声范围内（AUROC 降低 0.0002），而在自然分布偏移（ImageNet-A/R、ObjectNet）场景中则取得了最大的性能提升——而这些正是部署后模型最为脆弱的场景。
提交历史
访问 Paper：
查看PDF
HTML（实验性）
TeX 源代码
附加功能
音频摘要
当前浏览上下文：
参考文献与引用
谷歌学术
语义学者
书签
机构
arXivLabs 是一个框架，允许合作者直接在我们的网站上开发并共享新的 arXiv 功能。
无论是个人还是与 arXivLabs 合作的机构，都已认同并践行我们所倡导的开放、社区、卓越以及用户数据隐私等价值观。arXiv 致力于坚守这些价值，并且只与同样秉持这些价值观的合作伙伴开展合作。
您是否有一个能为 arXiv 社区创造价值的项目构想？欢迎了解更多关于 arXivLabs 的信息。