Conformal prediction provides a pivotal and flexible technique for uncertainty quantification by constructing prediction sets with a predefined coverage rate. Many online conformal prediction methods have been developed to address data distribution shifts in fully adversarial environments, resulting in overly conservative prediction sets. We propose Conformal Optimistic Prediction (COP), an online conformal prediction algorithm incorporating underlying data pattern into the update rule. Through estimated cumulative distribution function of non-conformity scores, COP produces tighter prediction sets when predictable pattern exists, while retaining valid coverage guarantees even when estimates are inaccurate. We establish a joint bound on coverage and regret, which further confirms the validity of our approach. We also prove that COP achieves distribution-free, finite-sample coverage under arbitrary learning rates and can converge when scores are $i.i.d.$. The experimental results also show that COP can achieve valid coverage and construct shorter prediction intervals than other baselines.


翻译:共形预测通过构建具有预设覆盖率的预测集,为不确定性量化提供了一种关键且灵活的技术。许多在线共形预测方法被开发用于处理完全对抗环境中的数据分布偏移,但往往导致预测集过于保守。我们提出乐观共形预测(COP),这是一种将底层数据模式纳入更新规则的在线共形预测算法。通过非共形分数的估计累积分布函数,COP在存在可预测模式时生成更紧凑的预测集,同时即使在估计不准确时仍保持有效的覆盖率保证。我们建立了覆盖率和遗憾度的联合界,进一步验证了方法的有效性。我们还证明COP在任意学习率下可实现分布无关的有限样本覆盖,并在分数为$i.i.d.$时收敛。实验结果也表明,COP能实现有效覆盖,并构建比其他基线方法更短的预测区间。

0
下载
关闭预览

相关内容

【CVPR2024】ViewDiff: 3D一致的图像生成与文本到图像模型
专知会员服务
30+阅读 · 2024年3月10日
专知会员服务
38+阅读 · 2021年6月3日
专知会员服务
24+阅读 · 2020年9月15日
【NeurIPS2019】图变换网络:Graph Transformer Network
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关VIP内容
【CVPR2024】ViewDiff: 3D一致的图像生成与文本到图像模型
专知会员服务
30+阅读 · 2024年3月10日
专知会员服务
38+阅读 · 2021年6月3日
专知会员服务
24+阅读 · 2020年9月15日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员