反事实的解释提供了从机器学习模型中获得预期结果的方法。然而,这样的解释对于基础模型中的某些真实世界的变化(例如,重新训练模型,改变超参数,等等)并不是鲁棒的,在几个应用中质疑它们的可靠性,例如,信贷。在这项工作中,我们提出了一种新的策略——我们称之为RobX——来为基于树的集成生成鲁棒的反事实,例如XGBoost。基于树的集成在鲁棒的反事实生成中带来了额外的挑战,例如,它们具有非光滑和不可微的目标函数,并且在非常相似的数据上进行再训练时,它们可以在参数空间中发生很大的变化。我们首先引入了一种新的度量——我们称之为反事实稳定性——它试图量化反事实对再训练下的模型变化的稳健性,并带来理想的理论属性。我们提出的策略RobX适用于任何反事实生成方法(基础方法),并通过使用我们的度量反事实稳定性迭代改进基础方法生成的反事实来搜索鲁棒的反事实。我们在基准数据集上比较了RobX与流行的反事实生成方法(基于树的集成)的性能。结果表明,我们的策略生成的反事实比现有的最先进的方法更鲁棒(在实际模型更改后,其有效性接近100%),而且也更现实(就局部异常因素而言)。

成为VIP会员查看完整内容
14

相关内容

国际机器学习大会(International Conference on Machine Learning,简称ICML ) 是由国际机器学习学会(IMLS)主办的机器学习国际顶级会议,也是CCF-A类学术会议。ICML 2022 共收到5630 投稿,接收1117 篇 short oral,118篇 long oral,录用率为21.94%。
【ICML2022】公平的因果概念及其后果
专知会员服务
18+阅读 · 2022年7月13日
【ICML2022】基于少样本策略泛化的决策Transformer
专知会员服务
36+阅读 · 2022年7月11日
【ICML2022】序列决策的效用理论
专知会员服务
15+阅读 · 2022年6月30日
【ICML2022】鲁棒强化学习的策略梯度法
专知会员服务
36+阅读 · 2022年5月21日
【ICML2022】可达性约束强化学习
专知会员服务
22+阅读 · 2022年5月18日
专知会员服务
35+阅读 · 2021年8月17日
专知会员服务
26+阅读 · 2021年7月11日
专知会员服务
81+阅读 · 2021年5月10日
最新《监督机器学习可解释性》2020大综述论文,74页pdf
专知会员服务
129+阅读 · 2020年11月19日
【ICML2022】公平的因果概念及其后果
专知
3+阅读 · 2022年7月13日
【ICML2022】序列决策的效用理论
专知
1+阅读 · 2022年6月30日
【ICML2022】可解释的心理学理论
专知
3+阅读 · 2022年5月29日
WWW2022 | 基于交叉成对排序的无偏推荐算法
机器学习与推荐算法
0+阅读 · 2022年4月20日
机器学习的可解释性:因果推理和稳定学习
DataFunTalk
13+阅读 · 2020年3月3日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年8月27日
Arxiv
0+阅读 · 2022年8月26日
Partial Matrix Completion
Arxiv
0+阅读 · 2022年8月25日
VIP会员
相关VIP内容
【ICML2022】公平的因果概念及其后果
专知会员服务
18+阅读 · 2022年7月13日
【ICML2022】基于少样本策略泛化的决策Transformer
专知会员服务
36+阅读 · 2022年7月11日
【ICML2022】序列决策的效用理论
专知会员服务
15+阅读 · 2022年6月30日
【ICML2022】鲁棒强化学习的策略梯度法
专知会员服务
36+阅读 · 2022年5月21日
【ICML2022】可达性约束强化学习
专知会员服务
22+阅读 · 2022年5月18日
专知会员服务
35+阅读 · 2021年8月17日
专知会员服务
26+阅读 · 2021年7月11日
专知会员服务
81+阅读 · 2021年5月10日
最新《监督机器学习可解释性》2020大综述论文,74页pdf
专知会员服务
129+阅读 · 2020年11月19日
相关资讯
相关基金
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员