可视化特征属性基线的影响，Visualizing the Impact of Feature Attribution Baselines

主题： Visualizing the Impact of Feature Attribution Baselines

摘要： 路径属性方法是一种基于梯度的解释深度模型的方法。这些方法需要选择一个称为基线输入的超参数。这个超参数是什么意思，它有多重要？本文以图像分类网络为例，对这些问题进行了研究。我们讨论了选择基线输入的几种不同方法以及每个基线中隐含的假设。虽然我们在这里关注的是路径归属方法，但我们对基线的讨论与特征空间中的缺失概念密切相关——这一概念对可解释性研究至关重要。

作者简介： Pascal Sturmfels，华盛顿大学博士，他的研究方向是开发使机器学习模型更易于解释的方法，并应用这些方法来理解生物和健康数据。个人主页：https://psturmfels.github.io/