综述：可解释的知识系统发展方向，附17页论文下载

【简介】近些年来，可解释的人工智能受到了越来越多的关注。随着人工智能模型变得越来越复杂和不透明，可解释性变得越来越重要。最近，研究人员一直在以用户为中心研究和处理可解释性，寻找可信任、可理解、明确的来源和上下文感知的可解释性。在这篇论文中，我们通过调研人工智能和相关领域中有关可解释性的文献，并利用过去的相关研究生成了一系列的可解释类型。我们定义每种类型，并提供一个示例问题，来阐述对这种解释方式的需求。我们相信，这一系列的解释类型将有助于未来的系统设计人员获得可靠的需求和确定各种需求的优先级，并进一步帮助生成能够更好地符合用户和情景需求的解释。

介绍

人工智能(AI)领域已经从单纯的基于符号和逻辑的专家系统发展到使用统计和逻辑推理技术的混合系统。可解释性人工智能的进展与人工智能方法的发展紧密相关，例如我们在早期的论文“可解释的知识支持系统的基础”中所涉及的类别，涵盖了专家系统、语义web方法、认知助手和机器学习方法。我们注意到这些方法主要处理可解释性的特定方面。例如，由专家系统产生的解释主要用于提供推理所需的痕迹、来源和理由。这些由认知助理提供的模型能够调整它们的形式以适应用户的需求，并且在机器学习和专家系统领域，解释为模型的功能提供了一种“直觉”。