广义上的可解释性指在我们需要了解或解决一件事情的时候,我们可以获得我们所需要的足够的可以理解的信息,也就是说一个人能够持续预测模型结果的程度。按照可解释性方法进行的过程进行划分的话,大概可以划分为三个大类: 在建模之前的可解释性方法,建立本身具备可解释性的模型,在建模之后使用可解释性方法对模型作出解释。

VIP内容

新一轮科技革命和产业变革正在萌发, 以深度学习和大数据为基础, 以AlphaGo等为典型应用场景掀起了人工智能的第3次高潮. 传统的基于统计线性化动态建模的人工智能, 在处理复杂对象时遇到了可解释性、泛化性和可复现性等发展瓶颈, 迫切需要建立基于复杂性与多尺度分析的新一代人工智能理论, 我们称之为精准智能. 针对复杂系统的非线性特征, 精准智能构建内嵌领域知识和数学物理机理的系统学习理论, 包括复杂数据科学感知、复杂系统精准构建、复杂行为智能分析3个层次. 具体而言, 通过复杂数据科学感知建立内嵌时空特征与数理规律等具有可解释性的科学数据系统; 通过复杂系统精准构建反演具有非线性复杂逻辑关系的多层次、多尺度、可解释的人工智能动态学习模型; 通过对系统复杂行为智能分析建立面向系统行为演进和全局动态分析的可解释可调控人工智能新理论和新方法. 将上述精准智能理论应用于群体智能, 提出了群体熵方法, 实现了群体激发和汇聚行为复杂性度量与有效引导调控.

https://www.sciengine.com/publisher/scp/journal/SSI/51/4/10.1360/SSI-2020-0158?slug=fulltext

成为VIP会员查看完整内容
0
15
Top