“可解释性”相关研究及应用 | CCF数图焦点第18期

2022 年 3 月 10 日 中国计算机学会


点击底部“阅读原文”可浏览《CCF数图焦点》第18期详细内容


编者寄语


近年来,以深度学习为代表的人工智能取得突破性进展,然而海量的参数与复杂的处理机制, 使得人类很难追溯与理解其推理过程,造成“知其然,不知其所以然” ,引发人们对算法可信性、公平性产生质疑,一定程度上影响了其在无人驾驶、精准医疗、智能交通等高风险决策工程中的大规模应用.因此探究深度学习的可解释性成为当前人工智能领域研究的新课题。


可解释性相关的研究及应用有所涌现,多个期刊不约而同发表了深度学习可解释性的相关综述,角度和侧重有所差异,本期专题将他们进行汇总,以便读者辨析阅读。利用可解释推理机制对知识图谱进行推断已受到广泛关注,本期专题包含了2位学者的报告视频。同时,专题中还包含AI的可解释探讨及其在安全领域中的应用介绍。


目录


 

本期主编: 

侯丽珊

《计算机研究与发展》编辑部主任


往期回顾


CCF数图焦点 第17期:群智协同计算

CCF数图焦点 第16期:智能异构系统

CCF数图焦点 第15期:优秀博士学位论文

CCF数图焦点 第14期:数据治理

CCF数图焦点 第13期:智能时代计算机专业系统能力培养探索与实践

CCF数图焦点 第12期:硬件安全与容错

CCF数图焦点 第11期:软件工程学科研究生课程建设

CCF数图焦点 第10期:新数字时代的计算机人才培养

CCF数图焦点 第9期:智能运维技术

CCF数图焦点 第8期:量子计算



点击底部“阅读原文”浏览本期《CCF数图焦点》更多内容。

登录查看更多
2

相关内容

广义上的可解释性指在我们需要了解或解决一件事情的时候,我们可以获得我们所需要的足够的可以理解的信息,也就是说一个人能够持续预测模型结果的程度。按照可解释性方法进行的过程进行划分的话,大概可以划分为三个大类: 在建模之前的可解释性方法,建立本身具备可解释性的模型,在建模之后使用可解释性方法对模型作出解释。
人工智能系统可信性度量评估研究综述
专知会员服务
87+阅读 · 2022年1月30日
专知会员服务
95+阅读 · 2020年12月8日
机器学习模型安全与隐私研究综述
专知会员服务
111+阅读 · 2020年11月12日
电力人工智能发展报告,33页ppt
专知会员服务
125+阅读 · 2019年12月25日
知识图谱在可解释人工智能中的作用,附81页ppt
专知会员服务
137+阅读 · 2019年11月11日
智慧教育 | CCF数图焦点第20期
中国计算机学会
2+阅读 · 2022年4月8日
网络空间安全 | CCF数图焦点第19期
中国计算机学会
2+阅读 · 2022年3月25日
第十二届CCF青年精英大会(YEF 2022)将于6月9-11日在苏州召开
中国计算机学会
0+阅读 · 2022年3月14日
多媒体推理与认知 | CNCC2021
CCF多媒体专委会
1+阅读 · 2021年12月16日
事理图谱的构建与应用分论坛|CNCC2021
哈工大SCIR
1+阅读 · 2021年12月14日
会议交流 | 知识图谱赋能数字化转型 - CNCC2021
开放知识图谱
0+阅读 · 2021年10月8日
CCF发布2017-2018中国计算机科学技术发展报告
中国计算机学会
17+阅读 · 2018年11月7日
清华发布《2018自然语言处理研究报告》
智能交通技术
15+阅读 · 2018年8月4日
报名 | 知识图谱前沿技术课程(苏州大学站)
PaperWeekly
12+阅读 · 2017年11月27日
报名 | 知识图谱技术和在司法领域的应用
THU数据派
24+阅读 · 2017年9月11日
国家自然科学基金
15+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
6+阅读 · 2011年12月31日
国家自然科学基金
3+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年4月20日
Arxiv
0+阅读 · 2022年4月18日
VIP会员
相关VIP内容
人工智能系统可信性度量评估研究综述
专知会员服务
87+阅读 · 2022年1月30日
专知会员服务
95+阅读 · 2020年12月8日
机器学习模型安全与隐私研究综述
专知会员服务
111+阅读 · 2020年11月12日
电力人工智能发展报告,33页ppt
专知会员服务
125+阅读 · 2019年12月25日
知识图谱在可解释人工智能中的作用,附81页ppt
专知会员服务
137+阅读 · 2019年11月11日
相关资讯
智慧教育 | CCF数图焦点第20期
中国计算机学会
2+阅读 · 2022年4月8日
网络空间安全 | CCF数图焦点第19期
中国计算机学会
2+阅读 · 2022年3月25日
第十二届CCF青年精英大会(YEF 2022)将于6月9-11日在苏州召开
中国计算机学会
0+阅读 · 2022年3月14日
多媒体推理与认知 | CNCC2021
CCF多媒体专委会
1+阅读 · 2021年12月16日
事理图谱的构建与应用分论坛|CNCC2021
哈工大SCIR
1+阅读 · 2021年12月14日
会议交流 | 知识图谱赋能数字化转型 - CNCC2021
开放知识图谱
0+阅读 · 2021年10月8日
CCF发布2017-2018中国计算机科学技术发展报告
中国计算机学会
17+阅读 · 2018年11月7日
清华发布《2018自然语言处理研究报告》
智能交通技术
15+阅读 · 2018年8月4日
报名 | 知识图谱前沿技术课程(苏州大学站)
PaperWeekly
12+阅读 · 2017年11月27日
报名 | 知识图谱技术和在司法领域的应用
THU数据派
24+阅读 · 2017年9月11日
相关基金
国家自然科学基金
15+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
6+阅读 · 2011年12月31日
国家自然科学基金
3+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员