【导读】机器学习模型经常被批评是技术黑箱:只要输入数据就能得到正确答案,但却无法对其进行解释。Christoph Molnar在其新书中呼吁大家当前是时候停止将机器学习模型视为黑盒子,在学会运用模型的同时更应去学会分析模型如何做出决策,并给出了将黑盒变得具有可解释性的讨论。

机器学习领域在过去十年中发生了显著的变化。从一个纯粹的学术和研究领域方向开始,我们已经看到了机器学习在各个领域都有着广泛的应用,如零售,技术,医疗保健,科学等等。在21世纪,数据科学和机器学习的重要目标已经转变为解决现实问题,自动完成复杂任务,让我们的生活变得更加轻松,而不仅仅是在实验室做实验发表论文。机器学习,统计学或深度学习模型工具已基本成型。像Capsule Networks这样的新模型在不断地被提出,但这些新模型被工业采用却需要几年时间。因此,在工业界中,数据科学或机器学习的主要焦点更多在于应用,而不是理论。最重要的是能够解决复杂的现实问题。 


机器学习模型本质上就是一种算法,该算法试图从数据中学习潜在模式和关系,而不是通过代码构建一成不变的规则。所以,解释一个模型是如何在商业中起作用总会遇到一系列挑战。在某些领域,特别是在金融领域,比如保险、银行等,数据科学家们通常最终不得不使用更传统更简单的机器学习模型(线性模型或决策树)。原因是模型的可解释性对于企业解释模型的每一个决策至关重要。然而,这常常导致在性能上有所牺牲。复杂模型像如集成学习和神经网络通常表现出更好更精准的性能(因为真实的关系在本质上很少可以通过线性划分的),然而,我们最终无法对模型决策做出合适的解释。

成为VIP会员查看完整内容
137

相关内容

专知会员服务
115+阅读 · 2021年8月12日
《动⼿学深度学习》最新版,605页pdf
专知会员服务
141+阅读 · 2021年7月31日
专知会员服务
157+阅读 · 2021年6月3日
【干货书】Python机器学习,361页pdf
专知会员服务
205+阅读 · 2021年2月25日
最新《监督机器学习可解释性》2020大综述论文,74页pdf
专知会员服务
114+阅读 · 2020年11月19日
最新《可解释机器学习:原理与实践》综述论文,33页pdf
专知会员服务
130+阅读 · 2020年10月10日
8月最新-《可解释机器学习-Christoph Molnar》-新书分享
深度学习与NLP
10+阅读 · 2019年8月12日
421页《机器学习数学基础》最新2019版PDF下载
德勤:工业4.0与数字孪生(附PDF下载)
走向智能论坛
26+阅读 · 2018年9月6日
【学界】机器学习模型的“可解释性”到底有多重要?
GAN生成式对抗网络
11+阅读 · 2018年3月3日
机器学习模型的“可解释性”到底有多重要?
中国科学院自动化研究所
15+阅读 · 2018年3月1日
Arxiv
11+阅读 · 2021年3月24日
Arxiv
14+阅读 · 2020年12月17日
Techniques for Automated Machine Learning
Arxiv
4+阅读 · 2019年7月21日
Arxiv
3+阅读 · 2018年10月18日
VIP会员
相关VIP内容
专知会员服务
115+阅读 · 2021年8月12日
《动⼿学深度学习》最新版,605页pdf
专知会员服务
141+阅读 · 2021年7月31日
专知会员服务
157+阅读 · 2021年6月3日
【干货书】Python机器学习,361页pdf
专知会员服务
205+阅读 · 2021年2月25日
最新《监督机器学习可解释性》2020大综述论文,74页pdf
专知会员服务
114+阅读 · 2020年11月19日
最新《可解释机器学习:原理与实践》综述论文,33页pdf
专知会员服务
130+阅读 · 2020年10月10日
相关资讯
8月最新-《可解释机器学习-Christoph Molnar》-新书分享
深度学习与NLP
10+阅读 · 2019年8月12日
421页《机器学习数学基础》最新2019版PDF下载
德勤:工业4.0与数字孪生(附PDF下载)
走向智能论坛
26+阅读 · 2018年9月6日
【学界】机器学习模型的“可解释性”到底有多重要?
GAN生成式对抗网络
11+阅读 · 2018年3月3日
机器学习模型的“可解释性”到底有多重要?
中国科学院自动化研究所
15+阅读 · 2018年3月1日
微信扫码咨询专知VIP会员