如何简洁地（譬如一分钟内）向别人解释神经网络的“可解释性”，让别人相信神经网络是可以信赖的工具？

这里涉及到人工智能的两个流派——符号主义与联结（连接）主义

像你提到的，“传统基于规则的编程，每一步要干什么都是很清晰的，都是可控的。”这就是属于符号主义流派

而深度学习是属于联结主义，是仿照人类大脑神经网络——神经元的连接来实现的，当然仅仅是仿照，或者确切说的人类神经网络给与深度学习一个启发、一个思路，实际相差很大。

人类大脑皮层中有大约860亿个神经元，还有说是1000亿的 。

你有意识、有思维、有能力、有智慧，你能够看到周围美妙的风景、听到自然界的风声雨声、你知道酸甜苦辣咸、你考试考了100分，而你的朋友却不及格等等，确切地说都是你的神经元决定的，更确切地说是由你的神经元是怎么连接（兴奋或者抑制）决定的。

而现代科学对人类大脑的了解不过是九牛一毛，比如，意识是怎么产生的，记忆是如何通过神经元的连接实现的，你浑身起鸡皮疙瘩大脑神经网络是怎么运作的，这些其实都没有搞清楚。

可是我想说的是，虽然有这么多不知道的因素，应该不会影响人类吃饭、睡觉、创业、胡思乱想或者你在提问题而我在回答问题吧。

所以说无论是符号主义还是联结主义流派最终都应该归结为实用主义，用就行了。