为什么都说神经网络是个黑箱？
没做过实际的数据挖掘项目，不过我觉得，可解释性应该指的是对于数据的可解释性。 比如你老板让你做一个预测房价的问题。给了你历年的房屋售价，和该房子的面积、地段、类型、建造年限、装修情况等特征。然后你把这些特征丢进一个机器学习模型去训练。训练好之后，用模型预测一下明年的房价，汇报给老板。 然后问题就解决了？ 没有解决，因为你的老板会问你，为什么？为什么房价会上升（下降）？ 这时， 如果你用的是logistic regression，你就可以自信满满地指着p-value最小的那些变量，跟老板说，“因为这些变量变大（变小）了，所以明年房价会上升（下降）” 如果你用的是decision tree，你就可以自信满满地指着决策树最顶端的结点，跟老板说，“因为这些变量变大（变小）了，所以明年房价会上升（下降）” 如果你用的是NN，你就可以（自信满满？）地跟老板说，……