黑箱模型

黑箱模型（Black box）或称经验模型，指一些其内部规律还很少为人们所知的现象。如生命科学、社会科学等方面的问题。但由于因素众多、关系复杂，也可简化为灰箱模型来研究。
黑箱模型：该模型是环境预测工作中应用较多的一类模型，它是根据输入—输出关系建立起来的，反映了有关因素间的一种笼统的直接因果关系。用于环境预测的黑箱模型，只涉及到开发活动的性质、强度与其环境后果之间的因果关系。如果未来的变化超出一定的范围，用这类模型的可靠性明显下降。黑箱模型本身不能表述过程。若能得到较多符合实际要求的数据时，应用黑箱模型进行环境预测还是适合的。特别是涉及到开发活动对环境中化学过程、生物过程、社会经济过程等的影响时，限于研究水平往往采用这种模型。
上面的话较为官方，我的理解是：“黑箱“模型指的是模型在作出预测的过程中所进行的一系列操作是未知的，或即使人类很清楚模型在作决策的过程中的每一步具体的操作，但是所进行的操作无法用人类可以理解的语义来描述。
举个简单的例子：例如，虽然很清楚知道深度神经网络在预测的过程中，每一层的神经元无非都是在进行矩阵相乘、激活函数变换等操作，但是模型的如何根据这一些操作作出预测是未知的，无法用人类可以理解的含有语义的语言来进行描述。人工智能模型中比较典型的“黑箱”模型包括：DNNs, Random Forest等。
所谓黑箱指的是涉及各权重参数无解释性，
以下搬运知乎，最易理解的版本：
作者：lu luce
链接：https://www.zhihu.com/question/291583204/answer/1312239290
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

什么黑箱模型，不就是瞎蒙么。你知道这些深度学习算法是什么时候提出来的吗？？上世纪90年代。这些算法一开始提出来的时候，都被当做是仅仅具有理论意义的算法。毕竟你让上世纪90年代的486电脑，处理几亿条数据，要花上几十年的时间。更不用说，你到哪里去找几亿条数据来训练这个模型。到了21世纪以后，尤其是手机APP的使用，让手机APP提供商有了几亿条数据。之后，电脑也是128核了。能快速完成傅里叶变换的显卡也不太贵了。人们才把这些上世纪90年代的算法从故纸堆中找出来。但是这些算法都有一个最大的缺点。就是人们其实无法理解这些算法成功的原因。。为什么我做四次傅里叶变换，加三次马尔可夫链，我就能成功识别出图片中的刘德华呢？？为啥五次傅里叶变换不行呢。。为啥三次傅里叶变换也不行呢？？？之后，为啥我做四次傅里叶变换，加六次马尔可夫链，我就能成功识别出图片中的猫呢？？ 为啥五次马尔可夫链不行呢。。为啥七次马尔可夫链也不行呢？？？你觉得这些算法的有效性靠的是什么？？对了。。就是瞎蒙。。。。好了。你告诉我一个纯靠瞎蒙的领域，你觉得应该怎么发展。。我的个人看法：我承认机器视觉在复杂环境的单一物体识别上，的确做得很好。但是在多个物体识别上还很困难。当然我个人认为原因只不过是傅里叶变换的层数，和马尔可夫链的层数太小。毕竟现在这种神经网络的复杂程度和青蛙差不多。你只要玩过青蛙就会发现，青蛙的视力和现在的自动驾驶的机器视觉差不多。也是只要有一个大小符合特定规则的移动物体，自动驾驶的机器视觉就能躲避，同时青蛙的舌头就弹出来捕捉。但是现在的计算机的计算能力还搭不出来类似于猫狗大脑那么复杂的神经网络。就更别提人类了。因此上其实不管科研工作者怎么努力，其实都没有什么*用。只能等待芯片制造工业的进步。

一起加油吧，与君共勉！