深度学习的局限性和挑战
尽管主流DLNN获得了成功(报告结果已与人类能力相当或优于人类),引发大量宣传,媒体对他的兴趣也日益加强,但仍有许多未解决的问题和不足:
- DLNN内部架构缺乏透明度(有许多临时决策和参数,如层数、神经元和参数值);
- DLNN的训练过程耗费大量数据、时间和计算资源,这使得他们无法开展实时训练和适应,也因而无法应对数据的演变特征(他们具有固定结构和设置,如类别数量),并且他们无法“从零开始学习”;
- DLNN容易过度拟合;
- DLNN无法处理不确定性。他们不仅在与训练数据明显不同的推理数据上表现不佳,而且他们自身也意识不到这一点(这意味着实际上不可能分析错误和失败的原因);他很容易被骗,因而即使是在面对无法识别的图像时也会输出高可靠度分数;