深度学习入门初探——引出损失函数

        学习----从数据中学习，指的是有数据自动决定权重参数的值。可以说数据是学习的命根子。这种数据驱动的方法，也可以说脱离了过往以人为中心的方法。

        意指：在需要解决某个问题时，特别是需要发现某种模式时，神经网络和深度学习极力避免人为介入，而是尝试从收集到的数据中发现模式。这相比于传统的机器学习而言，那时特征模式的发现是由人预先针对特定领域设计出一定的特征向量，比如视觉中的SIFT、SURF和HOG等，数据通过特定的转换器提取出这样的特征向量。

        而深度学习不需要人去想这些特征的表述了。人在这时只需设计很多的权重组织的形式，可以让其表达更多信息特征并是有不同就可以，数据中的规律模式以及通过这样的组织所表述出的特征向量人不在介入，学好了人拿来用就好了。而且还有一个重要特点就是：对所有的问题都可以用这样的流程来解决。

        这时还会有个疑惑，就是权重组织的形式解决了，怎么样才能判断权重参数学好了呢？什么样的指标指示学习过程中寻找到了最优的权重参数呢？

        这里拿学生学习过程举个例子，当学生学完了一门功课后，如何判断学生学好了呢？很容易吧，考试成绩啊，是的，一张试卷就搞定了吧。试卷作为数据输入，是有标准答案的。其实这就是有监督的学习，你学习不过，离标准答案差很远，就回去继续学习，什么时候你考过了60分，甚至100分，就结束学习。这个60，这个100其实就是那个指标。60和100这些个数就可以指示学生（神经网络）对试卷（监督数据）有多大程度上的拟合。拟合的程度越高，学生学习的越好（神经网络的性能越好）。

        这个指标在神经网络的深度学习中有个术语----损失函数。这个可以这样理解下哈，你做的题错得越少，损失就少。和作对得越多，分数越高。是不是本质是一样的啊！

        怎么描述错题少了呢？你的答案和标准答案做个减法（比较）就好了吧。所以损失函数一般会用均方误差和交叉熵误差等函数来表述，这两个误差函数后续再一一学习吧。这里接着学生的例子来阐述一下自己对于无监督学习的理解。

        学生考试有试卷和答案的题，这和老师在教学是一样的，有模板嘛。但当学生毕业了，工作了，会出现同类型的学生面向同类型的工作，有的则会做的很好，工作完成的很出色，而有的就不那么如意了，久而久之，在这场没有答案的诸多考试中，学生学的如何也是会体现出来的。在这样的一个过程中，学生在摸索、探索、实践，没有答案，大家都在努力的行动，争取出色地完成工作，虽然没有答案，但会有奖励机制，这个大家不陌生了吧，甚至还有惩罚机制，奖惩在这里起到了很大的作用。大家在自学习，效果呢有奖惩来体现，没有最好，只有更好。这就是我理解的无监督学习--奖励机制。