dnn学习记录（1）

一、深度学习要解决的问题

        人工智能是现如今很火的一大话题，机器学习是人工智能的核心环节，而深度学习是机器学习的核心环节。可以将深度学习的算法理解为一种特征提取的方法；

        1、机器学习的流程

        其中最重要的是特征工程

        深度学习做的就是怎么样提取特征。

        2、深度学习的应用

        3、计算机视觉

        

CIFAR-10

二、神经网络基础

        1、线性函数

 

        其中W起了决定性作用，一开始随机分配W矩阵，结果可能不符合实际，随着W的慢慢迭代，W矩阵越来越完善。

        2、损失函数

           定义W矩阵好坏，衡量分类结果的质量的就需要损失函数

1可代表容忍程度

为了防止过拟合，我们还必须给我们的损失函数加上正则化惩罚项

        3、softmax分类器

前向传播得到损失值