神经网络，深度学习笔记（持续更新）

1.DNN深度神经网络
   RNN循环神经网络
   CNN卷积神经网络

2.代价函数
  代价函数是一个有点抽象的东西，理论上能反应拟合函数f与真实值y差异的函数都可以用来作为我们的代价函数
  可以理解为计算出的值与实际值之间的误差

3.反向传播神经网络：(bp神经网络)
  就是对输入的训练集，可以根据网络中的实际输出与期望输出之间的误差来反向调整个连接权值的学习方法。其主要步骤如     下：

  1)从样本数据中随机性的选取一个样本数据{Ai，Bi},其中Ai是输出，Bi是期望
  2)输出通过训练得出实际输出yi

  3)求误差D = Bi - yi

  4)根据步骤3得到的误差D，来调整各隐含层之间连接权值

  5)对每个样本重复用以上步骤，直到对整体样本数据来说，误差收敛到控制范围内为止。
  x:开始时的输入信号

  y:神经元的输出信号
  计算公式：1)计算误差 di=wi*d
                    2)修改权值 wi=wi+n*di*(df(e)/de)*(x or y)

4.matlab实现bp神经网络
  Epoch:训练次数

  time:训练时间

  performance:性能指标(这个指标可以用用.trainParam.goal参数设定)

  Validation Checks：校验检查
  1)train函数
  功能：训练神经网络

  句法：[net,tr,