http://playground.tensorflow.org/
https://www.bilibili.com/video/BV15J411u7Ly
正则化对高次系数进行惩罚
batch size 每次喂的数据个数
epoch 1 = 遍历一遍train数据
非线性激活函数
sigmoid : 2分类 负无穷 到正无穷 压缩到【0 1】
tanh gan lstm 负无穷 到正无穷 压缩到【-1 1】
relu cnn
各种神经网络的用途
- cnn 计算机视觉
- rnn 语音处理 自然语言处理
- gan 生成图片
https://www.bilibili.com/video/BV1w4411u7ay
过拟合 train误差不断下降
测试集 误差居高不下
dropout 避免过拟合
L2 正则 也是处理过拟合