TensorFlow2.0.0_课时6-18_原理解读与整体架构

概述

机器学习流程
数据获取
特征工程（重点）深度学习解决了这一点，可以自动提取特征
建立模型
评估与应用

深度学习：图像，文本应用最多
数据规模大，万，百万级

图片RGB三维
越暗值越小，越亮值越大

挑战：遮蔽，背景混入

理论基础

前向传播 x，w→L

w：权重，如13072
x：像素点，如30721，输入的数据，不变
wx为一阶矩阵

若猫狗等10个物体，w为103072，x为如30721
wx为10*1阶矩阵

f=wx+b
b为一种微调，误差

w中值越大越重要，负值为抑制作用
w初始为随机值，

损失函数（loss）：越小越好
损失函数=max（0，错误值-正确值+1）+λ*正则化惩罚项
λ大：削掉凸起
λ小：削弱凸起

正则化惩罚项：防止过拟合

Softmax分类器
促成0,1分类
原始数据，e的x次幂处理，对数函数处理（损失函数），得到0，1

反向传播

Loss对w逐层求偏导
加法门：均等分配
max门：梯度给最大的
乘法门：互换

优化
正则化对结果影响
惩罚力度小效果较好

参数个数对结果影响
参数貌似越多越好

激活函数
Sigmoid函数
Relu函数（常用）
tanh函数

drop-out
训练阶段，随机杀死部分神经元