2020-5-22 吴恩达-改善深层NN-w1 深度学习的实用层面(1.9 归一化输入(特征)-加速训练,优化J简单-因为任何位置都可以快速下降,步长大)

1.视频网站:mooc慕课https://mooc.study.163.com/university/deeplearning_ai#/c
2.详细笔记网站(中文):http://www.ai-start.com/dl2017/
3.github课件+作业+答案:https://github.com/stormstone/deeplearning.ai

1.9 归一化输入 Normalizing inputs

训练NN,其中一个加速训练的方法就是归一化输入。
在这里插入图片描述

如上图,数据集的散点图。
假设一个训练集有两个特征,输入特征为2维,归一化需要两个步骤:

  • step1:零均值

μ = 1 m ∑ i = 1 m x ( i ) \mu =\frac 1m\sum_{i=1}^mx^{(i)} μ=m1i=1mx(i)
向量X等于每个训练数据 x 减去 μ \mu μ,即X := x-μ,意思是移动训练集,直到它完成零均值化。如下图。
在这里插入图片描述

  • step2:归一化方差

注意:上图中特征 x 1 x_1 x1的方差比特征 x 2 x_2 x2的方差要大得多
在这里插入图片描述

我们要做的是给 σ \sigma σ赋值。
σ 2 = 1 m ∑ i = 1 m ( x (

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值