深度学习(Deep Learning):“Deep”的作用【“Modularization”、“End-to-End Learning”】

一、Modularization

1、Universality Theorem

在这里插入图片描述

2、“Thin + Tall” v.s. “Fat + Short”

在这里插入图片描述

3、“Fat + Short” 模式下

由于有些分类下的数据比较少, “Fat + Short” 模型对数据少的样本的分类训练的不好

在这里插入图片描述

4、“Thin + Tall” 模式下

将特征分解,再组合。
在这里插入图片描述

5、多层Layer的作用

  • 中间hidden layer 的作用类似于将特征数据值从“低维” → t r a n s f o r m e r \xrightarrow{transformer} transformer “高维”,充分挖掘“特征数据值”在各个维度中的特性。

在这里插入图片描述
在这里插入图片描述
带有非线性激活函数的Layer层数越多,则模型能模拟的函数的复杂度越高
在这里插入图片描述

二、End-to-End Learning

在这里插入图片描述

1、End-to-End Learning:语音识别

在这里插入图片描述
在这里插入图片描述

2、End-to-End Learning:图像识别

在这里插入图片描述
在这里插入图片描述




参考资料:
A visual proof that neural nets can compute any function
Deep Learning: Theoretical Motivations (Yoshua Bengio)
Why Deep Learning Works: Perspectives from Theoretical Chemistry

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值