李宏毅机器学习——学习笔记（10） Why deep？

最新推荐文章于 2023-09-02 23:47:46 发布
最新推荐文章于 2023-09-02 23:47:46 发布
阅读量235 收藏 1
点赞数
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_37757740/article/details/88952355
版权

  1. 在相同参数数量的情况下？
    扁平的模型比深度模型的学习效果要差，因为深度模型就像是模块化的，每一层都只是识别部分特征，然后传导到下一层中。
    在这里插入图片描述
    在这里插入图片描述

  2. End to End Learning
    通过端到端的训练方式，所有的函数都是由机器自动学习到的，不需要自己去构造。

  3. 多层的neural network能够达到将相似的输入得到很不一样的输出，不一样的输入得到相同的输出的效果。但是shallow network 不能做到。
    在这里插入图片描述

更多细节可以看
在这里插入图片描述

青芒·1
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
​李宏毅机器学习——对抗攻击Adversarial Attack
iwill323的博客
10-27 2927
​李宏毅机器学习——对抗攻击Adversarial Attack
视频学习笔记——李宏毅机器学习——P1，2
09-12
【机器学习介绍】 机器学习是计算机科学的一个分支，它的核心目标是使计算机系统具备自我学习的能力，从而在没有明确编程的情况下改善其性能。这源于人类的学习潜能，只不过在这里，我们试图通过算法和统计模型来...
李宏毅机器学习——Why Deep总结
Fighting Hua
11-22 382
问题1：越深越好？ learning从一层到七层，error rate在不断的下降。能看出network越深，参数越多，performance较也越好。 问题2：矮胖结构 v.s. 高瘦结构 比较shallow model较好还是deep model较好，在比较的时候一个前提就是调整shallow和Deep让他们的参数是一样多，这样就会得到一个矮胖的模型和高瘦的模型。 这个实验的后半段的实验结果是：我们用5层hidden layer，每层2000个neural，得到的error rate是17.2%（
机器学习之why deep？
努力的小硬币
03-21 201
模块化： 使用模块化，使用的数据是可以比较少的 如下图，分类中，男生长发的数据是比较少的，那么就模块化！ 如下图，模块化，先基本分类，男生和女生；长发和短发。 半监督学习： 为什么需要半监督学习？ 我们需要data,但是有用的数据是比较少的， 会讲下面4个内容 一、半监督学习在Generative Model 这部分内容应该用不上。。。先忽略掉好了 二、半监督学习之self-training...
李宏毅机器学习课程笔记4：CNN、Why Deep、Semi-supervised
徐子尧的博客
04-09 8580
台湾大学李宏毅老师的机器学习课程是一份非常好的ML/DL入门资料，李宏毅老师将课程录像上传到了YouTube，地址：NTUEE ML 2016 。 这篇文章是学习本课程第10-12课所做的笔记和自己的理解。Lecture 10: Convolutional Neural Network Why CNN for ImageCNN的参数比全连接神经网络少得多，为什么CNN只用较少的参数就可以用于处理图
2021 李宏毅学习笔记——6.Deep Learning&why deep&Backpropagation
weixin_44790306的博客
05-23 475
文章目录摘要 摘要 本章首先是通过逻辑回归的限制，引入了深度学习的概念；其次介绍了深度学习的发展与广泛的应用领域；以及Deep learning 的三个Step，一是定义一个函数集，也就是神经网络（neural network），二是定义一个函数的好坏（找到合适的参数），三是选一个最好的函数；在step1中用Matrix Operation矩阵运算去表示netural神经元的运作；在step2中去调整netural神经元的参数，用交叉熵函数作为损失函数，去使交叉熵的值越小越好；在step3中仍然是应用梯度下
李宏毅2020机器学习 【学习笔记】 P15Why Deep？
最新发布
weixin_51330846的博客
09-02 455
【李宏毅2020机器学习深度学习(完整版)国语】 https://www.bilibili.com/video/BV1JE411g7XF/?书接上回。
李宏毅机器学习笔记13：Why Deep
chairon的博客
01-05 186
Why Deep? 本文主要围绕Deep这个关键词展开，重点比较了shallow learning和deep learning的区别： shallow：不考虑不同input之间的关联，针对每一种class都设计了一个独立的model检测 deep：考虑了input之间的某些共同特征，所有class用同个model分类，share参数，modularization思想，hierarchy架构，更有效率地使用data和参数 Shallow V.s. Deep Deep is Better？ 我们都知道dee
2020李宏毅机器学习笔记-Why deep
zn961018的博客
05-01 343
摘要 本节主要围绕Deep这个关键词展开，重点比较了shallow learning和deep learning的区别： shallow：不考虑不同input之间的关联，针对每一种class都设计了一个独立的model检测 deep：考虑了input之间的某些共同特征，所有class用同个model分类，share参数，modularization思想。 内容综述 1.论述：为什么不是深度神经网络比广度神经网络好在哪（即深度和广度神经网络的比较）。 2.深度神经网络的优势：Modulara.
【课程笔记】李宏毅机器学习[11]：Why Deep
tjwyj的博客
02-10 364
本系列课程笔记为李宏毅2017,秋，台湾大学课程。 视频网址链接：https://www.bilibili.com/video/av15889450?p=20 更新日期：20200209 Deep优点 Deep->Modularization – Don’t put everything in your main function. ...
李宏毅机器学习笔记
01-18
李宏毅机器学习笔记，文档文件，笔记全面，总结充分，仅供学习
李宏毅机器学习学习笔记
08-05
李宏毅机器学习学习笔记 本资源主要介绍了 Adaptive Learning Rate 的基本思想和方法，以及相关的算法和策略，如 Adgrad、RMSProp、Adam、Learning Rate Decay、Warm Up 等。 Adaptive Learning Rate 的主要思想是...
李宏毅机器学习全套资料
08-31
《李宏毅机器学习全套资料》是一份全面深入的机器学习教育资源，主要涵盖了教学演示文稿、作业解决方案以及详尽的课程内容。这份资源对于想要深入理解和掌握机器学习这一领域的学习者来说，无疑是一份宝贵的参考资料...
李宏毅2021机器学习深度学习笔记PPT作业
09-05
《李宏毅2021机器学习深度学习笔记PPT作业》是一份涵盖了现代人工智能领域核心知识的资源，主要集中在机器学习和深度学习这两个关键分支上。这份资料可能包括了李宏毅教授在2021年课程中的讲义、课后作业以及相关的...
李宏毅机器学习——学习笔记（19） Structured Learning
m0_37757740的博客
04-11 4645
Structured Learning 结构学习指的是输入和输出都是具有结构化的对象（数列、列表、树、边界框等）。 结构化学习的例子： 统一框架：训练过程，将输入X和输出Y进行匹配，判断两个对象之间的匹配程度。测试过程中，给定输入X，穷举所有的Y找到与X最为匹配的函数Y。 对匹配函数可以解释为：输入X和输出Y同时出现的概率 三个问题： 1.F(X,Y)匹配函数的形式 2.如何穷举所有的Y ...
李宏毅机器学习——学习笔记（20） Recurrent neural network
m0_37757740的博客
04-13 798
Recurrent neural network RNN的网络结构如图所示，不仅考虑输入层的输入，还要考虑memory中的所存储的内容。 RNN在训练过程中会考虑input中的sequence， RNN分为两种形式：Elman network（将hidden layer中的输出值输入到下一次的训练中）和Jordan Network（将整个网络的输出值输入到下一次的训练中） Bidirecti...
李宏毅机器学习——学习笔记（15） Unsupervised Learning—Auto encoder
m0_37757740的博客
04-07 705
Auto-encoder 1.encode：将原来高维sample encode成低维的code，再将code尽量decode成原来的sample。 2.deep auto-encoder只是将层数加深。auto encode的construction error不是重点，重点是code表示的有多好。 3. De-noising auto-encoder：在原来的sample上加入噪声数据，但...
李宏毅机器学习——学习笔记（21） Sequence Labeling
m0_37757740的博客
04-28 674
Hidden Markov Model(HMM): 步骤1：构造句子的词性Sequence 根据所得到sequence来获取你想要说的话 总结来说 求解POS的方式 训练的算法：Viterbi Algorithm， 复杂度只有O(L|S|^2) Conditional Random Field(CRF): 对于上述公式的举例说明， 通过类似的公式转换，最终log P(x,y)可...
李宏毅机器学习课程笔记：从深度学习到卷积神经网络
"李宏毅的机器学习课程笔记涵盖了从基础的回归分析、梯度上升算法，到分类问题、反向传播、卷积神经网络（CNN）、半监督学习、无监督学习以及线性模型等多个核心主题。这些内容构成了深度学习和机器学习的基础理论与...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值