深度学习
文章平均质量分 68
大叔爱学习.
所谓至明,不过至专。
展开
-
台大李宏毅老师——深度学习 课程笔记 八 (CNN)
文章目录IntroductionWhy CNNThe Whole CNNConvolutionConvolution v.s. Fully ConnetedMax PoolingFlattenCNN in KerasWhat does CNN learn?Introduction图像识别在Deep Learing的input就是将图片转成pixel的维度个数,output就是要分类的种类的个数。这个在Modularization那一章讲过,前面的layer是basic的,越往后就是模型的拼接。但是原创 2022-03-02 21:52:41 · 631 阅读 · 0 评论 -
台大李宏毅老师——深度学习 课程笔记 七 (Why DNN Modularization)
文章目录IntorductionModularizationModularization in SpeechIntorduction为什么越深,error rate越低?所以是shallow更好,还是Deep更好呢?从上图可以看出,还是越深越好,而不是越胖越好,为什么呢?Modularization模块化的思想。如同我们写函数,都是对象函数,然后调用不同的对象函数完成不同的功能,那么这个思想在DNN中是怎样的?如果我们训练4个classifier,可以看出,因为长发男生数据比较少,那原创 2022-03-01 22:55:20 · 283 阅读 · 0 评论 -
台大李宏毅老师——深度学习 课程笔记 六 (Tips for DNN Regularization)
文章目录Recipe of Deep LearningReLUMaxoutAdagrad & RMSpropLocal MinimumRecipe of Deep Learning在Deep learning中,我们一定是先看training data的表现好不好,然后再看在testing data上面的表现。如果在training data就不好,要先调整模型达到不错的表现。所以我们不要一看到20-layer比50-layer在testing表现好,就说50-layer 过拟合了,先要去原创 2022-03-01 11:44:47 · 626 阅读 · 0 评论 -
台大李宏毅老师——深度学习 课程笔记 五 (Deep Learning BackPropagation)
文章目录IntroductionNeural NetworkBackpropagationIntroductionDeep Learning的神经网络就是一个functionNeural Network现在用的激活函数已经是tanh或者leakyRelu了。ResNet用了特殊的结构,不是单纯的叠加层数其实本质用的Matrix Operation。但是我现在想不起来batch是怎么做运算的。batch应该是增加一维。这种线性代数的计算不断堆叠,GPU算起来更快。可原创 2022-02-25 15:27:14 · 433 阅读 · 0 评论 -
台大李宏毅老师——深度学习 课程笔记 四 (Classification)
文章目录原创 2022-02-24 22:11:10 · 697 阅读 · 0 评论 -
台大李宏毅老师——深度学习 课程笔记 三 (Optimization)
文章目录原创 2022-02-22 22:30:18 · 605 阅读 · 0 评论 -
台大李宏毅老师——深度学习 课程笔记 二 (Gradient Descent)
文章目录Gradient DescentLearning RateStochastic Gradient DescentFeature ScalingGradient Descent TheoryGradient DescentLearning Rate我们可以在实际过程,画出右边的图,就是每当参数进行了更新后,loss的变化情况,然后来选择合适的learning rate。Stochastic Gradient DescentFeature Scaling原创 2022-02-21 12:58:20 · 2676 阅读 · 0 评论 -
台大李宏毅老师——深度学习 课程笔记 一 (Summary Regression Basic Concept)
文章目录概述Supervised LearningReinforcement LearningUnsupervised Learning前沿研究Meta learningLife-long learningRegressionRegression ApplicationExample AplicationBasic Concept概述机器学习不只是有分类和回归任务,还有GAN。也就是自动生成结构性的复杂数据,比如句子或者图片。现在再回看李宏毅老师的深度学习,可以说自己对于它的理解也更进一步了。GAN更原创 2022-02-20 16:23:06 · 430 阅读 · 0 评论