- 博客(105)
- 问答 (1)
- 收藏
- 关注
RSS订阅原创 B站吴恩达深度学习视频笔记（27）——为什么使用卷积
前言啊，不得不说吴恩达使用的例子非常难描述。所以我偷懒用Keras做了卷积的小例子。但是这节课要用到之前的例子了，所以我不得不把应该在上节课的例子再补上。哎，该来的还是要来，逃不掉的。卷积神经网络实例构建全卷积神经网络的构造模块我们已经掌握得差不多了，下面来看个例子。假设，有一张大小为32×32×3的输入图片，这是一张RGB模式的图片，你想做手写体数字识别。32×32×3的RGB图片中含有...
2020-03-26 16:46:32
534
原创 B站吴恩达深度学习视频笔记（26）——简单卷积网络示例（使用了Keras框架）
本卷积网络包含：2维卷积层，卷积核数量为32，大小为3×3，激活函数为ReLU（卷积核数量为16的倍数）2维卷积层，卷积核数量为64，大小为3×3，激活函数为ReLU池化层，pool_size取2×2Flatten层把多维输入一维化全连接层 Dense(128, activation=‘relu’) ，神经元为128个Dropout(0.5) 在训练过程中每次更新参数时随机断开一定百...
2020-03-26 16:29:50
382
原创 B站吴恩达深度学习视频笔记（25）——池化层（Pooling）
池化层除了卷积层，卷积网络也**经常使用池化层来缩减模型的大小，提高计算速度，同时提高所提取特征的鲁棒性，**我们来看一下。先举一个池化层的例子，然后我们再讨论池化层的必要性。假如输入是一个4×4矩阵，用到的池化类型是最大池化（max pooling）。执行最大池化的树池是一个2×2矩阵。执行过程非常简单，把4×4的输入拆分成不同的区域，我把这个区域用不同颜色来标记。对于2×2的输出，输出的...
2020-03-26 16:07:49
1038
原创 B站吴恩达深度学习视频笔记（24）——单层卷积网络
推荐阅读通俗理解卷积神经网络 单层卷积网络今天我们要讲的是如何构建卷积神经网络的卷积层，下面来看个例子。上节课，我们已经讲了如何通过两个过滤器卷积处理一个三维图像，并输出两个不同的4×4矩阵。假设使用第一个过滤器进行卷积，得到第一个4×4矩阵。使用第二个过滤器进行卷积得到另外一个4×4矩阵。最终各自形成一个卷积神经网络层，然后增加偏差，它是一个实数，通过Python的广播机制给这16...
2020-03-26 12:40:15
271
原创 B站吴恩达深度学习视频笔记（23）——三维卷积
前言其实相对于卷积灰度图来说，三维卷积更贴近于我们的实际情况，毕竟我们拍摄到的照片都是彩色照片，这样就涉及我们在一开始几篇笔记里讲的RGB。三维卷积才是卷积真正应用的地方之一。三维卷积在上面笔记中你已经知道如何对二维图像做卷积了，现在看看如何执行卷积不仅仅在二维图像上，而是三维立体上。我们从一个例子开始，假如说你不仅想检测灰度图像的特征，也想检测RGB彩色图像的特征。彩色图像如果是6×6×...
2020-03-26 12:25:22
478
原创 B站吴恩达深度学习视频笔记（22）——卷积步长讲解
卷积步长卷积中的步幅是另一个构建卷积神经网络的基本操作，让我向你展示一个例子。如果你想用3×3的过滤器卷积这个7×7的图像，和之前不同的是，我们把步幅设置成了2。你还和之前一样取左上方的3×3区域的元素的乘积，再加起来，最后结果为91。只是之前我们移动蓝框的步长是1，现在移动的步长是2，我们让过滤器跳过2个步长，注意一下左上角，这个点移动到其后两格的点，跳过了一个位置。然后你还是将每个元素...
2020-03-26 12:20:37
626
原创 B站吴恩达深度学习视频笔记（21）——Padding原理讲解
前言为了构建深度神经网络，你需要学会使用的一个基本的卷积操作就是padding，让我们来看看它是如何工作的。Padding我们在之前笔记中看到，如果你用一个3×3的过滤器卷积一个6×6的图像，你最后会得到一个4×4的输出，也就是一个4×4矩阵。那是因为你的3×3过滤器在6×6矩阵中，只可能有4×4种可能的位置。这背后的数学解释是，如果我们有一个n×n的图像，用f×f的过滤器做卷积，那么输出的...
2020-03-26 12:17:11
468
原创 B站吴恩达深度学习视频笔记（20）——更多关于卷积在边缘检测的方法
前言你已经见识到用卷积运算实现垂直边缘检测，在本笔记中，你将学习如何区分正边和负边，这实际就是由亮到暗与由暗到亮的区别，也就是边缘的过渡。你还能了解到其他类型的边缘检测以及如何去实现这些算法，而不要总想着去自己编写一个边缘检测程序，让我们开始吧。更多边缘检测的内容看这张图还是上一个笔记中的例子，这张6×6的图片，左边较亮，而右边较暗，将它与垂直边缘检测滤波器进行卷积，检测结果就显示在了右...
2020-03-26 12:12:24
417
原创 B站吴恩达深度学习视频笔记（19）——卷积网络的边缘检测
前言从本篇笔记我们正式开始学习卷积神经网络。卷积运算是卷积神经网络最基本的组成部分，使用边缘检测作为入门样例。在这个笔记中，你会看到卷积是如何进行运算的。在之前的笔记中，我说过神经网络的前几层是如何检测边缘的，然后，后面的层有可能检测到物体的部分区域，更靠后的一些层可能检测到完整的物体，这个例子中就是人脸。在这个视频中，你会看到如何在一张图片中进行边缘检测。边缘检测让我们举个例子，给了这...
2020-03-26 12:07:25
451
原创 B站吴恩达深度学习视频笔记（18）——计算机视觉
前言这是真正开讲卷积神经网络之前最后一篇作为铺垫的笔记了，计算机视觉与卷积神经网络密切相关。理解计算机视觉，才能理解为啥会出现卷积神经网路。计算机视觉计算机视觉是一个飞速发展的一个领域，这多亏了深度学习。深度学习与计算机视觉可以帮助汽车，查明周围的行人和汽车，并帮助汽车避开它们。还使得人脸识别技术变得更加效率和精准，你们即将能够体验到或早已体验过仅仅通过刷脸就能解锁手机或者门锁。当你解...
2020-03-26 11:59:18
455
原创 B站吴恩达深度学习视频笔记（17）——神经网络中的参数和超参数
前言这节课是补的，这两个概念很重要。卷积神经网络也是神经网络，也会按照神经网络的工作模式运转，照样有权重和超参数，照样有向前传播和向后传播。所以这篇笔记我们来了解一下什么是超参数，他和参数有什么区别。参数VS超参数想要你的深度神经网络起很好的效果，你还需要规划好你的参数以及超参数。什么是超参数？比如算法中的learning ratea（学习率）、iterations(梯度下降法循环的数量...
2020-03-26 11:53:32
394
原创 B站吴恩达深度学习视频笔记（16）——何时需要端到端的深度学习？
是否要使用端到端的深度学习假设你正在搭建一个机器学习系统，你要决定是否使用端对端方法，我们来看看端到端深度学习的一些优缺点，这样你就可以根据一些准则，判断你的应用程序是否有希望使用端到端方法。这里是应用端到端学习的一些好处，首先端到端学习真的只是让数据说话。所以如果你有足够多的(x,y)数据，那么不管从x到y最适合的函数映射是什么，如果你训练一个足够大的神经网络，希望这个神经网络能自己搞清...
2020-03-26 11:42:57
250
原创 B站吴恩达深度学习视频笔记（15）——端到端的深度学习
前言从这篇笔记开始，我们来学习卷积神经网络。不过在学习卷积之前，你需要理解端到端的深度学习。笔记会从各种实际例子出发，让大家更好地理解知识。同时，需要说明的一点是，由于卷积涉及神经网络的知识非常多，有很多模型都是基于卷积神经网络的。由于我优先按照学校老师讲知识的进度更新笔记，所以这些模型很可能不会涉及。可能要等到后面几篇笔记才会讲到很高级的卷积应用。为啥隔了这么长时间呢，因为学校老师突然讲卷积...
2020-03-26 11:35:49
488
原创 神经网络第二部分更新前言
由于学校老师的进度问题，今明两天会更新有关卷积神经网络的文章。不仅仅是简单了解卷积神经网络，我们从边缘检测出发，一点一点告诉你卷积神经网络的原理和工作模式，最后会有若干个有关卷积神经网络的例子。而浅层神经网络的知识我们等了解完卷积神经网络之后再来了解。...
2020-03-25 11:42:37
157
原创 过拟合问题
前言一开始，我在用自己学到的各种模型对数据做预测时，有时候自己的模型与训练数据拟合的非常好，但在测试样例中却表现的很糟糕。是模型不够好？数据有问题？于是我就换用更复杂的模型，在神经网络中也尝试不断地增加层数，结果模型与训练数据拟合的越来越好，但在测试样例中表现的越来越糟糕。这是我曾经踏入的一个误区，总以为模型和算法是机器学习的核心，不知不觉就陷入了所谓的过拟合（Overfitting）陷阱...
2020-03-22 21:17:16
1219
原创 2020.3.22-随笔
中午的时候和小姐姐聊机器学习和未来的发展规划。她和我一样对于我们老师目前这种吞枣式教学不满意，也希望自己可以真正掌握一门技术，但是表示机器学习太难了。我给她推荐了自己写的博客，因为我也是从萌新刚刚入门，所以我在更新机器学习相关博文的时候心里很明白，我写的东西一定要让我这样的新手看懂，这样一开始才不至于那么难，让很多抱有一腔热血想要入门机器学习的同学退却。可是聊着天我发现虽然小姐姐对于我提供给她的...
2020-03-22 18:57:32
163
原创 B站吴恩达深度学习视频笔记（1-14）——实战3：识别猫图
前言还记得在前几节课中吴恩达老师讲述如何识别一张图片，以及电脑识别图片的原理吗？这篇笔记中就会用到之前笔记1-14除了机器学习框架以外几乎所有的知识，来完成入门阶段终极实战——识别猫图。我们即将使用逻辑回归搭建一个简单的单层神将网络，并实现猫图的识别。本篇中的单层神经网络在训练集与测试集上分别获得了 100% 与 70% 的正确率。数据导入使用的数据是著名的catvnoncat数据集，数...
2020-03-20 10:09:55
1716
原创 B站吴恩达深度学习视频笔记（14）——实战2：解决二分类问题
前言相比上一篇实战，在这一篇笔记里，你可以学到更多有关检验和模型优化的经验，对于初学者来说，这样的经验尤为宝贵。同样的，我们还是使用Keras框架。这次是数据集，我们选用声纳数据集。教程概述在看完本教程之后你将学会:如何加载和准备数据如何创建一个基线神经网络模型如何使用scikit-learn 和 k-fold 交叉验证评估Keras模型数据准备如何提升你的模型的性能如何调整网络...
2020-03-19 20:34:29
580
原创 B站吴恩达深度学习视频笔记（13）——实战1：动手搭建第一个神经网络
前言到此为止，神经网络基础就正式告一段落。坚持看到这篇文章的同学，恭喜你，你已经正式入门机器学习了。不过吴恩达老师视频不可能给我们现场演示写代码，所以课下实现老师所讲的内容就要靠我们自己了。下面我们自己来动手搭建第一个神经网络吧。教程概述这里不需要编写太多的代码,不过我们将一步步慢慢地告诉你怎么以后怎么创建自己的模型。教程将会涵盖以下步骤:加载数据定义模型编译模型训练模型评估模...
2020-03-19 19:54:20
432
原创 B站吴恩达深度学习视频笔记（12）——Python中的广播
前言没错，就是python的这个东西让向量化大大提高你代码的运行速度，python的广播机制。在这一篇笔记，我们会从一个例子开始。其实python的广播机制很简单。python中的广播这是一个不同食物(每100g)中不同营养成分的卡路里含量表格，表格为3行4列，列表示不同的食物种类，从左至右依次为苹果，牛肉，鸡蛋，土豆。行表示不同的营养成分，从上到下依次为碳水化合物，蛋白质，脂肪。那么，...
2020-03-19 16:13:38
361
原创 B站吴恩达深度学习视频笔记（11）——多样本梯度下降和向量化处理多批次数据
前言多样本梯度下降原理和单样本是一样的，只不过使用了代价函数——样本集中每个样本对应损失函数的平均值。而向量化对于深度学习处理数据速度的提升是非常大的，我们结合刚刚的多样本梯度下降讲一下向量化。m 个样本的梯度下降和向量化处理数据在之前的笔记中,已经讲述了如何计算导数，以及应用梯度下降在逻辑回归的一个训练样本上。现在我们想要把它应用在m个训练样本上。首先，让我们时刻记住有关于损失函数就J...
2020-03-19 16:05:52
332
原创 B站吴恩达深度学习视频笔记（10）——从计算图（Computational Graph）角度计算梯度下降
前言计算图是一个很重要的概念。在上一篇笔记里面，我们把公式写进小格子里面看作图的一个结点，通过图结点的前驱和后继完成对于参数的更新，以及数值的运算，这就是计算图的用法。为了更好地在神经网络中利用计算图做点事情，这篇笔记会告诉你如何使用计算图计算梯度下降（梯度下降光讲是啥了，还没说怎么算呢）计算图计算梯度下降本节我们讨论怎样通过计算偏导数来实现逻辑回归的梯度下降算法。它的关键点是几个重要公式...
2020-03-19 12:01:18
465
1
原创 B站吴恩达机器学习视频笔记（9）——神经网络中的向前传播和向后传播计算
前言理解神经网络中的向前传播和向后传播计算对于理解神经网络工作机制是很重要的。吴恩达老师的视频是通过列举具体的公式和数据，还原向前传播和向后传播计算过程，来让我们理解他们的。总之这个地方对于导数的知识是有要求的，但是由于我们老师已经开始讲数据挖掘预测了，我这博客更新的内容还处于初级阶段，所以导数的内容我不再赘述，需要补数学的同学去哔哩哔哩搜索宋浩老师，看有关导数的几节视频就可以了，其他的像贝叶...
2020-03-19 11:39:09
1381
原创 B站吴恩达机器学习视频笔记（8）——梯度下降
前言啊，这个吴恩达老师讲这个梯度下降的方式有点吓人，又掏公式又弄三维坐标系的，其实梯度下降没有看上去那么难，视频中讲的比较专业，虽然努努力还是可以理解的，但是相对于萌新来说不太友好，有的同学可能一看这么多公式就放弃了。不过不要紧嘛，我也是萌新嘛，我给你们解释你们不就懂的容易了，萌新何必为难萌新呢。不过我还是会把吴恩达老师讲的内容放到文章最后，你们先看简单的，再看比较难的，就会很开心。梯度下降零...
2020-03-16 20:50:24
524
1
原创 B站吴恩达深度学习视频笔记（7）——逻辑回归的代价函数
前言代价函数，损失函数，误差函数，这些函数名看起来意思十分相近，实际上他们的意思也十分相近，这篇博文就来介绍一下这几个函数，以及他们在机器学习中的重要作用。代价函数很重要！为什么需要代价函数为了训练逻辑回归模型的参数 w和参数b我们，需要一个代价函数，通过训练代价函数来得到参数w和参数b 。先看一下逻辑回归的输出函数：为了让模型通过学习调整参数，你需要给予一个m样本的训练集，这会让你在训...
2020-03-16 17:02:23
621
原创 B站吴恩达深度学习视频笔记（6）——逻辑回归
前言逻辑回归是机器学习非常重要的一种模型，在机器学习的某些场景下，甚至出现了“一个LR打天下”的情况，可以说这个模型是机器学习必须精通的模型。在这之前，你肯定接触过线性回归，但是逻辑回归和线性回归存在不小的差异，我需要先帮你弄清线性回归和逻辑回归是什么，他们有什么区别，再通过吴恩达老师的视频，详细地讲一下逻辑回归。什么是线性回归（Linear regression）首先我们要了解，什么是回归...
2020-03-16 00:02:17
414
原创 B站吴恩达深度学习视频笔记（5）——二分类问题
前言这几天在努力攻克神经网络，并想办法怎么把那些非常吓人的推到公式变成大家喜欢看的形式，用大家熟知的语言描述出来。很多人都是在神经网络这里看到一大坨公式然后知难而退。神经网络是机器学习的必经之路，是初学者们必须攻克的第一个难题，我会尽量用你们容易接受的语言和知识向你们描述神经网络中的一些最最基础也是最最重要的部分。现在我们来了解一下深度学习中比较简单的一类问题：二分类问题。二分类(Binary...
2020-03-15 23:10:29
1413
原创 机器学习部分神经网络——更新前言
真正接触到神经网络之后发现，神经网络对于机器学习初学的朋友真的是第一块非常难啃但是必须要啃的硬骨头，很多关键性的概念和知识，思维模式，都包含其中，本人也在努力梳理和学习，想和我一起从萌新的视角入门神经网络，知道一些很基础但是很重要的模型和算法的同学，请点个关注，我会按照本人学习进度陆续更新通俗易懂的笔记博文。给你们一个参考，同时请精通机器学习的大佬多多指教。...
2020-03-14 22:29:20
228
原创 B站吴恩达深度学习视频学习笔记（4）——-为什么深度学习会兴起？
前言这节课主要讲述了当今机器学习的探索过程，从过程中我们是怎么样总结优化，使得机器学习一直在被完善和发展。有一些概念和想法对于今后的学习还是很重要的，可以让你知道自己为什么要这么做，为什么要加那个函数等等。为什么深度学习会兴起？(Why is Deep Learning taking off?)本节视频主要讲了推动深度学习变得如此热门的主要因素。包括数据规模、计算量及算法的创新。(3个重点概...
2020-03-13 00:16:44
334
原创 [通俗易懂]机器学习中的激活函数
十分形象地讲：神经网络的激活函数（activation function）是一群空间魔法师，扭曲翻转特征空间，在其中寻找线性的边界。如果没有激活函数，那么神经网络的权重、偏置全是线性的仿射变（affine transformation）：这样的神经网络，甚至连下面这样的简单分类问题都解决不了：在这个二维特征空间上，蓝线表示负面情形（y=0），绿线表示正面情形（y=1）没有激活函数的加...
2020-03-12 23:14:08
619
原创 B站吴恩达深度学习视频学习笔记（3）——-神经网络如何实现监督学习？
前言刚开始几节课都在宏观地讲一些观念和Why，具体的做法可能要到后面才能讲到。不过这几节课都在补充机器学习很重要的词汇，并且去解释他们。这对于以后的学习是非常重要的。神经网络的监督学习(Supervised Learning with Neural Networks)（请注意文中粗体部分内容，划重点吶！）关于神经网络也有很多的种类，考虑到它们的使用效果，有些使用起来恰到好处，但事实表明，到...
2020-03-12 23:08:26
274
原创 B站吴恩达深度学习视频学习笔记（2）——-什么是神经网络（Neural Network）
前言这节课通过举例子的方式形象生动地介绍了什么是神经网络，以下内容基本为原视频翻译内容，内容十分生动详细，很好理解。什么是神经网络？(What is a Neural Network)我们常常用深度学习这个术语来指训练神经网络的过程。有时它指的是特别大规模的神经网络训练。那么神经网络究竟是什么呢？在这个视频中，会讲解一些直观的基础知识。首先，让我们从一个房价预测的例子开始讲起。假设你有一...
2020-03-12 21:58:47
494
原创 B站吴恩达深度学习视频学习笔记（1）——深度学习引言
前言吴恩达的机器学习视频对于想系统学习机器学习的朋友来说，绝对是不二之选。在这里，我会结合机器学习前辈们的一些学习心得和讲解，以吴恩达的视频内容为基础，和大家分享交流机器学习的知识。我自己可能会添加一些代码或者例子。这个系列的博文在前辈们的观点的基础上添加了一些自己的理解，如果有大佬觉得有什么不合适的地方，还请多多指教。深度学习引言第一个视频主要讲了什么是深度学习，深度学习能做些什么事情。...
2020-03-12 20:56:09
569
转载 Keras - 五步快速入门深度学习
有监督学习，无监督学习，分类，聚类，回归神经元模型，多层感知器，BP算法目标函数（损失函数），激活函数，梯度下降法全连接网络、卷积神经网络、递归神经网络训练集，测试集，交叉验证，欠拟合，过拟合数据规范化其他我还没想到的东西……想到再补充...
2020-03-11 22:41:04
822
原创 Python中如何安装Libsvm模块(Win10环境)
前言学习SVM普遍用到的软件库就是Libsvm了，我们都知道在Linux下的Libsvm模块非常好装，只需要先从网站下载LibSVM的安装包，然后解压。从终端进入解压目录，输入 make。cd python/make好了，搞定！为了测试是否成功，在终端启动python，输入：import svm完事。但是，如果是在Windows环境下，就麻烦的多刚开始，我想把libsvm当成一...
2020-03-09 18:24:05
7303
8
原创 Python机器学习K-means聚类算法
概述K-means聚类算法也称k均值聚类算法，是集简单和经典于一身的基于距离的聚类算法。它采用距离作为相似性的评价指标，即认为两个对象的距离越近，其相似度就越大。该算法认为类簇是由距离靠近的对象组成的，因此把得到紧凑且独立的簇作为最终目标。核心思想K-means聚类算法是一种迭代求解的聚类分析算法，其步骤是随机选取K个对象作为初始的聚类中心，然后计算每个对象与各个种子聚类中心之间的距离，把每...
2020-03-09 12:27:40
440
原创 初学Python实训心得以及一个爬虫例子
了解Python，学会Python，实战python通过这次Python实训，我收获了很多，一方面学习到了许多以前没学过的专业知识与知识的应用，另一方面还提高了自我动手做项目的潜力。本次实训是对我潜力的进一步锻炼，也是一种考验。从中获得的诸多收获，也是很可贵的，是十分有好处的。在实训中我学到了许多新的知识，是一个让我把书本上的理论知识运用于实践中的好机会，原先，学的时候感叹学的资料太难懂，此刻...
2020-03-07 22:48:11
24828
1
原创 Python中机器学习库Tensorflow官方中文文档和Scikit-learn官方中文文档
Tensorflow官方中文文档Scikit-learn官方中文文档
2020-03-07 22:43:33
179
原创 Python数据可视化库Matplotlib
前言python的数据可视化库，Matplotlib，是一个Python的2D绘图库。通过这个库，开发者可以仅需要几行代码，便可以生成绘图，直方图，功率图，条形图，错误图，散点图等等一点一点画一张图首先我们有一组数据如下：我们可以看到，这组数据有日期，还有日期对应的值，因为这组数据中的日期格式不是标准的日期格式那么我们对数据做一下转换，取1948年的整年的数据，来进行一个绘图操作im...
2020-03-07 22:14:40
2603
4
原创 （讲解+实例）带你熟悉Python中的数据分析库Pandas
pandas模块简介pandas是一个强大的分析结构化数据的工具集；它的使用基础是Numpy（提供高性能的矩阵运算）；用于数据挖掘和数据分析，同时也提供数据清洗功能。Pandas中常见的数据结构有两种：SeriesDateFrame类似一维数组的对象类似多维数组/表格数组；每列数据可以是不同的类型；索引包括列索引和行索引。Series构建Series：ser_...
2020-03-07 20:52:46
3188
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人