深度学习
steadfastly
Stay hungry
展开
-
深度学习数学基础学习笔记——线性代数(持续更新中)
该笔记只是记录我现在不太熟悉的知识点。1.矩阵相乘 记分别为mxn和nxp的矩阵。 两个矩阵中对应元素的乘积称为元素对应乘积或者Hadamard乘积,记为,而要求和的维数相同。深度学习里面常用到这个运算,之前在论文里面有看到这个符号。 而标准乘积,,得到的是一个mxp的矩阵。2.标量、向量、矩阵和张量 张量就是多位数组,用“阶”表示张量的维度。...原创 2019-03-14 19:45:14 · 642 阅读 · 0 评论 -
深度学习学习笔记——卷积网络
卷积网络(convolutional network)是指神经网络中至少有一层使用了卷积运算来代替一般的矩阵乘法运算的神经网络。1.卷积运算卷积运算通常用星号表示:必须是一个有效的概率密度函数; 函数通常叫做输入; 函数叫作核函数(hernel function); 输出有时候被称为特征映射(feature map)。离散形式的卷积:输入通常是多维数组的数据...原创 2019-03-21 23:19:52 · 847 阅读 · 0 评论 -
吴恩达深度学习卷积神经网络学习笔记(1)
1垂直边缘检测器图1.1实现上图的卷积运算:python 中使用函数conv_forward 在tensorflow中使用函数tf.nn.conv2d 在keras框架中使用函数Conv2D其实这个就是数字图像处理里图像分割里面的梯度算子。要得到一幅图像的梯度,要求在图像的每个像素处计算偏导数和。我们处理的是数字量,因此要求关于一点的领域上的偏导数的数字近似。(1.1-1...原创 2019-03-28 04:13:33 · 592 阅读 · 0 评论 -
吴恩达深度学习卷积神经网络学习笔记(3)——迁移学习
1 使用开源的实现方案在GitHub资源库,需要感兴趣的网络的代码。下载方式:复制url在终端输入:git clone +url2 迁移学习找开源训练好了的网络。由于深度学习的训练,可能需要十几个GPU和几周的时间。数据集小:1)前面还是使用开源的网络框架和参数,修改最后的softmax层,训练该层的参数;2)删除倒数几层,修改最后的softmax层,训练该层的参数...原创 2019-04-03 23:37:53 · 461 阅读 · 0 评论 -
吴恩达深度学习卷积神经网络学习笔记(2)——经典神经网络
目录1.经典网络 1.1LeNet-5(1998) 1.2 AlexNet 1.3 VGG-162ResNets(残差网络) 2.1残差块(Residual block) 2.2 残差网络为什么有用? 2.3网络中的网络以及1x1卷积3 谷歌Inception网络1.经典网络 1.1LeNet-5(199...原创 2019-04-01 20:24:46 · 960 阅读 · 2 评论