深度学习
文章平均质量分 90
杨keEpsTrong-
这个作者很懒,什么都没留下…
展开
-
【论文】pointnet代码解读
1 引言PointNet论文解读已经在前文中做以总结,本文简单讲述PointNet的复现,并对源码及其架构作以总结2 论文复现2.1 环境配置源码:PointNet组件版本:tensorflowGPU1.13.1+cuda10.0.1+cudnn7.4.2配置流程:TensorflowGPU安装2.2 运行1 从Anaconda Prompt中激活TensorflowGPU环境2 进入源码根目录之下,运行train.py3 在dump文件夹之下查看错误训练结果上述错误图片命名格式为原创 2021-11-21 22:37:53 · 1241 阅读 · 0 评论 -
【深度学习】5 优化算法:mini-batch、Momentum、RMSprop、Adam、学习率衰减
1 引言历经调试,我们已经建立了一个精确的信息汇总以及决策生成的组织架构,但是光精准还是不够的,要讲究效率。于是我们成立了不同的部门,将公司千千万的员工划归至不同的部门,对于某个时间,各个部门以其专业视角来看待问题。除此之外,还有什么能提高决策生成的效率的方法呢?迭代是一个高度依赖经验的过程,但是也存在一些手段提高迭代的效率。本文内容主要包括两个方面,一是mini−batchmini-batchmini−batch,二是adamadamadam算法。2 mini-batch作者本人在深度学习的过程中,原创 2021-10-13 15:37:12 · 360 阅读 · 0 评论 -
【深度学习】4 深度学习的实践层面:方差与偏差、L2正则化、DropOut正则化
1 引言假设历经训练,前文所述的公司神经网络以及训练完毕,对于下属的各个意见经过开会最终都可汇聚成大boss的输出,那么如何评价这个输出的正确与否呢?或者说如何评价这个公司的执行决策神经网络的性能呢?2 方差和偏差2.1 两个误差首先明确两个概念:验证集误差和训练集误差。这个误差,是和谁比较得出的呢?容易想到,我们神经网络训练完毕后,总代价不会是零,自然的,将训练集样本放入神经网络,得到的输出与真实值的差值即为训练集误差;同样的将验证集样本放入神经网络,得到的输出与验证集真实值的差值即为验证集误差原创 2021-09-24 18:56:02 · 340 阅读 · 0 评论 -
【深度学习】3 深层神经网络
1 引言如图所示,我们建立了一个四层的神经网络,相对于前文所描述的神经网络,他是一个深层神经网络,接下来,我们将推导这个神经网络建立的过程。深层神经网络2 符号定义上图是一个四层的神经网络,有三个隐藏层。我们可以看到,第一层(即左边数过去第二层,因为输入层是第0 层)有555个神经元数目,第二层555 个,第三层 333 个。我们LLL表示层数,上图:????=4???? = 4L=4,输入层的索引为“0”“0”“0”,第一个隐藏层n[1]=5n^{[1]} = 5n[1]=5 ,表示有 555原创 2021-09-24 18:38:39 · 270 阅读 · 0 评论 -
【深度学习】2 浅层神经网络
1 问题的引入给一张图片,如何判断它是不是一只猫呢?前文已给出了从数学角度判断的方式,让我们抛开这些,从生理角度想一想。从眼睛接收到图片的光学信号,到大脑给出判断,中间存在一个隐藏的过程。我们在初中生物课本已经学过,身体的一切感知都会生成分泌物,作用在一个个神经元上,个个神经元组成复杂的网络,他们之间通过电信号传递信息,直至最后大脑做出判断。如何将上述过程以数学的角度复现呢?某公司开会,到场的有各部门的领导以及大boss,boss该如何判断当前公司情况呢?2 浅层神经网络我们知道,Logistic原创 2021-09-24 17:59:06 · 177 阅读 · 0 评论 -
【深度学习】1 Logistic回归与梯度下降
0 前言本文是吴恩达教授深度学习课程的个人笔记,细节之处有所遗漏,如想了解更多请参照《神经网络与深度学习》-Stanford吴恩达教授1 问题的引入假设我们手边有m张猫的图片,以及一张不知道内容的图片,如何判断这张图片是不是猫呢?或者说,这张图片是猫的概率有多大呢?2 分析我们知道,一张图是由若干像素所组成,每个像素上的颜色是由其RGB值确定,假设这里的照片都是64×64像素,因此,一张照片可以看做红绿蓝三个RGB值组成的64×64矩阵。将这64×64个像素纵向排列,我们就得到了一个64×64维度原创 2021-09-24 17:40:44 · 236 阅读 · 0 评论