- 博客(13)
- 收藏
- 关注
RSS订阅原创 神经网络加深和加宽的影响
前言深度学习之所以被称为"深度"，是相对支持向量机(supportvector machine, SVM)、提升方法(boosting)、最大熵方法等"浅层学习"方法而言的，深度学习所学得的模型中，非线性操作的层级数更多。浅层学习依靠人工经验抽取样本特征，网络模型学习后获得的是没有层次结构的单层特征；而深度学习通过对原始信号进行逐层特征变换，将样本在原空间的特征表示变换到新的特征空间，自动地学习得到层次化的特征表示，从而更有利于分类或特征的可视化。深度学习理论的另外一个理论动机是：如果一个函数...
2020-10-12 11:42:07
6839
1
原创 卷积、分组卷积、深度可分离卷积、可变型卷积、空洞卷积介绍
**思想：**从函数（或者说映射、变换）的角度理解：卷积过程是在图像每个位置进行线性变换映射成新值的过程，将卷积核看成权重，从这个角度看，多层卷积是在进行逐层映射，整体构成一个复杂函数，训练过程是在学习每个局部映射所需的权重，训练过程可以看成是函数拟合的过程从模版匹配的角度理解：卷积与相关在计算上可以等价，相关运算常用模板匹配，即认为卷积核定义了某种模式，卷积（相关）运算是在计算每个位置与该模式的相似程度，或者说每个位置具有该模式的分量有多少，当前位置与该模式越像，响应越强。卷积神经网络中的隐藏层即可以看
2020-07-22 16:09:47
1059
1
原创 梯度消失和梯度爆炸
梯度消失和梯度爆炸本质上是一样的，都是因为网络层数太深而引发的梯度反向传播中的连乘效应。梯度消失：好的参数初始化、批规范化、更换激活函数，使用残差结构梯度爆炸：好的参数初始化、梯度截断，L2正则化文章目录好的参数初始化方式规范化激活函数L2正则化好的参数初始化方式（1）不可全零初始化全零初始化会导致所有参数无法更新，具体参考：https://www.cnblogs.com/chason95/articles/10711017.html（2）不可初始化相同值：每个节点相当于等价的节点输入权值完
2020-07-21 11:43:03
253
原创 标准化、归一化、规范化区别
规范化包括标准化、正则化、归一化“规范化”(normalization)是将不同变化范围的值映射到相同的固定范围中，常见的是[0,1],此时亦称“归一化”规范化定义的操作很广，一个数据集随便加减某个数（shift），随便乘除某个数（scale），或者这两个操作进行组合，都可以是规范化。标准化(standardization)：将数据处理成均值为0，方差为1的一批数据，处理后数据的取值范围是 (+∞,−∞)\left (+\infty,-\infty \right )(+∞,−∞)归一化(norma
2020-07-21 10:38:48
5335
原创 深度学习常见的优化器
模型性能不好，可能存在的问题：（1）模型设计（2）优化算法的问题（3）过拟合机器学习几乎所有的算法都要利用损失函数来检验算法模型的优劣，同时利用损失函数来提升算法模型，这个提升过程叫做优化 （Optimizer）。优化器定义了改变权重和偏置的方法优化过程就是优化代价函数：（1）Adagrad、RMSprop、Adam等算法都是建立在偏导数之上的，他们并不关心上式中N的取值，N取1，取100，还是取N，Adagrad、RMSprop、Adam等算法都可以运行。（2）而随机梯度下降法（Stoc
2020-07-20 19:07:06
725
原创 虚拟机、真实机、docker容器的区别
虚拟机和真实机虚拟机与真实机的区别为：性质不同、运行性能不同、操作系统种类不同。一、性质不同1、虚拟机：虚拟机是通过软件模拟的具有完整硬件系统功能的、运行在一个完全隔离环境中的虚拟计算机系统镜像。这是虚拟机的软件从电脑资源中分出一部分的CPU、内存、硬盘存储等，然后虚拟机软件把这些资源整合，组成了一台电脑，所以才称为虚拟机。2、真实机：真实机是用真实的具有完整硬件系统功能的、运行在一个完全隔离环境中的完整计算机系统。二、运行性能不同1、虚拟机：虚拟机不会降低电脑的性能，启动虚拟机不需要像启动真实
2020-07-20 10:44:16
5412
原创 SIFT特征匹配详细讲解
参考博客https://blog.csdn.net/sss_369/article/details/84674639https://blog.csdn.net/qq_37374643/article/details/88606351https://blog.csdn.net/ds0529/article/details/79617619https://blog.csdn.net/ds0529/article/details/79617619SIFT特征匹配：高斯金字塔–>DoG高斯差分金字
2020-07-16 21:44:56
1615
原创 pytorch和tensorflow保存权重文件
pytorch 保存的权重以 .pth 结尾tensorflow保存的权重以 .ckpt 结尾pytorch加载预训练模型：model.load_state_dict(torch.load(model_path))训练完train_datasets之后，model要来测试样本了。在model(test_datasets)之前，load（model）之后，需要加上model.eval(). 否则的话，有输入数据，即使不训练，它也会改变权值。这是model中含有batch
2020-06-16 22:31:28
2242
1
原创 anaconda创建环境问题
（1）conda create --name tensorflow python=3.6如果不加python=*** 会造成创建的环境里只有一个 conda-meta文件在这里插入图片描述（2）安装python2.7时，环境中没有pipsudo gedit /home/anaconda/***/envs/bin/pip修改为：from pip import mainimport sysif name ==“main”:sys.exit(main.main())...
2020-06-16 10:36:06
492
原创 coco voc ImageNet数据集介绍
ms coco ms是微软2014：训练集 + 验证集 + 测试集2015：测试集2017：训练集 + 验证集 + 测试集MSCOCO2014数据集：训练集： 82783张，13.5GB， 验证集：40504张，6.6GB，共计123287张MSCOCO2017数据集：训练集：118287张，19.3GB，验证集： 5000张，1814.7M，共计123287张**PK的内容包括：...
2020-05-26 09:31:29
922
原创 ubuntu下conda install pip install apt-get install的区别
pip和conda的区别不同点：conda是一种通用包管理系统，是想要构建和管理任何语言的任何类型的软件，它也适用于Python包；Pip是Python的官方认可的包管理器，最常用于安装在Python包索引（PyPI）上发布的包。pip是Python包的通用管理器； conda是一个与语言无关的跨平台环境管理器。对于用户，最显着的区别可能是这样的。pip安装好的包只在当前环境中使用co...
2020-03-21 17:53:05
1659
原创 tensorflow 和keras 版本匹配问题
tensorflow和keras版本对应关系查看地址安装的tensorflow版本和keras版本不匹配可能出现的问题：（1） AttributeError: module 'tensorflow.python.keras.backend' has no attribute 'get_graph'（2）TypeError: softmax() got an unexpected keywo...
2020-03-21 14:20:36
2581
原创 ubuntu 安装向日葵
在这里插入代码片网络下载对应版本执行命令：sudo dpkg -i 软件名如果缺乏依赖的错误 执行命令sudo apt install -f然后重新执行安装命令
2020-03-15 09:03:58
1821
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人