Beb1997-CSDN博客

去到NYU Depth V2 官网下载数据集，如下图所示。这里我们只是用RGB数据，不使用RGB-D数据（带深度信息），所以只需要下载Labeled dataset (~2.8 GB)即可。原始数据集使用.mat格式，这里需要将其转换为常见的RGB图像和.png格式的灰度标注图像。这里使用Github已有的脚本来实现转换任务。从这里 https://github.com/xmojiao/dee...

2019-06-23 13:15:59 9627 19

原创【深度学习】语义分割 PASCAL Context 数据集

数据集介绍PASCAL Context数据集由两部分组成：PASCAL VOC 2010 语义分割数据集；Context 标注。PASCAL Context 总共有459个标注类别，包含 10103 张图像，其中 4998 用于训练集，5105 用于验证集。现在最广泛地用法是使用其中出现频率最高的 59 个类别最为语义标签，其余类别标记为背景即background。采用这一做法的论文有...

2019-06-23 12:55:52 12609 25

原创【深度学习】语义分割 PASCAL VOC 2012 增强数据集

概述这个数据集是Hariharan[1]提供的做法，后来被广泛采用，包括[2][3][4][5][6]，这里参考博文用于FCN的Pascal VOC 2012增强版语义分割数据集制作的步骤。其中的步骤已经描述得相当清楚，但是，文章提供的PASCAL VOC 2012语义分割数据集彩色标注转灰度图的脚本有错误，请使用笔者Debug之后的脚本：另外，上述博客的如下命令路径有误：python c...

2019-05-27 14:23:36 5451 5

原创【深度学习】含有并行连接的深度卷积网络GoogLeNet

文章目录GoogLeNet模型基础块Inception模型构建实验实验代码实验结果本文为《动手学深度学习》一书学习笔记，原文地址：http://zh.d2l.ai/chapter_convolutional-neural-networks/googlenet.htmlGoogLeNet模型基础块InceptionGoogLeNet中的基础卷积模块叫作Inception块，里面有4条并行的...

2019-02-17 20:32:09 2202 2

原创【深度学习】深度卷积网络AlexNet及其MXNet实现

文章目录AlexNet概述网络结构FashionMNIST数据集实验实验代码结果讨论参考文献AlexNet概述2012年，Alex Krizhevsky使用深度卷积网络在ImageNet 2012图像识别比赛中以很大的优势取胜，这一网络称之为AlexNet1。AlexNet和LeNet（可参考笔者另一篇博文【深度学习】LeNet网络及其MXNet实现）设计理念和结构类似，但使用了更多的卷积层...

2019-01-24 21:39:53 2576

原创【深度学习】卷积网络LeNet及其MXNet实现

文章目录LeNet网络概述LeNet网络结构MNIST数据集实验实验代码结果讨论参考文献LeNet网络概述笔者在【深度学习】多层感知机（二）MXNet实现双层感知机一文中使用单隐藏层感知机模型对MNIST数据集中的手写数字图像进行了分类。MNIST数据集中每张图像尺寸都是28*28像素，将其按行展开将得到一个长度为784的向量，这也正是上述感知机模型全连接隐藏层的输入。在使用‘ReLU’激活函...

2019-01-22 18:28:11 2238 1

原创【深度学习】浅析二维卷积层

文章目录二维互相关运算二维卷积层互相关运算和卷积运算特征图和感受野简单的边缘检测试验本文为《动手学深度学习》一书学习笔记，原文地址：http://zh.d2l.ai/chapter_convolutional-neural-networks/conv-layer.html二维互相关运算卷积神经网络（convolutional neural network）指带有卷积层（convolution...

2019-01-21 16:34:10 1841

原创【工具】Windows平台MXNet错误“cudaMalloc failed: device kernel image is invalid”

问题描述使用MXNet做GPU计算时报错 “cudaMalloc failed: device kernel image is invalid” ，如下为测试用的完整代码，具体是执行倒数第二条语句a = nd.array([1, 2, 3], ctx=mx.gpu(0))报错。# coding=utf-8# author: BebDong# 2019/1/19# nvidia-smi命令...

2019-01-20 14:16:27 3049

原创【深度学习】过拟合抑制（二）丢弃法（dropout）

概述前一篇文章【深度学习】过拟合抑制（一）权重衰减（weight decay）中，简要介绍了利用权重衰减进行过拟合拟制，在深度模型中还常用丢弃法应对过拟合问题。丢弃法有许多变体，这里的丢弃法为倒置丢弃法（inverted dropout）。本文为《动手学深度学习》一书学习笔记，原书地址：http://zh.d2l.ai/chapter_deep-learning-basics/dropout...

2019-01-15 15:49:12 4453

翻译【深度学习】基于深度学习的语义分割综述

文章目录前言语义分割的含义语义分割的方法随机森林patch classification全卷积网络典型方法小结FCNSegNetDilated ConvolutionDeepLab(v1 &amp; v2)RefineNetPSPNetLarge Kernel MattersDeepLab v3由于笔者的研究方向涉及语义分割（Semantic Segmentation），近期在调研的时候发现一篇...

2019-01-14 19:13:58 8379

翻译【深度学习】一文带你了解主流神经网络

文章目录概述神经元和层神经元基本神经元卷积和解卷积神经元池化和插值神经元均值和标准差神经元循环神经元长短时记忆神经元门控循环单元层全连接层卷积层随机连接时延连接示例神经网络一览前馈神经网络径向基函数网络马尔科夫链霍普菲尔网络玻尔兹曼机受限玻尔兹曼机自编码机稀疏自编码机变分自编码机去噪自编码机深度信念网络卷积神经网络解卷积网络深度卷积逆向图网络生成对抗网络循环神经网络长短时记忆网络门控循环单元神经图...

2019-01-12 13:53:59 3877 2

原创【深度学习】过拟合抑制（一）权重衰减（weight decay）

文章目录理论双层感知机实验过拟合权重衰减小结及延伸线性回归实验过拟合现象权重衰减总结理论在我的上一篇博文【深度学习】模型评估与选择介绍了模型的过拟合是机器学习中不可避免的挑战，那么除了在数据集规模和模型复杂度的考虑上，有没有一些其它方法可以抑制过拟合现象呢？权重衰减（weight decay）是一种常用的应对过拟合的方法，其等价于L2L_2L2范数正则化（regularization）。...

2018-12-25 18:39:52 17040

原创【深度学习】模型评估与选择

文章目录引言训练误差与泛化误差过拟合和欠拟合模型选择留出法交叉验证法验证数据集K折交叉验证留一法自助法过拟合实验代码结果结果分析引言当我们观察我在博文【深度学习】多层感知机（二）MXNet实现双层感知机中的实验结果（下图）时，可以发现：当模型在训练数据集上更加准确时（迭代至第20次时，测试准确率已经接近99%），它在测试数据集上却不一定更加准确（测试数据集准确率不到98%）。这是为什么呢？...

2018-12-20 16:39:02 4551

原创【深度学习】多层感知机（二）MXNet实现双层感知机

文章目录概述实现和实验概述在【深度学习】多层感知机（一）Python从零开始实现双层感知机一文中，我们使用Python实现了一个单隐藏层的神经网络，并在MNIST手写数据集上进行了实验，最后得到了95%左右的识别准确率。本文使用MXNet深度学习框架来实现上述博文中的单隐藏层神经网络，同样使用MNIST手写数据集进行实验。由于隐藏层和输出层都是全连接的，这样的神经网络也称之为多层感知机。本...

2018-12-19 20:13:45 2073

原创【深度学习】Softmax回归（三）MXNet深度学习框架实现

概述本文使用MXNet深度学习框架来实现softmax回归模型，并利用Fashio-MNIST数据集进行实验。需要的前导知识可以参考我之前的博文：【深度学习】Softmax回归（一）概念和原理【深度学习】Softmax回归（二）Python从零开始实现实验和结果# coding=utf-8# author: BebDong# 2018/12/19# 使用MXNET框架的gluo...

2018-12-19 16:33:27 1321

原创【深度学习】Softmax回归（二）Python从零开始实现

文章目录概述实现步骤导入需要的包读取数据初始化参数实现softmax运算定义Softmax模型定义损失函数计算准确率对模型进行训练进行测试完整代码和实验结果备注概述本文不使用深度学习框架来构建Softmax模型，从零开始实现Softmax回归，并使用Fashion-MNIXT数据集进行了实验。本文需要的前导知识可参考我之前的几篇博客：MXNET框架中NDArray的基本操作：【深度学习】M...

2018-12-19 15:52:47 2061

原创【深度学习】Fashion-MNIST数据集简介

文章目录数据集简介操作下载数据集数据格式可视化显示读取小批量完整代码备注数据集简介不同于MNIST手写数据集，Fashion-MNIST数据集包含了10个类别的图像，分别是：t-shirt（T恤），trouser（牛仔裤），pullover（套衫），dress（裙子），coat（外套），sandal（凉鞋），shirt（衬衫），sneaker（运动鞋），bag（包），ankle boot（短靴...

2018-12-18 21:50:15 38160 1

转载【Windows】Win10彻底关闭自动更新

转载yvanboyang的文章，原文地址：https://blog.csdn.net/yvanboyang/article/details/80165072我们在日常使用电脑的时候，会对电脑进行一些配置，但是windows经常会自己进行更新，怎么关也关不掉，今天小编来教大家来彻底关闭windows自动更新。使用这个方法的前提是我们的windows系统必须是专业版，因为这个方法使用的是“本地组策...

2018-12-15 11:09:05 2751 1

转载【Windows】Win10-更改c盘下的用户文件夹名

转载ooooohugh的文章，原文地址：https://blog.csdn.net/qq_33530388/article/details/71739845当初不小心用自己名字作为计算机用户名，后来许多软件因为不支持路径中有中文，导致吃了不少的亏，心疼。。。。下面说下怎么更改 c盘下的用户文件夹名。（肯定不是简单粗暴的重命名就完事了）首先要进入管理员账户（Administrato...

2018-12-15 11:04:21 3851 3

原创【工具】Visual Studio 2017安装提示：找不到与以下参数匹配的产品

问题：下载好Visual Studio 2017 Installer运行安装时，提示：解决：删除隐藏文件C:\ProgramData\Microsoft\VisualStudio\Packages；cmd窗口中运行C:\Program Files (x86)\Microsoft Visual Studio\Installer\resources\app\layout\InstallCl...

2018-12-13 20:35:59 10439 14

原创【深度学习】Softmax回归（一）概念和原理

文章目录概述SoftmaxSoftmox回归模型矢量形式Softmax运算交叉熵损失函数真实标签的变换平方损失函数交叉熵损失函数概述在前面的三篇文章中：【深度学习】线性回归（一）原理及python从0开始实现【深度学习】线性回归（二）小批量随机梯度下降及其python实现【深度学习】线性回归（三）使用MXNet深度学习框架实现线性回归介绍了线性回归的基本原理，自己动手使用Pytho...

2018-12-12 17:01:56 4457

原创【深度学习】线性回归（三）使用MXNet深度学习框架实现线性回归

文章目录概述代码概述这篇文章使用MXNet深度学习框架中的Gluon包实现小批量随机梯度下降的线性回归问题。可以参考我的上一篇文章【深度学习】线性回归（二）小批量随机梯度下降及其python实现。主要包括：Gluon提供了data来读取数据Gluon的nn（neural network）模块定义了大量神经网络的层Gluon的initialize模块提供了模型参数初始化的方法Gluo...

2018-12-11 21:50:27 1134

原创【深度学习】线性回归（二）小批量随机梯度下降及其python实现

文章目录概述小批量随机梯度下降解析解和数值解小批量随机梯度下降python实现需要的先验知识代码和实验概述本文在我的前一篇博客（【深度学习】线性回归（一）原理及python从0开始实现）的基础上，介绍一下深度学习中的小批量随机梯度下降方法（mini-batch stochastic gradient descent），将其应用在线性回归中。在不使用深度学习框架的前提下，使用Python进行了实...

2018-12-11 21:43:18 3247

原创【Python】直接使用Python查阅文档

文章目录初衷查找所有函数和类查找某个函数和类的用法初衷本篇博文写给Python小白用户，主要关于直接使用Python内置函数查阅API文档的方法。有时候我们需要用到某一个具体的类或者函数，这个时候“打开浏览器、输入网址（或搜索关键词）、进入官方在线文档（可能还有筛选网站）、再查阅”其实是一个相当漫长的过程。如果我们在编程时，只是需要了解少数几个类或者函数的用法，我们可以直接使用Python内...

2018-12-11 14:44:46 1483 1

原创【深度学习】MXNet自动求解函数梯度

文章目录概述示例with语句求解梯度代码概述本节需要先了解MXNet中NDArray的基本用法，可以参考我的前一篇博客：【深度学习】MXNet基本数据结构NDArray常用操作如下示例包括：MXNet中使用autograd包自动求解梯度；MXNet可以python中自定义的函数（一般化的命令式程序）求梯度；MXNet的运行模式包含训练模式和预测模式，可以通过特定函数进行判断。示例...

2018-12-10 22:08:54 2690

原创【深度学习】MXNet基本数据结构NDArray常用操作

文章目录概述示例概述在MXNet深度学习框架中，NDArray是存储和变换数据的主要工具，和NumPy中的ndarray有异曲同工之妙。在下面的示例中，主要展示了：NDarray的创建；NDArray之间的基本运算；NDArray广播机制；NDArray索引；NDArray内存开销；NDArray和NumPy多维数组之间的转换。示例# coding=utf-8# aut...

2018-12-10 21:09:45 1694

原创【深度学习】Ubuntu下CUDA+ cuDNN + TensorFlow/TensorLayer 深度学习环境搭建

文章目录概述安装Anaconda并创建环境安装CUDA和cuDNN下载安装CUDA下载安装cuDNN安装TensorFlow和TensorLayer检查安装结果概述搭建步骤同Windows平台，包括：确定安装各组件的版本，保证其相互之间能正常工作；修改conda和pip的默认镜像网站；安装最新版Anaconda，并使用其创建虚拟环境；安装CUDA和cuDNN；安装TensorFlo...

2018-12-09 23:07:21 1205

原创【深度学习】windows 10下CUDA+ cuDNN + MXNet/TensorFlow/TensorLayer 深度学习环境搭建

文章目录关于版本环境版本兼容关系搭建过程安装Anocanda安装CUDA和cuDNN创建虚拟环境结果检验MXNet检验：关于版本环境目标安装版本：Python 3.6 + CUDA 9.0 + cuDNN 7 + MXNet-cu90/TensorFlow 1.11/TensorLayer 1.11以上各版本之间有依赖关系，版本不兼容将出现运行问题。Ubuntu系统步骤一致，部分命令不完...

2018-12-09 17:54:39 2382

原创【工具】Chrome浏览器书签误删恢复

手抖误删了Google Chrome的一个书签文件夹，里面整理了常用的一些书签，瞬干觉得崩了……话说Chrome这玩意儿删除书签都不带弹窗提示用户的吗233333？不慌不慌，你能遇到的情况Chrome肯定都考虑到了。一查，果然书签可恢复。解决win 10 系统下，进入目录C:\Users\Username\AppData\Local\Google\Chrome\User Data\Defau...

2018-12-08 19:07:50 7453

原创【深度学习】TensorFlow版本概述

概述AVX指令集是一种较新的指令集，可以加速TensorFlow任务的执行速度。TensorFlow从version 1.6 开始默认从AVX编译二进制文件，所以现在通过pip install tensorflow默认安装支持AVX的TensorFlow版本。问题今天恰好为一台老机器（core-i3）安装TensorFlow cpu版本，安装完成之后，运行示例程序提示错误：The Tens...

2018-12-04 11:05:22 1937 2

原创【Linux】sudo pip 找不到命令

Step 1：编辑/etc/sudoers：sudo vim /etc/sudoers将Defaults env_reset修改为Defaults !env_resetStep 2：编辑配置文件~/.bashrc：sudo vim ~/.bashrc添加：alias sudo='sudo env PATH=$PATH'使修改生效：source ~/.bashrcStep 3：...

2018-12-03 00:27:01 11616 9

原创【Python】浅谈Python虚拟环境virtualenv

目录虚拟环境简介虚拟环境的安装和使用安装创建虚拟环境指定解释器启用虚拟环境停用虚拟环境删除虚拟环境virtualenvwrapper安装简单使用虚拟环境简介虚拟环境提供一个独立于全局python环境（库library和解释器interpreter）的程序运行空间。这样一来，可以有效避免python程序之间的相互影响。比如：程序 A 需要使用某个包的 1.0 版本，而程序 B 需要使用这个包的...

2018-12-02 13:46:00 1200

原创【深度学习】线性回归（一）原理及python从0开始实现

线性回归及其python实现线性回归单个属性的情况多元线性回归形式上的线性回归Python实现线性回归线性模型（linear model）通过属性的线性组合来进行预测，形如y=wx+by=wx+by=wx+b.当定数据集D={(x⃗1,y1),(x⃗2,y2),...,(x⃗m,ym)}，yi∈RD=\{(\vec x_1,y_1),(\vec x_2,y_2),...,(\vec x_m,...

2018-11-28 22:53:42 1854

原创【Linux】Unix和Linux的历史及关系

Unix和Linux的关系悉悉嗦嗦Unix的历史Linux简介Mac OS悉悉嗦嗦对于接触计算机不久的同学来说，可能经常听到类似：Unix，Linux，类Unix，Mac OS X，BSD，FreeBSD，“Linux和Unix一样啦”，“差不多”等等名次和论断。就我个人来说，本科阶段学习操作系统的时候，其实也没有认真去弄明白这其中的历史关系，有时候也是人云亦云，实际上也不懂它们之间到底有什...

2018-10-25 20:41:38 3125

原创【Python】PyCharm中matplotlib.pyplot.imshow()无法绘图

问题描述在利用Anaconda3 + PyCharm 2018 实现神经网络的实践中，涉及到一个根据像素数组绘制图像的实践，如下所示（这里只需要关心image_array即可，对源数据的预处理可忽略）：# coding=utf-8# author: BebDong# 10/23/18import numpyimport matplotlib.pyplot as plt# 打开并读...

2018-10-23 22:04:22 7902 11

原创【深度学习】多层感知机（一）Python从零开始实现双层感知机

Python简单神经网络定义神经网络的框架初始化定义神经网络的框架考虑一个神经网络，很容易可以抽象出三种操作：初始化函数：指定神经网络的层数，每一层的节点个数等，即指定神经网络的结构；训练函数：通过训练数据集优化权重；查询函数：通过测试数据集测试训练后的神经网络。为此，给出如下神经网络的类定义（神经网络的框架）：# coding=utf-8# author: BebDong#...

2018-10-23 17:55:46 12199 18

原创【Python】数据分析之numpy包

numpy使用示例前言示例代码参考资料前言numpy，全称numeric python，是一个由多维数组对象和用于处理数组的例程集合组成的库，是python数据分析中最基础的工具。利用numpy，可以轻松地使用python达到matlab中的矩阵、线性代数等等运算。下面给出一些示例的使用方法，作为入门。完整的API文档可以参考文末给出的参考资料。示例代码# coding=utf-8# ...

2018-10-23 00:10:36 1224

原创【Linux】Ubuntu安装MongoDB数据库及服务管理

文章目录安装检查服务和数据库管理 MongoDB 服务安装sudo apt updatesudo apt install -y mongodb检查服务和数据库sudo systemctl status mongodb# 根据输出信息将得出mongodb服务是否启动同时可以通过连接到数据库进一步验证：mongo --eval 'db.runCommand({ connection...

2018-10-19 16:54:32 988

原创【Mac OS】Mac部分目录读写提示“Operation not permitted”解决

文章目录问题产生问题分析问题解决关闭Rootless打开Rootless问题产生今天在将mac默认安装的python2.7升级为python3时，终端运行：sudo mv /usr/bin/python /usr/bin/python_old提示“Operation not permitted”，操作不成功。问题分析笔者在此前一天刚把Ubuntu 18.04 LTS的Python2升...

2018-10-15 14:36:43 37742