Deep Learning
文章平均质量分 56
liuxiabing150
这个作者很懒,什么都没留下…
展开
-
CNN trick 产生的motivation
目前来看,很多对 NN 的贡献(特别是核心的贡献),都在于NN的梯度流上,比如sigmoid会饱和,造成梯度消失。于是有了ReLU。ReLU负半轴是死区,造成梯度变0。于是有了LeakyReLU,PReLU。强调梯度和权值分布的稳定性,由此有了ELU,以及较新的SELU。太深了,梯度传不下去,于是有了highway。干脆连highway的参数都不要,直接变残差,于是有了ResNet。强行稳定参数的...转载 2018-06-05 21:43:06 · 254 阅读 · 0 评论 -
caffe 与 tensorflow对比
<!DOCTYPE html> <html lang="zh-CN"> <head> <meta charset="UTF-8"> <link rel="canonical" href="https://blog.csdn.net/sinat_26917383/article/details/52723481&a转载 2018-05-21 17:00:38 · 26062 阅读 · 0 评论 -
tensorflow windows 下离线安装过程(cpu)
在线安装可参考官方教程:https://tensorflow.google.cn/install/install_windows离线安装:1 下载tensorflow安装包: cpu版地址:https://pypi.org/project/tensorflow/#files gpu版地址:https://pypi.org/project/tensorflow-gpu/#files2 使用一...原创 2018-05-21 16:55:57 · 6917 阅读 · 2 评论 -
ENet 配置bug
配置好torch后,运行ENet命令,出现error:libcudnn(R5) not found in library path解决方法:http://blog.csdn.net/hungryof/article/details/51557666即下载cudnn7.5,然后解压,拷贝,将路径添加到LD_LIBRARY_PATH中即可原文tar -xzvf cudnn-7.原创 2016-07-07 16:21:25 · 1107 阅读 · 0 评论 -
error while loading shared libraries: libcudart.so.7.5: cannot open shared ......解决方法
http://www.cnblogs.com/platero/p/3993877.html当libcudart.so.7.5存在,但是还是报错的情况下,需要设置一下链接,按照下面的方法设置即可:在 /etc/ld.so.conf.d/加入文件 cuda.conf, 内容如下/usr/local/cuda-6.5/lib64执行下列命令使之立刻生效sudo ldconfi原创 2016-06-21 16:01:04 · 4407 阅读 · 0 评论 -
ubuntu安装及卸载cuda
Ubuntu安装cuda:website:https://developer.nvidia.com/cuda-downloadsInstallation Instructions: `sudo dpkg -i cuda-repo-ubuntu1404-7-5-local_7.5-18_amd64.deb` `sudo apt-get update` `sudo原创 2016-07-12 16:53:08 · 19742 阅读 · 0 评论 -
crfasrnn环境搭建,跑demo
crfasrnn官网:https://github.com/torrvision/crfasrnn按照官网的步骤说明做即可(1)将下载得到的压缩包解压,得到crfasrnn文件夹,将该文件夹拷贝到Linux下面(2)安装crfasrnn/caffe/python/requirements.txt中提到的Python包(3)拷贝caffe下的Makefile.config.e原创 2016-06-11 15:35:46 · 5999 阅读 · 11 评论 -
tensorflow lite 在android studio上跑demo环境搭建过程
官网介绍网址:https://github.com/tensorflow/tensorflow/blob/master/tensorflow/docs_src/mobile/tflite/demo_android.md1 从github上下载官方tensorflow2 安装android studio及对应的SDK及NDK. android studio不需要最新版本,我的版本是2.3.23 ...原创 2018-06-08 20:40:38 · 5041 阅读 · 1 评论 -
Hopenet demo环境搭建
Hopenet: cvpr2018 workshop paper for head pose estimation.code:https://github.com/natanielruiz/deep-head-pose环境搭建存在问题:1. 安装dlib,运行python code/test_on_video_dlib.py --snapshot ./HeadPoseModelSnap...原创 2019-03-29 17:38:34 · 2214 阅读 · 4 评论 -
tensorflow ValueError: need more than 7 values to unpack
tensorflow 运行中出现ValueError: need more than 7 values to unpack解决方法: check code中报错的那一行等式左侧的变量个数和等式右侧函数的返回值个数是否一致。原创 2019-01-09 16:45:06 · 850 阅读 · 0 评论 -
caffe Aborted ** using GNU date ** core dumped 解决方法
caffe生成HDF5数据,训练时会出现Aborted ** using GNU date ** core dumped的错误。原因是单个hdf5文件的大小超过了2G. 需要减少单个hdf5文件中包含的图片数据个数,重新生成hdf5文件。...原创 2019-01-09 13:43:50 · 423 阅读 · 0 评论 -
deconv layer
ref: https://www.zhihu.com/question/43609045 https://www.zhihu.com/question/48035421上采样的卷积层有很多名字:全卷积(full convolution),网络内上采样( in-network upsampling),微步幅卷积(fractionally-strided convolution),反向卷积(...原创 2018-07-05 20:11:33 · 1498 阅读 · 2 评论 -
windows tensorboard使用
tensorboard安装:pip install tensorboard(pip命名的--user选项指定当前包安装在当前用户目录下,而不是全体用户)tensorboard启动:tensorboard --logdir=C:\Users\samsung\Desktop\logs_gtc_0612_mai --host=127.0.0.1(不指定--host, 生成的网址是TensorBoard ...原创 2018-07-05 10:58:13 · 995 阅读 · 0 评论 -
caffe+Ubuntu14.0.4 64bit 环境配置说明(无CUDA,caffe在CPU下运行)
caffe是一个简洁高效的深度学习框架,具体介绍可以看这里http://caffe.berkeleyvision.org/,caffe环境配置过程可以参考这里:http://caffe.berkeleyvision.org/installation.html,我在搭建环境时搜集了许多资料,这里整理了一下,介绍一下caffe在无CUDA的环境下如何配置。原创 2015-01-07 21:51:59 · 5261 阅读 · 2 评论 -
caffe-ubuntu14.04+64bit环境配置说明(GPU下运行)
一 安装ubuntu14.041 下载14.04.2的iso文件,双击打开文件,将wubi.exe拷贝到外面(我的是拷到和iso文件同一个目录下),双击拷出来的wubi.exe文件,运行即可(如果是先前卸载了,重新安装的,可能会提示错误,解决方法:在windows目录下,将C盘下的ubuntu目录删除即可)2 由于ubuntu14.04有bug,不能直接登陆,所以要按照一下方法处理:(网原创 2015-10-29 21:15:00 · 1087 阅读 · 0 评论 -
caffe架构学习之(一)--基于google protocol buffer开源项目的深度网络定义
原文地址:http://www.bubuko.com/infodetail-701576.html学习深度学习,不可避免的要选择一个适合于自己的框架,目前深度学习的主流框架有caffe,Theano,Torch7等,而由Yangqing Jia等人开发并维护的caffe框架,由于其代码简洁,可读性强,较高的运行效率以及CPU/GPU切换简单,并且拥有较大的user group,所以越来转载 2015-09-15 09:49:03 · 904 阅读 · 0 评论 -
caffe下的base_lr和blobs_lrhttp://www.cnblogs.com/jianyingzhou/p/4389504.html
原文地址:http://www.cnblogs.com/jianyingzhou/p/4389504.htmlcaffe里面,原来以为是不可以随便调整学习率的,现在看来是可以的。base_lr是适用于所有层的学习率,而针对单个层,可以通过增加两个blobs_lr,用来调整该层的学习率,为什么是两个呢,因为一个调整weight的学习率,一个是调整偏执b的学习率。那么该层的学习率就变成了,ba转载 2015-06-23 21:16:01 · 1898 阅读 · 0 评论 -
谷歌大脑科学家 Caffe缔造者 贾扬清 微信讲座完整版
转载:http://suanfazu.com/t/caffe/9479大家好!我是贾扬清,目前在Google Brain,今天有幸受雷鸣师兄邀请来和大家聊聊Caffe。没有太多准备,所以讲的不好的地方还请大家谅解。我用的ppt基本上和我们在CVPR上要做的tutorial是类似的,所以大家如果需要更多的内容的话,可以去tutorial.caffe.berkeleyvision.or转载 2015-06-16 13:33:35 · 794 阅读 · 0 评论 -
ubuntu convert 命令(ImageMagick安装)
ubuntu中可以用convert命令对图像的格式和大小等进行转换(convert命令可以用在脚本中),但是convert不是ubuntu自带的命令,需要先安装ImageMagick,之后才可以使用。安装命令:sudo apt-get install imagemagick测试是否安装成功:首先查看版本,命令:convert -version如果看到下面的信息,则说明安装原创 2015-05-20 16:54:15 · 13199 阅读 · 0 评论 -
caffe中安装python
1 运行下列命令:sudo apt-get install python-dev python-pip2 在这个网址www.continuum.io/downloads 下载anaconda (注意版本是64位还是32位),之后赋于可执行权限,命令:chmod +x *.sh之后执行安装命令:bash Anaconda-2.2.0-Linux-x86_64.sh3原创 2015-04-26 15:11:07 · 760 阅读 · 0 评论 -
windows vs2010+opencv2.3.2 开发环境搭建
windows vs2010+opencv2.3.2 开发环境搭建原创 2015-01-18 20:01:19 · 1169 阅读 · 0 评论 -
Ubuntu根目录下各文件的功能介绍
Ubuntu的根目录下存在着很多的文件夹,但你知道他们都存放着哪些文件呢?这些是深入了解Ubuntu系统必不缺少的知识,本文就关于此做一下介绍吧。/bin/ 用以存储二进制可执行命令文件,/usr/bin/也存储了一些基于用户的命令文件。/sbin/ 许多系统命令的存储位置,/usr/sbin/中也包括了许多命令。/root/ 超级转载 2015-01-09 10:15:53 · 846 阅读 · 1 评论 -
char-cnn+torch+ubuntu14.04(RNN)
一 搭建Torch 环境1 在命令行依次执行下列命令:# in a terminal, run the commandscurl -sk https://raw.githubusercontent.com/torch/ezinstall/master/install-deps | bashgit clone https://github.com/torch/distro.git ~/t原创 2015-07-04 16:47:37 · 2015 阅读 · 0 评论 -
利用crop剪裁方式训练图片的一些事项
原文地址:http://blog.csdn.net/wadqse123/article/details/44919029[plain] view plaincopyprint?transform_param { mirror: true crop_size: 227 mean_file: "data/ilsvr转载 2015-09-14 17:18:01 · 1766 阅读 · 0 评论 -
深度卷积网络CNN与图像语义分割
原文地址:http://blog.csdn.net/xiahouzuoxin/article/details/47789361转载请注明出处: http://xiahouzuoxin.github.io/notes/html/深度卷积网络CNN与图像语义分割.html级别1:DL快速上手级别2:从Caffe着手实践级别3:读paper,网络Train起来级别4:Demo跑起来转载 2015-09-14 17:19:57 · 1130 阅读 · 1 评论 -
使用caffemodel的方法
原文地址:http://www.bubuko.com/infodetail-867723.html感谢博主lynnandwei,写的博客,因为看了它写的博客,我才知道在Linux下面,如何调用caffe已经训练好的模型进行测试。也为后续必要的很多操作提供了思路。如上图 ,就是build/tools/caffe.bin文件,上图就有它的指令介绍。在MNIST调用已转载 2015-09-11 19:37:21 · 6631 阅读 · 0 评论 -
ReLu(Rectified Linear Units)激活函数
ReLu(Rectified Linear Units)激活函数论文参考:Deep Sparse Rectifier Neural Networks (很有趣的一篇paper)起源:传统激活函数、脑神经元激活频率研究、稀疏激活性传统Sigmoid系激活函数Linear Units)激活函数" style="margin:0px; padding:0px; borde转载 2015-09-07 15:05:39 · 2368 阅读 · 0 评论 -
CNN
原文地址:http://www.xuebuyuan.com/2138826.html近来在了解深度学习。深度神经网络的一大特点就是含有多隐含层。卷积神经网络(CNN)算是深度神经网的前身了,在手写数字识别上在90年代初就已经达到了商用的程度。本文中将简要介绍CNN,由于相应的博文资料已经很多,也写的很好,本篇最有价值的是参考资料部分。前向神经网络数字识别假设我们的图转载 2015-08-01 14:01:47 · 683 阅读 · 0 评论 -
凸优化和非凸优化
原文地址:http://blog.csdn.net/yhdzw/article/details/39288581数学中最优化问题的一般表述是求取,使,其中是n维向量,是的可行域,是上的实值函数。凸优化问题是指是闭合的凸集且是上的凸函数的最优化问题,这两个条件任一不满足则该问题即为非凸的最优化问题。其中,是 凸集是指对集合中的任意两点,有,即任意两点的连线段都在集合内,直观上就是转载 2015-08-27 16:09:37 · 1405 阅读 · 0 评论 -
损失函数(loss function)
原文地址:http://blog.csdn.net/yhdzw/article/details/39291493通常而言,损失函数由损失项(loss term)和正则项(regularization term)组成。发现一份不错的介绍资料:http://www.ics.uci.edu/~dramanan/teaching/ics273a_winter08/lectures/lect转载 2015-08-27 16:08:12 · 4372 阅读 · 0 评论 -
CNN卷积神经网络推导和实现
原文地址:http://blog.csdn.net/zouxy09/article/details/9993371自己平时看了一些论文,但老感觉看完过后就会慢慢的淡忘,某一天重新拾起来的时候又好像没有看过一样。所以想习惯地把一些感觉有用的论文中的知识点总结整理一下,一方面在整理过程中,自己的理解也会更深,另一方面也方便未来自己的勘察。更好的还可以放到博客上面与大家交流。因为基础有限,所以对转载 2015-08-01 14:09:02 · 1145 阅读 · 0 评论 -
deep learning入门之路一
近日开始学习,看Deep Learning的英文文献毫无头绪,遂转一篇入门文章。见下。Deep Learning,又叫Unsupervised Feature Learning或者Feature Learning,是目前非常热的一个研究主题。本文将主要介绍Deep Learning的基本思想和常用的方法。一. 什么是Deep Learning?实际生活中,人们为了解转载 2014-12-15 21:57:49 · 624 阅读 · 0 评论