深度神经网络结构以及Pre-Training的理解

Logistic回归、传统多层神经网络 1.1 线性回归、线性神经网络、Logistic/Softmax回归 线性回归是用于数据拟合的常规手段,其任务是优化目标函数:h(θ)=θ+θ1x1+θ2x2+....θnxnh(θ)=θ+θ1x1+θ2x2+....θnxn 线性回归的求...

2016-12-29 17:11:48

阅读数:521

评论数:0

深度学习—网络MSRA初始化方法

本次简单介绍一下MSRA初始化方法,方法同样来自于何凯明paper 《Delving Deep into Rectifiers:Surpassing Human-Level Performance on ImageNet Classification》. Motiva...

2016-12-29 16:59:28

阅读数:1487

评论数:0

深度学习-网络Xavier初始化方法

reference: http://blog.csdn.net/shuzfan/article/details/51338178 “Xavier”初始化方法是一种很有效的神经网络初始化方法,方法来源于2010年的一篇论文《Understanding the difficulty of tra...

2016-12-29 16:57:27

阅读数:1423

评论数:0

torch入门笔记21:xavier初始化方法

今天的task主要是为了使得分类中要达到更好的优化效果,这里需要对model内部参数的初始化做一下特殊的处理。 还记得torch会帮我们随机初始化参数吗?我们现在不使用torch的初始化参数,而使用一种更高级的初始化方法,称之为xavier方法。概括来讲,就是根据每层的输入个数和输出个数来决定参...

2016-12-29 16:50:52

阅读数:1740

评论数:0

Git备份当前branch并回滚到当前版本

1.首先,必须再次强调定时update git代码是一个很必须的习惯,基本重要性可以等同于control+s。  2.接着叙述一下今天遇到的问题,和使用的情形:  1)我更改了一版功能,并在这版功能上加了一些大量的注释供给自己理解。 2)接着,我发现这个功能实际上对于目前task是冗余的,相...

2016-12-28 15:53:42

阅读数:1232

评论数:0

lua加载函数require和dofile

reference: https://www.cnblogs.com/yyxt/p/3870236.html Lua提供高级的require函数来加载运行库。粗略的说require和dofile完成同样的功能但有两点不同: 1. require会搜索目录加载文件; 2. require会判断...

2016-12-28 14:28:17

阅读数:771

评论数:0

Git Init repository for remote terminal and change the remote master

1. Create new repository  Command line instructions Git global setup git config --global user.name "wenyangming" git config --global ...

2016-12-27 16:38:25

阅读数:334

评论数:0

Ubuntu配置和修改IP地址

1、修改配置文件/etc/network/interfaces root@ubuntu:~# sudo gedit /etc/network/interfaces 添加以下内容: auto eth0                  #设置自动启动eth0接口 iface eth0 i...

2016-12-23 14:57:35

阅读数:391

评论数:0

vnc下远端清空回收站trash

今天遇到vnc远端server的时候, 没有办法来清空整个trash,提示无法找到trash文件目录,ui界面下。 故而纪录下: 其实很简单...找到trash的目录,默认都为 ~/.local/share/Trash/files$  wenyangming@ym:~/.local/share/T...

2016-12-21 10:50:29

阅读数:547

评论数:0

Update cmake 3.2 from cmake 2.8

if u meet the follwoing questions, remember to run by root  Install the project... -- Install configuration: "" CMake Error at cmake_inst...

2016-12-08 23:33:05

阅读数:1184

评论数:0

caffe:cannot import name symbol_database/ protobuf problem in caffe

在跑caffe官网上notebook examples的时候出现: cannot import name symbol_database,这是与protobuf相关的文件, 在网上查了好久有人说可能是版本的问题,所以就开始了慢长了安装,卸载protobuf的过程, 最新的版本是2.6,然后是环...

2016-12-07 19:45:33

阅读数:4785

评论数:1

ubuntu 16.04 无GPU版caffe安装简记

reference:http://blog.csdn.net/firethelife/article/details/51926754 MAINLY SOLVE THE PROBLEM OF THE  Error loading shared library libhdf5_hl.so...

2016-12-05 14:02:20

阅读数:447

评论数:0

提示
确定要删除当前文章?
取消 删除
关闭
关闭