自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

 啸林 

能力是后天可培养的,而血性是天生的!

原创 Ubuntu15.10_64位安装Theano+cuda7.5详细笔记

经过了3天的摸索,尝试了网上的各种方法,重装了N遍ubuntu,今天终于装好了,记录下来,与自己或者有需要的朋友一起分享。  介绍一下我的环境:GTX425M,笔记本win7_64+ubuntu15.10_64双系统,cuda7.5。  首先声明,我是安装完ubuntu15.10后,没有sudo apt-get update,没有安装其他的软件,没有disable Nouveau,直接安装的cuda

2015-12-31 08:56:35 15279 10

原创 卷积算子计算方法(卷积运算)

卷积算子计算方法(卷积运算) -- 卷积操作是对图像处理时,经常用到的一种操作。它具有增强原信号特征,并且能降低噪音的作用。 那么具体是如何计算的呢?且看下文。待处理图像数据(5*5):         卷积核:(3*3)A = [17 24  01  08 15            H = [8   1   6       23  05  07 14  16                    3   5

2015-10-08 10:43:52 37474 6

原创 深度学习(DL)与卷积神经网络(CNN)学习随笔-05-基于Python的LeNet之CNN

本文原链接可以查看更多文章      博文01介绍了CNN的基本结构。博文02、03、04依次介绍了卷积操作、LR模型的建立及实现,MLP模型及实现。这些都是作为实现LeNet的铺垫。因为LeNet的实现就是由它们组成的。      今天我们就来讨论一下LeNet的模型建立及实现。   先来看一下LeNet的结构图。由图中可得到其结构分别为输入层、s1、c1、s2、c2和输出层。

2015-10-07 17:11:42 8213 3

原创 Theano学习笔记01--Dimshuffle()函数

本文主要介绍Theano中的一个函数,名叫dimshuffle()。在做卷积实验室会用到,是用来改变一个array张量结构的一个工具。原来不懂这个函数的作用以及作用后的结果是什么,经过多次实验,终于有了结果。下面来说一下我的结果。仅贡献给尚不懂这个函数的同学。   具体文档尚处在编写中…

2015-10-07 16:26:00 18046 10

原创 深度学习(DL)与卷积神经网络(CNN)学习笔记随笔-04-基于Python的LeNet之MLP

本文主要参考于:Multilayer Perceptron   python源代码(github下载  CSDN免费下载)  本文主要介绍含有单隐层的MLP的建模及实现。建议在阅读本博文之前,先看一下LR的实现。因为LR是简化版的MLP。LR不含有单隐层,则其输入层直接连接到输出层。从何处可以看出LR是输入层直接连接输出层?借用上一博文的公式:P(Y=i|x,W,b)=softmaxi(Wx+b)

2015-10-06 10:17:34 7692 1

原创 深度学习(DL)与卷积神经网络(CNN)学习笔记随笔-03-基于Python的LeNet之LR

本文主要参考于:Classifying MNIST digits using Logistic Regression python源代码(GitHub下载  CSDN免费下载)  0阶张量叫标量(scarlar);1阶张量叫向量(vector);2阶张量叫矩阵(matrix)      本文主要内容:如何用python中的theano包实现最基础的分类器–LR(Logistic Regress

2015-09-14 09:16:48 8597 2

原创 深度学习(DL)与卷积神经网络(CNN)学习笔记随笔-02-基于Python的卷积运算

深度学习(DL)与卷积神经网络(CNN)学习笔记随笔-02-基于Python的卷积运算 -- 在python中对图片进行卷积操作运算的一个示例程序, 源代码分析:(注意,如果直接保存以下代码,一定要另存为UTF8格式,否则报错)个人理解,欢迎批评指正。代码中会用到一个名叫dimshuffle()的函数。dimshuffle()是一个很强大的工具,但是对于初学者来说可能会搞不懂到底有什么用,一开始我也是。但是经过多次实验,终于弄懂了dimshuffle()的作用是什么,参见dimshuffle的作用详解

2015-08-27 12:41:02 11930 9

原创 小白Windows7/10 64Bit安装Theano并实现GPU加速(没有MinGw等,详细步骤)

本教程适合最初学习者,高手勿喷。原文地址:http://blog.csdn.net/niuwei22007/article/details/47684673Ubuntu15.10 64bit成功安装Theano+Cuda7.5,具体教程看这里经过一段时间的使用,建议安装python2.7,因为大部分的代码都是基于python2.7开发,如果安装python3.4的话,会有很多的语法问题,就是pyth

2015-08-15 19:26:06 37798 83

转载 十分钟搞定pandas

本文是对pandas官方网站上《10 Minutes to pandas》的一个简单的翻译,原文在这里。这篇文章是对pandas的一个简单的介绍,详细的介绍请参考:Cookbook 。习惯上,我们会按下面格式引入所需要的包:一、            创建对象可以通过 Data Structure Intro Setion 来查看有关该节内容的详细信息。1、可以通过传递一个list

2016-08-27 12:14:07 4954

原创 笔记001--Hashtable/HashMap与key/value为null的关系

大家都知道Hashtable与HashMap的三大区别,其中有一条则是HashMap可以存储一个Key为null,多个value为null的元素,但是Hashtable却不可以存储。究竟是为什么?下面看一下源代码:HashMap.class: // 此处计算key的hash值时,会判断是否为null,如果是,则返回0,即key为null的键值对 // 的hash为0。因此一个hashm

2016-07-23 17:14:17 12240 1

原创 解决win10下VM12虚拟机桥接模式不能上网的方法(亲测可行)

本文的方法可解决如下两个问题:1。局域网中其他机器ping不通本机中的虚拟机。2。本机中的虚拟机采用桥接模式不能上网,甚至主机也不能上网。注意:自己局域网的IP起始地址及路由器地址,可以通过登陆路由器查看,也可以在所有操作之前在CMD中通过命令ipconfig(windows)或ifconfig(linux)查看。一般路由器的地址就是默认网关。解决方法:1。打开win10的“网络设置”– “更改适配

2016-05-28 14:33:38 32448 7

转载 synchronized的JVM底层实现(很详细 很底层)

本文转载自:http://www.open-open.com/lib/view/open1352431526366.html目前在Java中存在两种锁机制:synchronized和Lock,Lock接口及其实现类是JDK5增加的内容,其作者是大名鼎鼎的并发专家Doug Lea。本文并不比较synchronized与Lock孰优孰劣,只是介绍二者的实现原理。数据同步需要依赖锁,那锁

2016-05-17 09:44:43 15995 9

转载 Java中多线程并发体系知识点汇总

java多线程并发体系总结,各种锁,同步方式等。1、操作系统有两个容易混淆的概念,进程和线程。进程:一个计算机程序的运行实例,包含了需要执行的指令;有自己的独立地址空间,包含程序内容和数据;不同进程的地址空间是互相隔离的;进程拥有各种资源和状态信息,包括打开的文件、子进程和信号处

2016-05-17 09:29:40 6564 1

转载 教你如何迅速秒杀掉:99%的海量数据处理面试题

教你如何迅速秒杀掉:99%的海量数据处理面试题本文转载自:http://blog.csdn.net/v_july_v/article/details/7382693作者:July出处:结构之法算法之道blog前言   一般而言,标题含有“秒杀”,“99%”,“史上最全/最强”等词汇的往往都脱不了哗众取宠之嫌,但进一步来讲,如果读者读罢此文

2016-05-12 21:49:27 2507

转载 深入理解Java(一)类加载原理

Java类加载机制这个词相信对于任何一个使用过Java的人都不会陌生,但是并不是每一个写Java程序的人都十分清楚Java类是什么时候被加载的,是什么时候被初始化的,下面我们就来分析一下吧。类的加载  首先要清楚,类的加载和类的初始化是不同的。类的加载是由类加载器完成的,类加载器也是一个程序,如ClassLoader类就是一个类加载器,它也是用Java语言写的,可以通过继承并重写它的方法来实现自己的

2016-03-14 09:27:52 3724

原创 NAT方式主机与VM虚拟机ping不通解决办法

从百度里边搜到的常规解决方法都是说什么防火墙影响,nat方式本来就ping不通等,今天我记录一个解决方案,不一定适用于所有的情况,但是最起码我的问题解决了。   我的虚拟机版本是12,虚拟机中的win7获取ip的方式是DHCP自动获取,查看ipconfig得到信息是如下:      注意看,显示的默认网关最后一个段是2,而不是常用的1。这个时候,虚拟机能ping通192.168.11.2,但是

2016-01-09 09:19:21 64032 9

原创 Linux/Ubuntu上使用Qt Creator创建非Qt项目

第一步:安装CMake和Qt Creatorsudo apt-get install cmake qtcreator 第二步:创建非Qt项目“New Project”–>”Non-Qt Project”–>”Plain C++ Application”–>”choose”–>填好名字和路径,”Next”–>”Build System”选择“CMake” 并”Next”–>一路Next直到出现“Ru

2016-01-02 12:40:30 5508

转载 安装Ubuntu15.10后要做的事

Ubuntu 15.10发布了,带来了很多新特性,同样也依然带着很多不习惯的东西,所以装完系统后还要进行一系列的优化。1.删除libreoffice libreoffice虽然是开源的,但是Java写出来的office执行效率实在不敢恭维,装完系统后果断删掉sudo apt-get remove libreoffice-common 2.删除Amazon的链接sudo apt-get remov

2016-01-01 20:19:17 5806 2

原创 论文笔记001-Stacked Convolutional Auto-Encoders for Hierarchical Feature Extraction

论文笔记 之 卷积自编码网络  突然发现好记性不如烂笔头真的很有道理,到了写毕业论文的时候,发现之前看过的论文都貌似没看过。今天写一下关于Convolutional Auto-Encoders的笔记,后期慢慢将以前比较好的论文补上来,希望对我对大家都有收获。   论文可以自己搜,懒得搜的可以去CSDN免费下载。网络结构  进入正题,这篇论文写的是将卷积神经网络的卷积层用Denoise

2015-12-24 16:23:05 5951 2

原创 机器学习实战笔记(Python实现)-01-机器学习实战

机器学习实战本博客来自于CSDN:http://blog.csdn.net/niuwei22007/article/details/49663977本系列博客源自于读《机器学习实战—中文版》这本书的学习笔记,用于日后翻阅、查看资料用。机器学习算法越来越受到人们的青睐,是由于这些算法在一定程度上可以达到智能的目的,比如人脸识别、图像文本分类等在一定程度上可以代替人工繁琐复杂的操作。《机器

2015-11-09 09:34:15 8688 4

原创 机器学习实战笔记(Python实现)-02-k近邻算法(kNN)

机器学习实战笔记(Python实现)-02-k近邻算法(kNN) -- 下面来看一下书上对这个算法的原理介绍:存在一个训练样本集,并且每个样本都存在标签(有监督学习)。输入没有标签的新样本数据后,将新数据的每个特征与样本集中数据对应的特征进行比较,然后算法提取出与样本集中特征最相似的数据(最近邻)的分类标签。一般来说,我们只选择样本数据集中前k个最相似的数据,这就是k-近邻算法中k的出处,而且k通常不大于20。最后选择k个最相似数据中出现次数最多的分类,作为新数据的分类。

2015-11-07 17:27:58 13361 5

原创 机器学习实战笔记(Python实现)-01-机器学习实战

本系列博客源自于读《机器学习实战—中文版》这本书的学习笔记,用于日后翻阅、查看资料用。这本书的主要介绍的算法是源自于一篇ICDM会议上的论文----“数据挖掘十大算法”。论文选出的十大机器学习算法包括:C4.5决策树、Kmeans、支持向量机(SVM)、Apriori、最大期望算法(EM)、PageRank算法、AdaBoost算法、k-近邻算法(kNN)、朴素贝叶斯算法(NB)和分类回归树算法(CART)。

2015-11-05 15:59:07 3869

转载 python调用dll方法

转载自:http://blog.csdn.net/lf8289/article/details/2322550在python中调用dll文件中的接口比较简单,实例代码如下:如我们有一个test.dll文件,内部定义如下:extern "C"{int __stdcall test( void* p, int len){     return len;}

2015-10-28 11:27:52 4936

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-19-Containers

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-19-Containers -- 本篇介绍的内容主要是网络层容器。这个容器包含着具有相互关系的各种类型的网络层,他们具有统一的API是Layer。

2015-10-25 22:06:40 4423

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-18-Noise Layers

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-18-Noise Layers -- 本篇介绍的内容主要是给输入数据加入高斯噪声的。高斯噪声是指噪声数据服从高斯分布。一般图像处理都是用高斯噪声过滤器进行过滤,而此处加入噪声是为了防止过拟合现象。

2015-10-25 20:54:32 5675

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-17-Embedding Layers

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-17-Embedding Layers -- 本篇介绍的内容主要用于NLP(Nature Language Process, 自然语言处理)。Deep Learning 算法已经在图像和音频领域取得了惊人的成果,但是在 NLP 领域中尚未见到如此激动人心的结果,但就目前而言,Deep Learning 在 NLP 领域中的研究已经将高深莫测的人类语言撕开了一层神秘的面纱。本篇内容主要就是用来做词向量的映射与训练。

2015-10-25 20:29:28 23708 4

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-16-Normalization

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-16-Normalization -- 本篇介绍的内容很少,只有一项就是归一化层。顾名思义就是能够对输入输出进行归一化操作的结构层。

2015-10-25 18:21:05 11401

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-15-Advanced Activation Layers

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-15-Advanced Activation Layers 前几篇介绍完了主要的核心层—用于构建普通的常用网络,卷积层—主要用于构建卷积神经网络CNN—反馈网络,递归层—主要用于构建递归神经网络/循环神经网络RNN—前馈网络。那么主流的几种网络已经介绍的差不多了。现在来介绍几个比较新的神经网络模型,都是最近几年神经网络领域大牛们根据最新研究的数学算法以及生物生理特性研发的。这几种网络我尚未实际使用过,因此只是简单的介绍一下方法及

2015-10-24 01:38:43 5424

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-14-递归层

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-14-递归层 recurrent neural network 上一篇介绍了卷基层,可以用来构建很常见的卷积神经网络等模型。那么今天将要介绍的是递归层,是一个可以用来构建递归网络(RNN)的基础部件。具体的RNN知识,可以参考文章:《深入探究递归神经网络》。如果感觉上面这篇文章比较抽象,那么强烈建议读者阅读一下《递归神经网络不可思议的有效性》,因为它结合实际讲述了RNN的强大。下面来看下递归层都有哪些结构。

2015-10-24 00:39:05 13118 1

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-13-卷积层

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-13-卷积层 convolution neural network 上一篇介绍了基础核心层,就是用来构建普通网络的基础部件。这一篇主要介绍的是卷积层,主要用于构建卷积神经网络等需要用到卷积操作的神经网络。卷积操作(可以参看博文卷积算子计算方法-卷积操作)的优点就是可以增强原信号特征,增强对原信号位移、形变之后的识别能力,有效降低噪音等。而卷积神经网络是目前来说对图像识别的最好工具,因为它可以有效识别有位移、形变等的图像。下面来看

2015-10-23 21:52:09 11517

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-12-核心层

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-12-核心层从这篇开始介绍Keras的Layers,就是构成网络的每一层。Keras实现了很多层,包括核心层、卷基层、RNN网络层等诸多常用的网络结构。下面开介绍核心层中包含了哪些内容。因为这个核心层我现在还没有全部用到,所以会有一部分内容我并不是十分了解,因此直接附带了原文档介绍。希望有了解的博友指点一二。

2015-10-20 15:11:30 29142 5

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-11-数据集

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-11-数据集 -- 介绍完了使用,就应该自己动手去实践了,因此,这里再介绍一下实验数据的问题。Keras提供了常用的几种数据集的下载,可以直接拿来用,非常方便。下面我们来看一下。

2015-10-18 21:27:46 12649 2

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-10-回调

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-10-回调 -- Callbacks(回调函数)是一组用于在模型训练期间指定阶段被调用的函数。可以通过回调函数查看在模型训练过程中的模型内部信息和统计数据。可以通过传递一个回调函数list给fit()函数,然后相关的回调函数就可以在指定的阶段被调用了。

2015-10-18 19:26:09 14212 2

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-09-约束限制

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-09-约束限制 -- 除了规则化外,Keras还有一个约束限制功能。函数可以设置在训练网络到最优时对网络参数的约束。这个约束就是限制参数值的取值范围。比如最大值是多少,不允许为负值等。这一部分比较简单,内容很少。

2015-10-18 16:06:39 4706 1

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-08-规则化(规格化)

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-08-规则化(规格化) -- 通过前几篇的介绍,网络已经选择好了优化器、目标函数、模型以及激活函数。并且给权值选择了初始化方法。那么接下来就是训练。训练过程后会出现什么问题呢?过拟合!而有效解决过拟合的方法就是加入规则项。具体的规则化请见http://blog.csdn.net/niuwei22007/article/details/48929935中对于规则化的介绍。

2015-10-18 15:35:03 12283

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-07-初始化权值

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-07-初始化权值 -- 模型训练的时候会首先对权值矩阵和偏置进行初始化。有的是把权值初始化为0,但是这种情况不能适用于带有梯度下降算法的网络。因为每次的残差都一样,那么网络参数就达不到最优了。所以一般常用的就是随机数初始化,保证每个参数都不重复,但是差值也不会很大。随机数初始化一般按照概率分布去取值,比如常用的均匀分布等。

2015-10-18 11:25:38 14923

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-06-激活函数

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-06-激活函数 -- 激活函数也是神经网络中一个很重的部分。每一层的网络输出都要经过激活函数。比较常用的有linear,sigmoid,tanh,softmax等。Keras内置提供了很全的激活函数,包括像LeakyReLU和PReLU这种比较新的激活函数。

2015-10-17 22:07:35 14800 1

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-05-模型

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-05-模型 -- 介绍完了优化器和目标函数,那么剩下的就是训练模型了。这一小节,我们来看一下Keras的Models是如何使用的。Keras可以建立两种模型,一种是线性叠加的,层与层之间是全连接的方式,一个输入,一个输出;另外一种是图型的,输入与输出数量任意,并且可以指定层与层之间的部分连接方式。

2015-10-17 20:34:57 40386 4

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-04-目标函数

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-04-目标函数 -- Objective(目标函数),就是常说的代价函数或者损失函数。是训练一个模型另外一个必备的参数。比较常用的就是均方误差和逻辑回归

2015-10-14 22:07:42 7903

原创 基于Theano的深度学习(Deep Learning)框架Keras学习随笔-03-优化器

基于Theano的深度学习(Deep Learning)框架Keras学习随笔-03-优化器 -- optimizers(优化器)。机器学习包括两部分内容,一部分是如何构建模型,另一部分就是如何训练模型。训练模型就是通过挑选最佳的优化器去训练出最优的模型。 Keras包含了很多优化方法。比如最常用的随机梯度下降法(SGD),还有Adagrad、Adadelta、RMSprop、Adam等。下面通过具体的代码介绍一下优化器的使用方法。最重要的就是SGD,其他的优化器有兴趣的可以自行了解一下。

2015-10-14 21:26:30 14114

提示
确定要删除当前文章?
取消 删除