深度学习
TaiJi1985
这个作者很懒,什么都没留下…
展开
-
DeepLearning学习笔记(一) 搭建环境
操作系统在windows下安装 theano 一直没整成功。终于决定转战Ubuntu。 下载了Ubuntu 14.04 并做了U盘启动盘。 随后安装了 WPS QQ 2012 Atom 搜狗输入法 等软件。安装blas、lapack、atlas资源位置blas和cblas的安装包下载地址为 :http://www.netlib.org/blas/blas.tgz http://www.原创 2016-03-23 01:01:09 · 1013 阅读 · 0 评论 -
TensorFlow 线性回归demo
在下面的demo中, 首先创建了使用 y=0.1x+0.3+randy=0.1x+0.3+randy=0.1x+0.3+rand 创建测试数据集。 创建tensorflow的变量,w和b,所谓变量就是能被优化的量。 建立计算图 y = w*x_data + b 计算误差,使用误差平方和。 创建优化器,并优化误差。在下面的例子中, y ,loss,train之类都是计算图的一个节点。...原创 2018-04-06 14:11:44 · 396 阅读 · 0 评论 -
Deep Neural Network - Application v3
Deep Neural Network for Image Classification: ApplicationWhen you finish this, you will have finished the last programming assignment of Week 4, and also the last programming assignment of this course!原创 2017-11-14 16:45:30 · 1908 阅读 · 1 评论 -
Building your Deep Neural Network - Step by Step v5 作业 - Neural Networks and Deep Learning
终于做完了,放在这里。。。复习用Building your Deep Neural Network: Step by StepWelcome to your week 4 assignment (part 1 of 2)! You have previously trained a 2-layer Neural Network (with a single hidden layer). This w转载 2017-11-14 14:33:39 · 1116 阅读 · 0 评论 -
Faster R-CNN学习笔记
资料记录论文翻译 http://blog.csdn.net/liumaolincycle/article/details/48804687 faster-rcnn原理及相应概念解释 http://www.cnblogs.com/dudumiaomiao/p/6560841.html问题描述物体识别和定位: 判断一张图片中是否存在某个物体(物体识别),给出其确切位置(定位)。 物体定位一般给出原创 2017-07-09 12:26:55 · 469 阅读 · 0 评论 -
坐标下降法(坐标上升法)matlab程序
起因因为求解SVM的最牛算法SMO算法,使用的时坐标下降法的思路,所以学习一下这个算法。方法某函数包含多个自变量,需要求这个函数的最大或最小值时,可以应用此坐标下降法(最小值)或坐标上升法(最大值)。其过程是,对每个自变量求偏导,交替的对每个自变量进行梯度下降(或上升法)。案例我们使用以下函数作为案例 z=f(x,y)=xe−(x2+y2) z= f(x,y) = xe^{-(x^2+y^2)}原创 2017-06-12 20:28:48 · 9084 阅读 · 5 评论 -
机器学习通俗入门-使用梯度下降法解决最简单的线性回归问题
动机一直以来,使用机器学习的算法都是用他人写好的类库,总觉得云里雾里的,弄不清楚到底怎么回事。今天实现了一个最简单的线性回归分析,觉得收货很大。纸上得来终觉浅,绝知此事要躬行。回归分析数据假设有一组数据,知道自变量和因变量的值,如下例:3.0000 10.00003.1000 10.30003.2000 10.60003.3000 10.90003.4000 11.200原创 2017-06-04 13:16:24 · 2848 阅读 · 2 评论 -
多层神经网络与反向传播算法
感知机感知机就是我们前面学过的线性分类器加上一个激活函数。 线性分类器:v=wTx+b=(∑iwixi)+bv = w^Tx +b = (\sum_i w_ix_i)+b 如果用x⃗ =[1x1x2x3x4...xk]\vec x = [1 x_1 x_2 x_3 x_4... x_k] ,即使用x增广形式表示,那么可以用w⃗ =[bw1w2w3...wk]\vec w = [b w_1 w_原创 2017-06-26 17:00:27 · 2869 阅读 · 1 评论 -
复习-高等数学的求导
常量c′=0c' = 0 幂函数求导(xa)′=axa−1(x^a)' = ax^{a-1}举例: x′=1x' = 1 x2=2xx^2 = 2x(1x)′=(x−1)′=−1˙x−2=−1x2(\frac{1}{x})' = (x^{-1})' = -1\dot{} x^{-2} = - \frac{1}{x^2} (x√)′=(x12)′=12x−12=12x√(\sqrt{x})'=原创 2017-06-04 10:24:05 · 2242 阅读 · 0 评论 -
机器学习通俗入门-Softmax 求解多类分类问题
$问题0-1分类问题解决将一个样本分配到A还是B的问题,总共只有两个类。而多类分类问题则包含多个类。Mnist数据集[1,2] 中包含60000张手写数字图片,10,000 张测试图片。每张图片的大小为28*28,包含一个手写数字。如图: 我们希望实现这样一个分类器: 给定一张手写图片,分类器给出改数字属于哪个分类。(0-9共10个分类)模型给出数据集 D={x(i),y(i)} D=\{x^{(原创 2017-06-06 16:27:11 · 4584 阅读 · 0 评论 -
机器学习通俗入门-使用梯度下降法求解二分问题
回顾在前面的文章中介绍了使用梯度下降法解决回归问题。那么使用如何解决二分问题呢?问题现在有这么一个数据集 D=x,yD={x,y} 其中 xx 是观测到的数据,yy 是所属分类。我们想通过建立一个模型,给出x就能得到它的分类信息。数据集我们使用matlab造一个数据集出来。% 创建测试数据x1 = [normrnd(3,1,40,1) normrnd(3,2,40,1)];x2 = [nor原创 2017-06-05 21:46:12 · 1394 阅读 · 1 评论 -
深度学习Java类库deeplearning4j 学习笔记-MNIST手写数字分类问题
deeplearning4j这是一个用Java实现的深度学习类库。 网址: https://deeplearning4j.org 问题和数据集Minist是一个每个学过机器学习的童鞋都熟悉的类库。这个数据集包含70,000个手写数字的图片。每张图片为28*28像素。其中包含60,000个训练数据和10,000个测试数据。图中给出了一些样例图片。每个数据都包含一张图片,以及这张图片上的数字是几。我们原创 2017-05-26 11:10:02 · 5008 阅读 · 3 评论 -
keras代码阅读-relu函数
概述relu是激活函数的一种。很多地方说relu函数的公式就是: f(x)=max(0,x)f(x)= max(0,x)阅读了theano的代码def relu(x, alpha=0): """ Compute the element-wise rectified linear activation function. .. versionadded:: 0.7.1 P原创 2016-04-26 20:07:38 · 7622 阅读 · 0 评论 -
keras代码阅读-Activition层
Activition的功能对输入应用某个函数 (就是所谓的激活函数) 例子如下:from keras.layers.core import Activation, Densemodel.add(Dense(64))model.add(Activation('tanh'))上面的例子就应用了tanh这个函数。class Activation(Layer): '''Applies an ac原创 2016-04-26 19:29:09 · 2003 阅读 · 0 评论 -
Keras源代码阅读-Dropout
Dropout层源代码dropout层在layer下的core.py中class Dropout(Layer): '''Applies Dropout to the input. Dropout consists in randomly setting a fraction `p` of input units to 0 at each update during training原创 2016-04-26 17:00:20 · 6204 阅读 · 0 评论 -
Theano-艰辛的GPU配置之路
缘由GPU可以极大的加速运算,特别是图像的运算。所以做图像处理不能不用。 那么就开始配置把。在配置的过程中走了很多弯路。报了很多错误,终于配成功了。测试GPU是否正常运行使用官方给的代码from theano import function, config, shared, sandbox import theano.tensor as T import numpy import ti原创 2016-03-24 14:29:56 · 9406 阅读 · 0 评论 -
DeepLearning学习笔记-梯度下降法
分类问题分类问题回答某个样本从属于哪个分类的问题。 分为二分分类和多类分类。 二分分类回答,一个样本是否从属于某个分类的问题。而多类分类则要在多个分类中找到一个它丛书的分类。回归问题实际上,分类问题是使用回归为基础来实现的。 回归问题可以简要的描述为以下形式 对于给定的数据集 D={(x0,y0),(x1,y1),...,(xk,yk)}\mathcal{D}=\{(x_0,y_0),(x_1,原创 2016-03-24 10:46:50 · 1918 阅读 · 0 评论 -
DeepLearning学习笔记-回归-分类-梯度下降
目录目录分类问题回归问题最小二乘法梯度下降法Logistic回归损失函数为什么要定义损失函数0-1 损失函数Zero-One Loss负对数似然损失 Negative Log-Likelihood LossNLL梯度下降与随机梯度下降softmax回归分类问题分类问题回答某个样本从属于哪个分类的问题。 分为二分分类和多类分类。 二分分类回答,一个样本是否从属于某个分类的问题原创 2016-03-24 10:36:34 · 1064 阅读 · 0 评论 -
使用Tensorflow实现两层神经网络(使用激活函数)
1 神经网络结构该神经网络由两层神经网络构成, x(1) - >hidden (10) -> y(1) x(1)->hidden(10): Y=σ(XW+b)Y=σ(XW+b)Y = \sigma(XW+b) , σσ\sigma为激活函数relu 输出层为没有激活函数的线性层。2 TensorFlow 基本用法先构造计算网络。(就是一个表达式树),然...原创 2018-04-06 19:48:30 · 1484 阅读 · 0 评论