深度学习
Yaphat
这个作者很懒,什么都没留下…
展开
-
H2O学习笔记(二)——H2O Flow
H2O Flow运行深度学习算法demo(一)启动H2Ojava -jar h2o.jar -flow_dir /[ENTER_PATH_TO_FLOW_DIRECTORY_HERE]-flow_dir 参数是为了指定flow在本地磁盘保存的位置。H2O有两种类型的参数JVM argumentsH2O arguments在浏览器打开http://localhost:54321,这就是H2O F原创 2016-10-22 13:23:46 · 7216 阅读 · 2 评论 -
TensorFlow学习资源
TensorFlow完整教程:1、TensorFlow源码库: https://github.com/tensorflow/tensorflow 2、极客学院翻译的TensorFlow中文文档 http://wiki.jikexueyuan.com/project/tensorflow-zh/ 3、TensorFlow入门例子库,每个例子都有对应的Notebook。对新手是比较好的教程。原创 2016-11-23 10:59:03 · 951 阅读 · 0 评论 -
TensorFlow实现KNN
下面是用TensorFlow实现KNN,步骤在代码中描述很详细,不过多介绍了。# encoding:utf-8import numpy as npimport tensorflow as tf# 加载mnist数据集from tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_set原创 2016-11-23 15:54:09 · 3612 阅读 · 0 评论 -
Deep Learning学习资源
1、Deep Learning相关书籍1、Neural Networks and Deep Learning ,一本免费的在线书,极客学院有相应的中文翻译版,不是很全。2、教程1、 最为知名的一个教程是Stanford大学Andrew Ng大牛的UFLDL Tutorial,这个教程也有相应的中文版本 2、李宏毅的ppt,这里下载,300多页,通俗易懂。还有相应的视频,youtube链接 ,还有原创 2016-11-24 15:04:49 · 6320 阅读 · 1 评论 -
TensorFlow 实现Multilayer Perceptron
# Import MINST datafrom tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets("MNIST_Data/data/", one_hot=True)import tensorflow as tf# Parameterslearning_rate = 0.原创 2016-12-07 09:54:19 · 1404 阅读 · 0 评论 -
TensorFlow实现 Logistic Regression
下面是用TensorFlow实现Logistic Regression,都做了标注。#encoding:utf-8import tensorflow as tf# 装在MNIST数据from tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets("MNIST_Data/dat原创 2016-11-26 11:19:10 · 5961 阅读 · 0 评论 -
TensorFlow 实现Linear Regression
下面使用TensorFlow实现线性回归,具体过程在代码中很详细。# encoding:utf-8import tensorflow as tfimport numpy as npimport matplotlib.pyplot as plt# 定义参数,分别是学习率,迭代次数,还有一个是定义每50次迭代打印一些内容learning_rate = 0.01train_epochs = 10原创 2016-11-24 10:24:19 · 1469 阅读 · 1 评论 -
TensorFlow实现CNN
用TensorFlow实现CNN来做MNIST分类,做了很明确的标注。# encoding:utf-8import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets("MNIST_data/data", one_hot=True)原创 2016-12-08 17:17:29 · 1815 阅读 · 0 评论 -
安装CUDA和cuDNN
下面是CentOS系统安装过程1、CUDA安装 官方下载:https://developer.nvidia.com/cuda-downloadssudo rpm -i cuda-repo-rhel7-8.0.44-1.x86_64.rpmsudo yum clean allsudo yum install cuda设置环境变量# CUDA Toolkitexport CUDA_HOME=/u原创 2016-12-14 22:57:48 · 4505 阅读 · 0 评论 -
深度学习激活函数
在神经网络中,常用的激活函数(activation function)有以下几种:1、sigmoid函数2、双曲正切函数 tanh()3、修正线性函数 rectified linear functionf(x)=max(0,x) 它的特点是被认为是more biologically plausible than widely used logistic sigmoid or hyperbolic原创 2016-11-17 17:09:56 · 2016 阅读 · 0 评论 -
深度学习损失函数
在利用深度学习模型解决有监督问题时,比如分类、回归、去噪等,我们一般的思路如下: 信息流forward propagation,直到输出端; 定义损失函数L(x, y | theta); 误差信号back propagation。采用数学理论中的“链式法则”,求L(x, y | theta)关于参数theta的梯度; 利用最优化方法(比如随机梯度下降法),进行参数更新; 重复步骤3、4,直原创 2016-11-17 14:31:16 · 7082 阅读 · 0 评论 -
H2O学习笔记(一)—— H2O概述
H2O框架简介H2O是开源的,分布式的,基于内存的,可扩展的机器学习和预测分析框架,适合在企业环境中构建大规模机器学习模型。H2O核心代码使用Java编写,数据和模型通过分布式 Key/Value 存储在各个集群节点的内存中。H2O的算法使用Map/Reduce框架实现,并使用了Java Fork/Join框架来实现多线程。H2O目前支持的机器学习算法有DRF,GBM,GLM,GLRM,Kmeans原创 2016-10-22 11:29:52 · 19274 阅读 · 1 评论 -
H2O学习笔记(四)——Deep Learning 例子
这里写图片描述##MNIST Digit ClassificationMNIST一个比较出名的数据集,包括60000张训练图片和10000张测试图片,每张图片是一个手写数字,包括282像素值的手写识别数据,扫描的手写数字如下图所示:Example in pythonimport h2ofrom h2o.estimators.deeplearning import H2ODeepLearningEs原创 2016-10-26 14:15:30 · 5377 阅读 · 0 评论 -
H2O学习笔记(五)——Deep Autoencoders
先前的部分介绍了监督Deep Learning内容,Deep Learning 也可以用作非监督特征学习,尤其是在非线性降维方面。Deep AutoencodersDeep Autoencoders的原理可以看UFLDL的教程例子:Anomaly Detection#Import ECG train and test data into the H2O clusterfrom h2o.estima原创 2016-10-26 16:02:59 · 3208 阅读 · 0 评论 -
H2O学习笔记(三)—— Deep Learning
H2O Deep Learning 模块Activation and Loss函数H2O支持的Activation Functionstanh函数关于0对称,使得训练算法收敛较快 Rectified Linear函数在图像识别上面有较高的性能表现 Maxout函数是广义的Rectified Linear函数对于响应变量,可以指定以下的几个分布函数:每一个分布都有对应的损失函数,Bernoulli原创 2016-10-22 15:32:33 · 5703 阅读 · 0 评论 -
H2O学习笔记(七)——Deep Water
Deep Water是一个深度学习框架,集成了MXNet, Caffe, TensorFlow,可以实现GPU优化的深度学习模型。目前项目还在开发中。两张图可以描述Deep Water的优点:Deep Water号称最好的深度学习框架,从上面的张图里可以看出,Deep Water集成了mxnet,TensorFlow,Caffe三个框架,这三个框架每个都有自己的特点,如果Deep Water取长补短原创 2016-10-27 14:57:23 · 3247 阅读 · 0 评论 -
H2O学习笔记(八)——Sparkling Water
sparkling water将h2o和spark相结合,在spark平台上运行h2o服务。提供了scala,python,R的接口,下面是spark water的一个整体架构图。 安装这里只简单介绍下PySparkling的安装 首先安装Hadoop和Spark,没有问题了再安装Sparkling Water。 PySparkling支持的一些版本 h2o_pysparkling_1.原创 2016-11-03 21:04:56 · 6646 阅读 · 2 评论 -
卷积神经网路(CNN)
卷积神经网络(Convolutional Neural Network, CNN)是深度学习技术中极具代表的网络结构之一,在图像处理领域取得了很大的成功,在国际标准的ImageNet数据集上,许多成功的模型都是基于CNN的。CNN相较于传统的图像处理算法的优点之一在于,避免了对图像复杂的前期预处理过程(提取人工特征等),可以直接输入原始图像。图像处理中,往往会将图像看成是一个或多个的二维向量,如之前转载 2016-11-12 09:53:35 · 884 阅读 · 0 评论 -
H2O学习笔记(六)—— Steam
SteamSteam智能引擎是一个端对端的平台,可以将构建和部署小应用的整个流程结合在一起。数据科学家和开发者可以协同合作,训练和部署预测模型,并将这些模型用于实时的小应用中。Steam可以运行在YARN上,并可以独立运行,由于我没有hadoop集群环境,所以这里用单机运行演示。Steam是一个能够将构建和部署应用结合在一起的平台本地机器安装和启动Steam1.安装Steam到本地略2.启动 Jet原创 2016-10-27 10:15:22 · 3299 阅读 · 0 评论 -
图片的数据增强(Data Augmentation)方法
在深度学习中,为了避免出现过拟合(Overfitting),通常我们需要输入充足的数据量.若数据量比较小,可以对原有的图像数据进行几何变换,改变图像像素的位置并保证特征不变。旋转 | 反射变换(Rotation/reflection): 随机旋转图像一定角度; 改变图像内容的朝向;翻转变换(flip): 沿着水平或者垂直方向翻转图像;缩放变换(zoom): 按照一定的比例放大或者缩小图像;平原创 2017-01-05 22:20:10 · 12675 阅读 · 0 评论