深度学习机器学习
szj_jojo
学无止境,环保也是
github:https://github.com/sun123zhengjun
展开
-
tensorflow构造第一个神经网络
coding:utf-8“”” 构造第一个神经网络模型 “”“构造神经网络结构import tensorflow as tf import numpy as np def add_layer(inputs,in_size,out_size,activation_function=None): Weights = tf.Variable(tf.random_normal([in_si原创 2017-06-17 10:46:30 · 352 阅读 · 0 评论 -
卷积神经网络中same padding 和 valid padding
The TensorFlow Convolution example gives an overview about the difference between SAME and VALID :For the SAME padding, the output height and width are computed as:out_height = ceil(float(in_height) /原创 2017-06-28 16:59:36 · 4151 阅读 · 0 评论 -
tensorflow1.1/激活函数可视化
环境:tensorflow1.1,python3,matplotlib2.02#coding:utf-8"""tensorflow 1.1python 3matplotlib 2.02"""import tensorflow as tfimport numpy as npimport matplotlib.pyplot as pltx = np.linspace(-5,5,400)#原创 2017-06-29 15:20:38 · 466 阅读 · 0 评论 -
tensorflow1.1/线性回归
环境:tensorflow1.1 python3 matplotlib2.02tensorflow 1.1和之前版本有了很大的改动,在构建神经网络方面代码量减少了很多,matplotlib2.02在画图上也比之前好看了许多#coding:utf-8import tensorflow as tfimport numpy as npimport matplotlib.pyplot as pltx原创 2017-06-29 21:42:27 · 333 阅读 · 0 评论 -
tensorflow1.1/构建神经网络分类
环境:tensorflow1.1,matplotlib2.02,python3#coding:utf-8"""tensorflow 1.1python 3matplotlib 2.02"""import tensorflow as tfimport numpy as npimport matplotlib.pyplot as pltnp.random.seed(100) #随机种子t原创 2017-07-01 22:50:53 · 2417 阅读 · 0 评论 -
tensorflow1.1/保存和提取训练好的参数
环境 tensorflow1.1,python3,matplotlib 2.02构造神经网络训练并保存训练好的weights和bias#coding:utf-8"""tensorflow 1.1matplotlib 2.02python3"""import tensorflow as tfimport numpy as npimport matplotlib.pyplot as plt#原创 2017-07-02 16:05:22 · 973 阅读 · 0 评论 -
tensorflow1.1/optimizer可视化
环境:tensorflow 1.1 python 3 matplotlib 2.02#coding:utf-8'''tensorflow 1.1python 3 matplotlib 2.02'''import tensorflow as tfimport matplotlib.pyplot as pltimport numpy as np#设置随机种子tf.set_random_原创 2017-07-03 16:43:09 · 454 阅读 · 0 评论 -
tensorflow1.1/tensorboard可视化
环境:python 3 , tensorflow 1.1#coding:utf-8"""python 3tensorflow 1.1"""import tensorflow as tfimport numpy as np#设置随机种子tf.set_random_seed(100)np.random.seed(100)#数据x = np.linspace(-1,1,100)[:,np原创 2017-07-06 15:27:51 · 522 阅读 · 0 评论 -
python3环境下安装scikit-learn
环境:python 3 , numpy 1.13安装相关的依赖环境 1. lapack是跟线性代数有关的工具包,安装相关库 sudo apt-get install liblapack-dev libblas-dev 2. 安装nose库 pip install nose 3.安装scipy sudo apt-get install python3-scipysudo pip insta原创 2017-07-06 18:43:25 · 2141 阅读 · 0 评论 -
tensorflow1.1/构建卷积神经网络识别手写数字
环境:python 3 ,tensorflow 1.1 , matplotlib 2.02tensorflow1.1在构建卷积神经网络方面代码大大简化,方便很多,并且将keras作为tensorflow的高级api#coding:utf-8"""python 3 tensorflow 1.1matplotlib 2.02"""import tensorflow as tfimport原创 2017-07-06 20:57:52 · 695 阅读 · 0 评论 -
tensorflow1.1/循环神经网络手写数字啊识别
环境:tensorflow 1.1 , python 3 , matplotlib 2.02#coding:utf-8"""tensorflow 1.1python 3 matplotlib 2.02"""import tensorflow as tfimport input_dataimport numpy as npimport matplotlib.pyplot as plt原创 2017-07-07 11:15:44 · 461 阅读 · 0 评论 -
tensorflow1.1/非监督学习autoencoder1
环境:tensorflow 1.1, python 3,matplotlib 2.02AutoEncoder是一种非监督学习,将数据的高维特征进行压缩降维编码,再经过相反的解码过程的一种学习方法。学习过程中通过解码得到的最终结果与原数据进行比较,通过梯度下降,不断提高对原数据的复原能力,原理与PCA相似。 在MNIST数据集上,实现特征压缩和特征解压并可视化比较解压后的数据与原数据的对照,实验原创 2017-07-07 15:18:08 · 3478 阅读 · 0 评论 -
tensorflow1.1/autoencoder2
环境:tensorflow1.1 , python 3, matplotlib 2.02encoder编码器将编码得到的低维特征在空间中可视化出来,直观显示数据的聚类效果。实验过程中采用过激活函数 relu ,tanh,sigmoid,发现采用激活函数relu时聚类效果最好#coding:utf-8"""tensorflow 1.1python 3matplotlib 2.02"""imp原创 2017-07-08 19:37:25 · 1158 阅读 · 0 评论 -
tensorflow/tf.set_random_seed()
tensorflow中设置随机种子,可分为两类,图级seed和操作级seed, 情况1:当没有设置图级seed和操作级seed时,生成的随机数是随机的 情况2:当设置操作级seed时,生成的随机数是同一组随机数,没有设置操作级seed的操作,生成的随机数是随机的 情况3:当设置图级seed, 将会生成同一组随机数,如果设置操作级seed又和情况2相同 ```python a = tf.r原创 2017-07-08 19:13:38 · 6324 阅读 · 0 评论 -
使用scikit-learn 0.18中的警告
环境:scikit-learn 0.18 , python3from sklearn.cross_validation import train_test_split from sklearn.grid_search import GridSearchCV 报出如下警告: from sklearn.grid_search import GridSearchCV原创 2017-07-09 09:43:53 · 8191 阅读 · 0 评论 -
tensorflow中CNN对mnist识别
tensorflow中构建卷积神经网络对mnist手写数字识别 环境:tensorflow1.1+CPU 刚开始在pc上跑,8G内存居然结果出现了内存溢出等问题,于是调小batch_size,任然报错,可能是因为用的虚拟机出现内存溢出 后来在服务器上进行实验#coding:utf-8import tensorflow as tfimport input_dataimport date原创 2017-06-28 15:25:13 · 407 阅读 · 0 评论 -
tensorflow构建神经网络文本分类2
完成前面博客中配置好的环境:ubuntu14.04,tensorflow1.1 ,python3,matplotlib 2.02利用神经网络对文本进行分类#coding:utf-8from create_sentiment_featuresets import create_feature_sets_and_labelsimport numpy as npimport tensorflow a原创 2017-06-27 12:15:18 · 1019 阅读 · 0 评论 -
tensorflow构建神经网络文本分类1
刚开始使用的环境是:ubuntu14.04+Python2.7+nltk_data,结果出现UnicodeDecodeError: ‘ascii’ codec can’t decode byte 0xc2 in position 2: ordinal not in range(128) 很多文章说是编码问题,尝试修改后还是会出现错误,后来采用如下方法完美解决。环境:根据上一篇博客中的环境,ub原创 2017-06-27 10:22:31 · 1433 阅读 · 0 评论 -
tensorflow构造神经网络拟合数据
coding:utf-8“”” 构造神经网络拟合数据 “”” import tensorflow as tf import numpy as np import matplotlib.pyplot as plt构造神经网络(正向构造)def add_layer(inputs,in_size,out_size,activation_function=None): Weights =原创 2017-06-17 12:38:21 · 2279 阅读 · 0 评论 -
构造神经网络利用tensorboard结果可视化
coding:utf-8“”” 构造神经网络结果可视化 “”” import tensorflow as tf import numpy as np构造神经网络def add_layer(inputs,in_size,out_size,n_layer,activation_function=None): layer_name = “layer %s” %n_layer w原创 2017-06-17 14:31:38 · 401 阅读 · 0 评论 -
tensorflow基本语法
#coding:utf-8"""学习tensorflow基本语法"""import tensorflow as tf"""a = tf.constant([[3,3]]) #tf.constant定义常量b = tf.constant([[2],[2]])c = tf.matmul(a,b) #matmul函数with tf.Session() as sess: resul原创 2017-06-19 12:58:01 · 553 阅读 · 0 评论 -
tensorflow中下载mnist数据集
#coding:utf-8from __future__ import absolute_importfrom __future__ import divisionfrom __future__ import print_functionimport gzipimport osimport numpyfrom six.moves import urllibfrom six.moves原创 2017-06-19 12:59:45 · 1742 阅读 · 0 评论 -
tensorflow中mnist手写数字识别
import tensorflow as tf import numpy as np import input_data """ 构建neural network识别mnist数据集 """ #加载mnist数据 mnist = input_data.read_data_sets('mnist',one_hot=True) #one_hot=True表示(0:100000000原创 2017-06-19 13:04:27 · 412 阅读 · 0 评论 -
tensorflow中mnist识别和结果可视化
import tensorflow as tfimport numpy as npimport input_datamnist = input_data.read_data_sets('MNIST_data',one_hot=True)def add_layer(inputs,in_size,out_size,n_layer,activation_function=None): laye原创 2017-06-19 15:03:32 · 1017 阅读 · 0 评论 -
tensorflow构建神经网络回归分析可视化
#coding:utf-8import tensorflow as tfimport numpy as npimport pandas as pdimport matplotlib.pyplot as plt"""tensorflow线性回归"""learning_rate = 0.01epochs = 1000step = 100#读取数据data = pd.read_tabl原创 2017-06-19 20:26:32 · 1936 阅读 · 0 评论 -
tensorflow中logistic识别mnist手写数字
#coding:utf-8import tensorflow as tfimport numpy as npimport matplotlib.pyplot as pltimport input_datamnist = input_data.read_data_sets('mnist',one_hot=True) learning_rate = 0.01epochs = 25batch_原创 2017-06-20 10:44:34 · 361 阅读 · 0 评论 -
tensorflow中MLP识别mnist手写数字
#coding:utf-8import tensorflow as tfimport numpy as npimport input_dataimport matplotlib.pyplot as plt"""利用多层感知器对mnist数据集分类精度比logistic高"""#加载数据mnist = input_data.read_data_sets('mnist',one_hot原创 2017-06-20 19:13:28 · 1869 阅读 · 0 评论 -
tensorflow构建RNN识别mnist手写数字
#coding:utf-8import tensorflow as tfimport input_data#加载mnist数据集mnist = input_data.read_data_sets('mnist/',one_hot=True)#定义参数learning_rate = 0.01epochs = 50000batch_size = 128n_inputs = 28n_ste原创 2017-06-22 13:50:04 · 561 阅读 · 0 评论 -
tensorflow版本更新
升级tensorflow 0.8 - 0.11在ubuntu中先安装ssh(为了方便远程) sudo apt-get install openssh-server service ssh start升级tensorflowsudo pip install –upgrade tensorflow-0.11.0-cp27-none-linux_x86_64 升级后导入tensorflow时出错原创 2017-06-25 10:52:27 · 2190 阅读 · 0 评论 -
不同版本的tensorboard可视化区别
不同版本tensorflow的tensorboard可视化采用同样的mnist数据集,在tensorflow 0.8的tensorboard中显示如下: 采用同样的mnist数据集,在tensorflow 1.1的tensorboard中用firefox浏览器显示如下: firefox显示效果不好 采用同样的mnist数据集,在tensorflow 1.1的tensorboard中原创 2017-06-25 13:55:21 · 2919 阅读 · 0 评论 -
python3/tensorflow1.2
环境:ubuntu16.04安装tensorflow1.2ubuntu16.04自带python2.7和python3我的误解将系统python默认指向python3.5,结果造成apt-get instll 软件失败,并报各种错误 将系统python重新指向默认的python2.7 按照tensorflow官网教程: 安装pip ,python3依赖环境,和虚拟环境(为了防止和系统中的p原创 2017-06-26 15:12:30 · 2038 阅读 · 0 评论 -
python3/tensorflow1.1
ubuntu14.04安装tensorflow1.1,ubuntu14.04中自带python3.4 按照官网教程: 安装依赖环境,pip,和虚拟环境 sudo apt-get install python-pip python-dev python-virtualenv确保环境正确安装sudo apt-get install python3-pip python3-dev python-vi原创 2017-06-26 17:56:29 · 693 阅读 · 0 评论 -
scikit-learn统计结果分析
confusion_matrix(mnist.test.labels,predictions) 混淆矩阵(confusion matrix)是一种特定的矩阵用来呈现算法性能的可视化效果,其每一列代表预测值,每一行代表的是实际的类别。混淆矩阵中对角线位置的值表示预测正确的值,例如在mnist手写数字识别过程中,通过KNN算法得到的混淆矩阵如下: 每一行分别代表【0-9】这是个数字,每一列分别代原创 2017-07-09 13:27:12 · 729 阅读 · 0 评论 -
scikit-learn/KNN手写数字识别
环境:python 3, scikit-learn 0.18KNN可以看成:有一堆已经知道分类的数据,当一个新数据进入的时候,就开始跟训练数据里的每个点求距离,然后挑离这个训练数据最近的K个点看看这几个点属于什么类型,然后利用少数服从多数的原则,给新数据归类。#coding:utf-8"""sklearn 0.18python 3"""from sklearn.model_selection原创 2017-07-10 09:15:56 · 1635 阅读 · 0 评论 -
tensorflow1.1/构建卷积神经网络识别文本
环境:tensorflow 1.1,python3#coding:utf-8import numpy as npimport tensorflow as tfimport pickle#import matplotlib.pyplot as pltwith open('sentiment_set.pickle','rb') as f: [test_data,test_labe原创 2017-07-22 10:00:57 · 384 阅读 · 0 评论 -
tensorflow/word2evc初步认识
word2vec也叫word embeddings,中文名“词向量”,作用就是将自然语言中的字词转为计算机可以理解的稠密向量(Dense Vector)。Word2Vec可以将One-Hot Encoder转化为低维度的连续值,也就是稠密向量,并且其中意思相近的词将被映射到向量空间中相近的位置。 word2vec模型其实就是简单化的神经网络#coding:utf-8import tensorflo原创 2017-07-22 10:30:56 · 765 阅读 · 0 评论 -
tensorflow1.1/人脸识别Yale数据集
环境tensorflow1.1,python3, matplotlib2.02Yale人脸数据集共有165张图片,15个人,每个人对应十一张图片 #coding:utf-8"""python 3tensorflow 1.1matplotlib 2.02"""import tensorflow as tfimport scipy.io as sioimport numpy as np原创 2017-07-25 16:51:27 · 5199 阅读 · 0 评论 -
embedding可视化/yale人脸数据集
环境tensorflow1.1,python3我们可以把学习向量映射到2维中以便我们观察,其中用到的技术可以参考 t-SNE 降纬技术和PCA。当我们用可视化的方式来观察这些向量,这实际上是非常有用的。 本实验是人脸数据集中,图像经过embedding后在空间可视化#coding:utf-8from tensorflow.contrib.tensorboard.plugins import pr原创 2017-07-26 11:17:01 · 3251 阅读 · 0 评论 -
tensorflow1.1/利用rnn回归分析
环境:tensorflow1.1,python3,matplotlib2.02#coding:utf-8from tensorflow.contrib import rnnimport tensorflow as tfimport numpy as npimport matplotlib.pyplot as plttime_step = 1input_size = 1n_hidden_原创 2017-07-27 10:54:41 · 2649 阅读 · 0 评论 -
tensorflow1.1/RNN预测
环境:tensorflow1.1,python3,matplotlib2.02#coding:utf-8from tensorflow.contrib import rnnimport tensorflow as tfimport numpy as npimport matplotlib.pyplot as pltimport pickleimport matplotlib.pyplot原创 2017-07-29 19:06:23 · 503 阅读 · 0 评论