Tensorflow 笔记 1 CNN

最新推荐文章于 2020-11-29 20:24:27 发布
置顶 最新推荐文章于 2020-11-29 20:24:27 发布
阅读量789 收藏
点赞数
分类专栏： Quant 文章标签： c语言 机器学习 python 量化 tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/artemis_123/article/details/54376212
版权 
%%time
2
from __future__ import division
3
from __future__ import print_function  
4
import numpy as np
5
import pandas as pd
6
import matplotlib.pylab as plt
7
%matplotlib inline
8
import seaborn as sns
9
​
10
import tensorflow as tf
11
​
12
fac = np.load('/home/big/Quotes/TensorFlow deal with Uqer/fac16.npy').astype(np.float32)
13
ret = np.load('/home/big/Quotes/TensorFlow deal with Uqer/ret16.npy').astype(np.float32)
14
#fac = np.load('/home/big/Quotes/TensorFlow deal with Uqer/fac16.npy')
15
#ret = np.load('/home/big/Quotes/TensorFlow deal with Uqer/ret16.npy')
16
​
17
# Parameters
18
learning_rate = 0.001 # 学习速率，
19
training_iters = 20 # 训练次数
20
batch_size = 1024 # 每次计算数量 批次大小
21
display_step = 10 # 显示步长
22
​
23
# Network Parameters
24
n_input = 40*17 # 40天×17多因子
25
n_classes = 7 # 根据涨跌幅度分成7类别
26
# 这里注意要使用 one-hot格式，也就是如果分类如3类 -1,0,1 则需要3列来表达这个分类结果，3类是-1 0 1 然后是哪类，哪类那一行为1 否则为0
27
dropout = 0.8 # Dropout, probability to keep units
28
​
29
# tensorflow 图 Graph 输入 input，这里的占位符均为输入
30
x = tf.placeholder(tf.float32, [None, n_input])
31
y = tf.placeholder(tf.float32, [None, n_classes])
32
keep_prob = tf.placeholder(tf.float32) #dropout (keep probability)

2层

# 2层CNN
2
def CNN_Net_two(x,weights,biases,dropout=0.8,m=1):
3
    # 将输入张量调整成图片格式
4
    # CNN图像识别，这里将前40天的多因子数据假设成图片数据
5
    x = tf.reshape(x, shape=[-1,40,17,1])
6
    
7
    # 卷积层1
8
    x = tf.nn.conv2d(x, weights['wc1'], strides=[1,m,m,1],padding='SAME')
9
    # x*W + b
10
    x = tf.nn.bias_add(x,biases['bc1'])
11
    # 激活函数
12
    x = tf.nn.relu(x)
13
    
14
    # 卷积层2 感受野 5 5 16 64 移动步长1
15
    x = tf.nn.conv2d(x, weights['wc2'], strides=[1,m,m,1],padding='SAME')
16
    x = tf.nn.bias_add(x,biases['bc2'])
17
    x = tf.nn.relu(x)
18
    
19
    # 全连接层
20
    x = tf.reshape(x,[-1,weights['wd1'].get_shape().as_list()[0]])
21
    x = tf.add(tf.matmul(x,weights['wd1']),biases['bd1'])
22
    x = tf.nn.relu(x)
23
    
24
    # Apply Dropout
25
    x = tf.nn.dropout(x,dropout)
26
    # Output, class prediction
27
    x = tf.add(tf.matmul(x,weights['out']),biases['out'])
28
    return x
29
​
30
# Store layers weight & bias
31
weights = {
32
    'wc1': tf.Variable(tf.random_normal([5, 5, 1, 16])),
33
    'wc2': tf.Variable(tf.random_normal([5, 5, 16, 64])),
34
    # fully connected, 7*7*64 inputs, 1024 outputs
35
    'wd1': tf.Variable(tf.random_normal([40*17*64, 1024])),
36
    'out': tf.Variable(tf.random_normal([1024, n_classes]))
37
}
38
​
39
biases = {
40
    'bc1': tf.Variable(tf.random_normal([16])),
41
    'bc2': tf.Variable(tf.random_normal([64])),
42
    'bd1': tf.Variable(tf.random_normal([1024])),
43
    'out': tf.Variable(tf.random_normal([n_classes]))

3层

def CNN_Net_three(x,weights,biases,dropout=0.8,m=1):
2
    
3
    x = tf.reshape(x, shape=[-1,40,17,1])
4
    
5
    # 卷积层1
6
    x = tf.nn.conv2d(x, weights['wc1'], strides=[1,m,m,1],padding='SAME')
7
    x = tf.nn.bias_add(x,biases['bc1'])
8
    x = tf.nn.relu(x)
9
    
10
    # 卷积层2 
11
    x = tf.nn.conv2d(x, weights['wc2'], strides=[1,m,m,1],padding='SAME')
12
    x = tf.nn.bias_add(x,biases['bc2'])
13
    x = tf.nn.relu(x)
14
    
15
    # 卷积层3 
16
    x = tf.nn.conv2d(x, weights['wc3'], strides=[1,m,m,1],padding='SAME')
17
    x = tf.nn.bias_add(x,biases['bc3'])
18
    x = tf.nn.relu(x)    
19
    
20
    # 全连接层
21
    x = tf.reshape(x,[-1,weights['wd1'].get_shape().as_list()[0]])
22
    x = tf.add(tf.matmul(x,weights['wd1']),biases['bd1'])
23
    x = tf.nn.relu(x)
24
    
25
    # Apply Dropout
26
    x = tf.nn.dropout(x,dropout)
27
    # Output, class prediction
28
    x = tf.add(tf.matmul(x,weights['out']),biases['out'])
29
    return x
30
​
31
# Store layers weight & bias
32
weights = {
33
    'wc1': tf.Variable(tf.random_normal([5, 5, 1, 16])),
34
    'wc2': tf.Variable(tf.random_normal([5, 5, 16, 32])),
35
    'wc3': tf.Variable(tf.random_normal([5, 5, 32, 64])),
36
    # fully connected, 7*7*64 inputs, 1024 outputs
37
    'wd1': tf.Variable(tf.random_normal([40*17*64, 1024])),
38
    'out': tf.Variable(tf.random_normal([1024, n_classes]))
39
}
40
​
41
biases = {
42
    'bc1': tf.Variable(tf.random_normal([16])),
43
    'bc2': tf.Variable(tf.random_normal([32])),
44
    'bc3': tf.Variable(tf.random_normal([64])),
45
    'bd1': tf.Variable(tf.random_normal([1024])),
46
    'out': tf.Variable(tf.random_normal([n_classes]))
47
}

%%time
2
# 模型优化
3
pred = CNN_Net_two(x,weights,biases,dropout=keep_prob)
4
cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(pred,y))
5
optimizer = tf.train.AdamOptimizer(learning_rate=learning_rate).minimize(cost)
6
correct_pred = tf.equal(tf.argmax(pred,1),tf.arg_max(y,1))
7
# tf.argmax(input,axis=None) 由于标签的数据格式是 -1 0 1 3列，该语句是表示返回值最大也就是1的索引，两个索引相同则是预测正确。
8
accuracy = tf.reduce_mean(tf.cast(correct_pred, tf.float32))
9
# 更改数据格式，降低均值
10
init = tf.global_variables_initializer()
11
with tf.Session() as sess:
12
    sess.run(init)
13
    # for step in range(300):
14
    for step in range(1):
15
        for i in range(int(len(fac)/batch_size)):
16
            batch_x = fac[i*batch_size:(i+1)*batch_size]
17
            batch_y = ret[i*batch_size:(i+1)*batch_size]
18
            sess.run(optimizer,feed_dict={x:batch_x,y:batch_y,keep_prob:dropout})
19
            if i % 10 ==0:
20
                print(i,'----',(int(len(fac)/batch_size)))
21
        loss, acc = sess.run([cost, accuracy], feed_dict={x: batch_x,y: batch_y,keep_prob: 1.})
22
        print("Iter " + str(step*batch_size) + ", Minibatch Loss= " + \
23
                  "{:.6f}".format(loss) + ", Training Accuracy= " + \
24
                  "{:.5f}".format(acc))
25
    print("Optimization Finished!")   
26
    sess.close()

4层

def CNN_Net_five(x,weights,biases,dropout=0.8,m=1):
2
    
3
    x = tf.reshape(x, shape=[-1,40,17,1])
4
    
5
    # 卷积层1
6
    x = tf.nn.conv2d(x, weights['wc1'], strides=[1,m,m,1],padding='SAME')
7
    x = tf.nn.bias_add(x,biases['bc1'])
8
    x = tf.nn.relu(x)
9
    
10
    # 卷积层2 
11
    x = tf.nn.conv2d(x, weights['wc2'], strides=[1,m,m,1],padding='SAME')
12
    x = tf.nn.bias_add(x,biases['bc2'])
13
    x = tf.nn.relu(x)
14
    
15
    # 卷积层3 
16
    x = tf.nn.conv2d(x, weights['wc3'], strides=[1,m,m,1],padding='SAME')
17
    x = tf.nn.bias_add(x,biases['bc3'])
18
    x = tf.nn.relu(x)    
19
    
20
    # 卷积层4 
21
    x = tf.nn.conv2d(x, weights['wc4'], strides=[1,m,m,1],padding='SAME')
22
    x = tf.nn.bias_add(x,biases['bc4'])
23
    x = tf.nn.relu(x) 
24
    
25
    # 卷积层5 
26
    x = tf.nn.conv2d(x, weights['wc5'], strides=[1,m,m,1],padding='SAME')
27
    x = tf.nn.bias_add(x,biases['bc5'])
28
    x = tf.nn.relu(x) 
29
    
30
    # 全连接层
31
    x = tf.reshape(x,[-1,weights['wd1'].get_shape().as_list()[0]])
32
    x = tf.add(tf.matmul(x,weights['wd1']),biases['bd1'])
33
    x = tf.nn.relu(x)
34
    
35
    # Apply Dropout
36
    x = tf.nn.dropout(x,dropout)
37
    # Output, class prediction
38
    x = tf.add(tf.matmul(x,weights['out']),biases['out'])
39
    return x
40
​
41
# Store layers weight & bias
42
weights = {
43
    'wc1': tf.Variable(tf.random_normal([5, 5, 1, 16])),
44
    'wc2': tf.Variable(tf.random_normal([5, 5, 16, 32])),
45
    'wc3': tf.Variable(tf.random_normal([5, 5, 32, 64])),
46
    'wc4': tf.Variable(tf.random_normal([5, 5, 64, 32])),
47
    'wc5': tf.Variable(tf.random_normal([5, 5, 32, 16])),
48
    # fully connected, 7*7*64 inputs, 1024 outputs
49
    'wd1': tf.Variable(tf.random_normal([40*17*16, 1024])),
50
    'out': tf.Variable(tf.random_normal([1024, n_classes]))
51
}
52
​
53
biases = {
54
    'bc1': tf.Variable(tf.random_normal([16])),
55
    'bc2': tf.Variable(tf.random_normal([32])),
56
    'bc3': tf.Variable(tf.random_normal([64])),
57
    'bc4': tf.Variable(tf.random_normal([32])),
58
    'bc5': tf.Variable(tf.random_normal([16])),
59
    'bd1': tf.Variable(tf.random_normal([1024])),
60
    'out': tf.Variable(tf.random_normal([n_classes]))

%%time
2
# 模型优化
3
pred = CNN_Net_five(x,weights,biases,dropout=keep_prob)
4
cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(pred,y))
5
optimizer = tf.train.AdamOptimizer(learning_rate=learning_rate).minimize(cost)
6
correct_pred = tf.equal(tf.argmax(pred,1),tf.arg_max(y,1))
7
# tf.argmax(input,axis=None) 由于标签的数据格式是 -1 0 1 3列，该语句是表示返回值最大也就是1的索引，两个索引相同则是预测正确。
8
accuracy = tf.reduce_mean(tf.cast(correct_pred, tf.float32))
9
# 更改数据格式，降低均值
10
init = tf.global_variables_initializer()
11
​
12
with tf.Session() as sess:
13
    sess.run(init)
14
    for step in range(1):
15
        for i in range(int(len(fac)/batch_size)):
16
            batch_x = fac[i*batch_size:(i+1)*batch_size]
17
            batch_y = ret[i*batch_size:(i+1)*batch_size]
18
            sess.run(optimizer,feed_dict={x:batch_x,y:batch_y,keep_prob:dropout})
19
            print(i,'----',(int(len(fac)/batch_size)))
20
        loss, acc = sess.run([cost, accuracy], feed_dict={x: batch_x,y: batch_y,keep_prob: 1.})
21
        print("Iter " + str(step*batch_size) + ", Minibatch Loss= " + \
22
                  "{:.6f}".format(loss) + ", Training Accuracy= " + \
23
                  "{:.5f}".format(acc))
24
    print("Optimization Finished!") 
25
    sess.close()

我优化参数之后准确率大概在94%
本文详细源代码请戳

artemis_123
关注
专栏目录
tensorflow实现偏微分方程的例子--模拟水滴掉落
木东的博客
04-28 3904
TensorFlow 不仅仅是用来机器学习，它更可以用来模拟仿真。在这里，我们将通过模拟仿真几滴落入一块方形水池的雨点的例子，来引导您如何使用 TensorFlow 中的偏微分方程来模拟仿真的基本使用方法。 注：本教程最初是准备做为一个 IPython 的手册。 译者注:关于偏微分方程的相关知识，译者推荐读者查看 网易公开课 上的《麻省理工学院公开课：多变量微积分》课程。 基
python里怎么样求解微分方程？
大坡3D软件开发
09-20 1万+
有很多大学生问我，学习python有什么用呢？我说：你至少可以用来解微分方程，如下面的例子,就是解决微分方程：y"+a*y'+b*y=0 代码如下：#y"+a*y'+b*y=0 from scipy.integrate import odeint from pylab import * def deriv(y,t): # 返回值是y和y的导数组成的数组 a = -2.0
神经网络求解二阶常微分方程(代码)
weixin_41582053的博客
11-29 4465
相关的理论推导请参考: 神经网络求解二阶常微分方程. 以下是程序分享 import os os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2' import tensorflow as tf import matplotlib.pyplot as plt import numpy as np import math x_train = np.linspace(0, 2, 400)#生成[0,2]区间100个点 y_trail = np.exp(-0.2*x_train)*np.s
Tensorflow系列：tf.random_normal
热门推荐
YoungDreamNJU的博客
01-03 2万+
在CNN代码里，可能有这样一句话： W1 = tf.Variable(tf.random_normal([3, 3, 1, 32], stddev=0.01))，对于函数tf.random_normal解释如下： tf.random_normal tf.random_normal(shape, mean=0.0, stddev=1.0, dtype=tf.float32, seed=None,
[TF进阶] 循环神经网络
gdtop的个人笔记
05-28 1056
实例55：RNN # -*- coding: utf-8 -*- # 1. 定义基本函数 import copy, numpy as np np.random.seed(0) #随机数生成器的种子，可以每次得到一样的值 # compute sigmoid nonlinearity def sigmoid(x): #激活函数 output = 1/(1+np.exp(-x)) ...
tensorflow笔记
07-18
在提供的 "tensorflow笔记" 文件中，你将找到关于这些概念的详细解释和示例代码，包括如何构建和训练一个简单的 CNN 模型，以及如何理解和解释代码执行的过程。这是一份非常有价值的 TensorFlow 学习资料，适合初学...
Tensorflow笔记5.pdf
07-31
卷积神经网络（CNN，Convolutional Neural Network）是深度学习领域中用于处理图像、视频等数据的强大工具。本节主要介绍了CNN的基本概念、特点以及它如何解决全连接网络（FCN，Fully Connected Network）参数过多...
Tensorflow笔记61
08-03
**TensorFlow笔记61——循环神经网络（RNN）详解** 循环神经网络（Recurrent Neural Network，RNN）是一种能够处理序列数据的深度学习模型，尤其适用于自然语言处理、音频识别和时间序列预测等领域。RNN的核心是其...
人工智能实践：Tensorflow笔记.zip
最新发布
04-25
《人工智能实践：TensorFlow笔记》是一份深度探讨人工智能领域中TensorFlow框架的综合学习资料。TensorFlow是由Google Brain团队开发的开源库，主要用于数值计算，广泛应用于机器学习和深度学习领域。本压缩包包含了...
北京大学人工智能实践：Tensorflow笔记
05-26
《北京大学人工智能实践：Tensorflow笔记》是一份深入探讨Tensorflow框架在人工智能领域的应用的重要学习资料。这份笔记结合了理论与实践，旨在帮助读者理解和掌握这一强大的深度学习工具。以下是笔记中涉及的关键...
tf.random_normal()函数
weixin_30278237的博客
01-11 3415
tf.random_normal()函数用于从服从指定正太分布的数值中取出指定个数的值。 tf.random_normal(shape, mean=0.0, stddev=1.0, dtype=tf.float32, seed=None, name=None) shape: 输出张量的形状，必选 mean: 正态分布的均值，默认为0 stdd...
TensorFlow梯度求解tf.gradients
yqtao的博客
08-26 1万+
import tensorflow as tf w1 = tf.Variable([[1,2]]) w2 = tf.Variable([[3,4]]) res = tf.matmul(w1, [[2],[1]]) grads = tf.gradients(res,[w1]) with tf.Session() as sess: tf.global_variables_init
（2）tensorflow 再深入一点：多元一次方程求解
lbg198808的博客
03-14 1680
基于上一篇博客二元一次方程求解，上面的例子如果能完成，结合官网的资料和其他博主的资料，我相信你已经算入了个门了，后面能不能通过修改上面的例子进行解决更加复杂的问题呢？再看看下一个问题，如果有一个值，它受到 N 个参数的影响，但是每个参数的权重我们并不清楚，我们希望能用刚刚学到的 TensorFlow 来解决这个问题。 首先建立一个模型，表示 N 组数据，具体点，先实现 5 个变量的求解，生成 10...
量化模型的分类
郑梦佳的专栏
06-05 7268
以下内容都是在京东的量化平台上看到的，加上自己的理解。 1、 多因子模型 多因子模型主要用在股票上。建立多因子模型大致有如下步骤：1、因子测试。将股票池中的个股按因子值大小进行分组，计算每个组合在一段时间内的收益情况，这样可以识别因子是否有效。为了防止该因子和一些已知的因子存在较强的相关性，有时需要将收益率对已知变量做回归，然后对残差进行分组测试。2、分配因子权重。按照不同
tf.random_normal函数说明
清晨的光明
09-04 9341
函数形式： tf.random_normal(     shape,     mean=0.0,     stddev=1.0,     dtype=tf.float32,     seed=None,     name=None ) 参数： shape: 输出张量的形状，必选 mean: 正态分布的均值，默认为0 stddev: 正态分布的标准差，默认为1.0 dtype: 输出...
TensorFlow 学习（八）—— 梯度计算（gradient computation）
03-16 8924
1. 一个实例 relu = tf.nn.relu(tf.matmul(x, W) + b) C = [...][db, dW, dx] = tf.gradient(C, [b, w, x])
温故微分方程
weixin_30501857的博客
08-11 102
1. 微分方程与普通方程 微分方程： 包含未知函数的导数的方程； 其解是函数； 普通方程： 它的解是一个数，或者是一组数（多项式方程）； y′′+2y′−3y=0，y1=e−3x，y2=ex 2. ODE 与 PDE Linear 与 NonLinear 判断的标准而是，函数的 0 阶导，1 阶导，2 阶导，…，不存在彼此相乘（哪怕是自己...
神经网络求解二阶常微分方程
weixin_41582053的博客
11-20 5041
神经网络求解二阶常微分方程 最近课题组老师给出一篇文献，文件原文如链接一所示。需要让我使用深度神经网络求解偏微分方程。在相关调研过程中，CSDN上作者Trytobenice分享过相关的程序源码。基于相关程序源码，我将他的一阶常微分方程求解扩充到二阶常微分方程求解。并且按照此方法可以求解高阶常微分方程。 理论分析 对于任意一个微分方程，我们都可以用这个方程表示出 求解目的就是找出这样的一个方程：ψ(x)，能够满足以上的G()函数。 对于计算机求解，第一步要将其离散化处理： 人工神经网络若要求解该方程，那就
一般二阶线性非齐次微分方程的解与对应齐次方程的解的关系
Bing's Blog
11-18 1万+
一般二阶线性非齐次微分方程的解与对应齐次方程的解的关系@(微积分)设p(x),q(x),f(x),f(x)≠0p(x),q(x),f(x),f(x)\neq 0为连续函数，对于下面的二阶线性非齐次方程：y″+p(x)y′+q(x)y=f(x)y''+p(x)y'+q(x)y = f(x) (1)对应的二阶线性齐次方程：y″+p(x)y′+q(x)y=0y''+p(x)y'+q(x)y = 0 (2)
Tensorflow笔记：卷积神经网络详解
这篇Tensorflow笔记主要讲解了卷积神经网络（Convolutional Neural Networks, CNN）的基础知识及其在图像识别中的应用。笔记首先回顾了全连接神经网络（Fully Connected Networks, FCN）的特点，强调了其参数量过大...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值