深度学习
叶落花开年
这个作者很懒,什么都没留下…
展开
-
Transformer学习
本课程根据李宏毅2020课程中的Transformer章节进行学习对视频学习过程进行记录Transfomer是一个seq2seq结构,重点使用的self-attention layer取代了RNN layer一般情况下处理一个sequence时候最常使用的RNN处理:a为输入层,b为输出层,但是这种使用RNN的结构有一个很大的缺点,就是不能够平行化(所谓的平行化就是,RNN在处...原创 2020-04-06 13:21:58 · 152 阅读 · 0 评论 -
tensorflow-代码-循环神经网络(RNN)
tensorflow 学习之路 九:LSTM实现手写数字识别同样以手写数字识别为例,学习下循环神经网络tensorflow代码的使用:这里使用LSTM作为RNN的一个例子。1.首先先介绍下参数,不同于前面的传统神经网络结构中需要将图片扁平化处理,将28×28的图片变成1×784的步骤,在LSTM中,如果是28×28的图片,就是28行,28列,每次输入的是一行,一张图片就需要28次的输入...原创 2020-03-31 23:12:44 · 771 阅读 · 0 评论 -
tensorflow-代码-卷积神经网络(CNN)
tensorflow学习之路 八:使用卷积神经网络进行手写数字识别。 前面的文章使用了传统神经网络对手写数字进行识别,为了学习卷积神经网络,继续使用手写识别这个案例,不过这里使用卷积神经网络代替传统神经网络。通过案例学习到,如何使用卷积神经网络替代传统神经网络完成手写识别方法。学习如何定义以及使用卷积神经。结构: 这里整个模型的结构是:2层卷积层以及2层全连接...原创 2020-03-29 14:13:36 · 610 阅读 · 0 评论 -
tensorflow-代码-手写数字识别
tensorflow学习之路 七:手写数字识别 手写数字识别的数据集采用的是MNIST数据集:该数据集包含60,000个训练样本和10,000个测试样本。他们的大小同一为28×28。(28行,28列的一个矩阵,表示一个0~9的数字) 每张图片的大小是28×28=784,所以对一张图片来说,输入的一张图片的维度是784维1.神经网络结构:输入层784...原创 2020-03-27 19:53:18 · 182 阅读 · 0 评论 -
tensorflow-代码-非线性回归
tensorflow之路 六:非线性回归通过代码能够实现一个:输入层为一个神经元,隐藏层为10个神经元,输出层为一个神经元的神经网络模型。输入为:-0.5至0.5随机初始化的200个点作为x值代码:import tensorflow as tfimport numpy as npimport matplotlib.pyplot as plt#使用numpy生成500样本点...原创 2020-03-27 18:12:24 · 229 阅读 · 0 评论 -
tensorflow-代码-简单线性拟合
tensorflow学习之路 五:线性拟合步骤:1.随机生成100随机点作为x,定义一个方程y=k×X+b,使用方程计算y的值#使用numpy生成100个随机的点x_data = np.random.rand(100)y_data = x_data*1+32.创建两个变量k和b,表示要建立的线性模型的斜率k和截距b,建立方程#构造一个线性模型b = tf.Variab...原创 2020-03-27 15:48:42 · 274 阅读 · 1 评论 -
tensorflow-代码-Fetch和Feed的使用
tensorflow学习之路 四:Fetch和Feed的使用一、Fetch简介:Fetch的作用是在会话中可以同时执行多个op。例子:这里有两个op,分别是加法和乘法,使用sess.run([])同时执行两个op,将两个op放入【】中.import tensorflow as tf#定义三个常量input1 = tf.constant(1.0)input2 = tf.co...原创 2020-03-27 15:09:50 · 148 阅读 · 0 评论 -
tensorflow-代码-变量自增操作
tennsorflow学习之路 三:变量自增操作本代码实现的目的是创建一个变量x,每执行一次自增1op操作,完成x=x+1操作,使用for循环定义需要执行几次自增1的操作。import tensorflow as tf#创建一个变量,初始化为0,名字为counterstate = tf.Variable(0,name='counter')#创建一个op,作用是使state+1...原创 2020-03-26 22:02:45 · 390 阅读 · 0 评论 -
tensorflow代码-向量相减
tensorflow学习之路 二:继上一篇文章中使用两个常量做加法运算之后,本片文章使用变量来做简单的运算操作:前置知识:tensorflow创建变量之后,在session调用之前需要进行变量的初始化操作:init = tf.global_variables_initializer()接下来我们开始看一个tensorflow实现的带有变量的减法操作:注意这里我们使用的是向量相加减...原创 2020-03-26 21:43:43 · 1079 阅读 · 0 评论 -
tensorflow代码-初识-矩阵相乘
tensorflow:学习tensorflow之路 一步骤:构建一个Graph,将需要计算的变量放入Graph中进行计算一个简单的矩阵相乘案例:""" 创建一个Graph,然后启动"""#导入需要的模块import tensorflow as tfimport osos.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'#创建两个常量...原创 2020-03-26 21:20:44 · 630 阅读 · 0 评论