TensorFlow
文章平均质量分 59
技术宅zch
新时代农民工,IT搬砖狗
展开
-
BERT源码embedding_lookup解析
use_one_hot_embeddings解析为什么使用onehot或者tf.gather方法BERT源码中构造模型时关于embedding的参数有一个为use_one_hot_embeddings。这个参数值为Boolean类型的值,且默认为False。具体的深层代码如下:def embedding_lookup(input_ids, vocab_size, embedding_size=128,原创 2021-06-15 22:42:50 · 776 阅读 · 4 评论 -
TensorFlow1.x入门教程——统领篇
TensorFlow1.x入门教程前言你将得到什么?系列文章地址后记前言TesnorFlow作为深度学习的代表性的框架在业界被广泛的使用,现在已经有1.x和2.x版本,由于1.x和2.x版本的差距较大(可以理解为Python2与Python3的差距),并且2.x版本较为新资源还较少,不少公司仍然使用TensorFlow1.x,维护的项目也是TensorFlow1.x开发的。所以本教程也围绕了TensorFlow1.x展开。你将得到什么?本教程实战性较强,内容也相对简单容易上手。所以,适合初学者了解T原创 2020-05-13 13:51:21 · 10341 阅读 · 1 评论 -
TensorFlow1.x入门(1)——计算图的创建与启动
计算图的创建与启动概念知识点示例概念计算图可以认为是TensorFlow中的数据流向图,TensorFlow1.x版本采用的静态图的机制。即先搭图后计算的特点。有了计算图,可以将数据“导流到”计算图的入口处进行数据的运算等相关的处理。知识点TensorFlow中采用图(Graph)来表示计算任务——即称为计算图。在会话(Session)的上下文(Context)中执行计算图。通过张量...原创 2020-03-26 11:21:24 · 5342 阅读 · 2 评论 -
TensorFlow1.x入门(2)——变量的定义及其操作
系列文章1. 计算图的创建与启动变量的定义及其操作系列文章知识点知识点变量:顾名思义就是可以变化的量,与之对应的是常量,常量在程序运行期间是不可以变的。TensorFlow中的变量的含义与Python中变量的含义类似,都是用于存放数据的单位。...原创 2020-03-31 23:32:38 · 3464 阅读 · 0 评论 -
TensorFlow1.x入门(3)——Feed与Fetch
系列文章1. 计算图的创建与启动Feed与Fetch系列文章知识点示例知识点Feed:中文翻译“喂食”。在TensorFlow中用于表示,将数据喂到(输入到)计算图中进行计算的操作。Fetch:中文翻译“拿得”。在TensorFlow中用于表示,从计算图中取数字的操作。tf.multiply(x, y)是乘法操作,返回x与y的乘积。即x*y。该乘法为数值之间相乘,并不是矩阵相乘。tf...原创 2020-03-31 23:57:17 · 2600 阅读 · 0 评论 -
TensorFlow1.x入门(4)——线性回归
系列文章1. 计算图的创建与启动2. 变量的定义及其操作3. Feed与Fetch线性回归系列文章知识点示例知识点线性回归:是回归问题,形式如y=k×x+by=k\times x + by=k×x+b。np.random.rand()通过这个函数可以生成一个或者一组从0-1均匀分布的随机样本值。随机样本的取值范围是[0, 1)。tf.square()计算平方,针对一个或者一组数据进...原创 2020-04-01 00:44:23 · 2067 阅读 · 2 评论 -
TensorFlow1.x入门(5)——构建非线性回归模型
系列文章1. 计算图的创建与启动2. 变量的定义及其操作3. Feed与Fetch4. 线性回归构建非线性回归模型系列文章知识点示例注意知识点np.linsapce(-0.5, 0.5, 200)生成从-0.5到0.5的均匀分布的200个数据点。包含首尾numpy中花式索引的一个实例——数据升维,即原来是1维的数据列表,经过升维后形成每个数值为1维列表的2为列表。结果类似如下:[...原创 2020-04-15 19:42:00 · 1899 阅读 · 0 评论 -
TensorFlow1.x入门(6)——简单分类问题
系列文章1. 计算图的创建与启动2. 变量的定义及其操作3. Feed与Fetch4. 线性回归5. 构建非线性回归模型简单分类问题系列文章前言知识点示例前言深度学习基本上就是处理两大类问题,分类问题与回归问题。系列文章的第4,5篇均是针对回归问题进行介绍,本文则会通过简单的示例,也是经典的tutorial——手写数字识别的demo来介绍分类任务的模型是如何搭建的。知识点mni...原创 2020-04-15 23:14:58 · 1824 阅读 · 2 评论 -
TensorFlow1.x入门(7)——Dropout与优化器
系列文章1. 计算图的创建与启动2. 变量的定义及其操作3. Feed与Fetch4. 线性回归5. 构建非线性回归模型6. 简单分类问题Dropout与优化器系列文章引言知识点示例引言dropout技术是经常用于神经网络防止过拟合的方法,具体的原理以及内容之前的博客有讲。here优化器则是深度神经网络在训练过程的核心,通过优化器在迭代数据的过程中不断的更新网络的参数值,使得模...原创 2020-04-18 11:57:29 · 2236 阅读 · 0 评论 -
TensorFlow1.x入门(8)——手动调整学习率与TensorBoard
系列文章1. 计算图的创建与启动2. 变量的定义及其操作3. Feed与Fetch4. 线性回归5. 构建非线性回归模型6. 简单分类问题7. Dropout与优化器手动调整学习率与TensorBoard系列文章前言知识点示例前言学习率的调整对模型的收敛较为重要,当学习率较大时,模型有可能会产生震荡甚至还会发生Loss跑飞的情况。所以随着迭代的进行,学习率的下降会有利于模型收敛...原创 2020-04-18 14:08:09 · 1859 阅读 · 2 评论 -
TensorFlow1.x入门(9)——卷积神经网络(CNN)
系列文章1. 计算图的创建与启动2. 变量的定义及其操作3. Feed与Fetch4. 线性回归5. 构建非线性回归模型6. 简单分类问题7. Dropout与优化器8. 手动调整学习率与TensorBoard卷积神经网络(CNN)系列文章引言知识点示例引言卷积神经网络(Convolutional Neural Networks, CNN)是深度学习领域内的一个重要的组成构建...原创 2020-04-19 15:18:02 · 2729 阅读 · 1 评论 -
TensorFlow1.x入门(10)——循环神经网络(RNN)
系列文章1. 计算图的创建与启动2. 变量的定义及其操作3. Feed与Fetch4. 线性回归5. 构建非线性回归模型6. 简单分类问题7. Dropout与优化器8. 手动调整学习率与TensorBoard9. 卷积神经网络(CNN)循环神经网络(RNN)系列文章引言知识点示例引言循环神经网络(Recurrent Neural Network, RNN)是深度神经网络中...原创 2020-04-19 16:10:19 · 1402 阅读 · 0 评论 -
TensorFlow1.x入门(11)——模型的保存与恢复
系列文章1. 计算图的创建与启动2. 变量的定义及其操作3. Feed与Fetch4. 线性回归5. 构建非线性回归模型6. 简单分类问题7. Dropout与优化器8. 手动调整学习率与TensorBoard9. 卷积神经网络(CNN)10. 循环神经网络(RNN)模型的保存与恢复系列文章引言知识点示例引言利用TensorFlow训练好模型可以对测试集的数据进行预测,用于评估模型的好坏。但是每次执行一个预测任务时,均从头训练一下模型,则会耗费大量的时间与资源,并且有可能结果不能完原创 2020-05-12 19:16:24 · 2110 阅读 · 1 评论