- 博客(7)
- 收藏
- 关注
RSS订阅原创 tensorflow源码分析（七）-优化函数
Tensorflow系统中的优化函数主要根据传入的损失函数的梯度计算出损失函数的极值，在计算过程中会根据传入的学习率不断的修改模型中的参数，从而使神经模型在训练数据上的损失函数尽可能小，从而得到一个质量比较好的模型。Tensorflow中实现了很多的优化函数：GradientDescentOptimizer AdagradDAOptimizer AdamOptimizer AdagradO...
2018-12-27 18:10:01
1081
原创 tensorflow源码分析（六）设备管理
接下来介绍一下tensorflow对设备devices的发现和管理，负责运行kernel的具体硬件设备抽象成为devices；实现某种操作的算法叫做kernel，可以将kernel看做是一段能够跑在具体硬件设备上的算法程序，所以相同的算法实现，在gpu上有一套实现，在cpu上有一套实现。在session初始化时会调用add_device接口，把cpu gpu设备添加到sessi...
2018-12-20 09:13:14
734
原创 tensorflow源码分析（五）session.run()
接下里分析session.run()接口，执行一次run就执行了一遍数据流图，在tensorflow代码中通常在一个循环中调用run接口，一次run就是训练过程中的一步：1）session.run() 客户端通过该接口执行一步训练2）BaseSession.Run（）fetches参数可以是单个元素，或者是一个列表，一个字典，一个元组，都是可以的，但是要有个前提，最...
2018-12-14 11:24:55
4474
原创 tensorflow 源代码分析（4）-自定义op
添加自定义op本文介绍如何在tensorflow中增加一个新得OP以及op对应得kernel，还有如何编译和使用新增加得op。1.新增加op对应得kernel实现，新的op ZeroOutOp类继承自OpKernel，重新实现Compute接口，在该接口内实现op对应得kernel（tensorflow/core/user_ops/zero_out.cc cpu设备上的实现）：RE...
2018-12-06 17:12:43
1499
原创 tensorflow源代码分析（3）-mnist cnn卷积神经网络模型源代码
# coding=utf-8from __future__ import absolute_importfrom __future__ import divisionfrom __future__ import print_functionimport argparseimport sysimport tempfilefrom tensorflow.examples.tutor...
2018-12-05 11:29:18
294
原创 tensorflow源码分析（2）
Session类：Session是连接client和tensorflow系统的中间件，负责两者之间的交互；Session后台得实现由两种：DirectSession和GrpcSession。DirectSession在本地环境中使用，GrpcSession在分布式环境中使用，来计算相应得graph，两种方式分别对应两个不同的object实现。Client通过Session与Master...
2018-12-02 13:41:24
1083
原创 tensorflow源码分析（1）
variable类： 通过实例化Variable类可以添加一个变量到graph，在使用变量之前必须对变量显示的初始化，初始化可以使用assign为变量赋值也可以通过变量本身的initializer方法。 上图主要是介绍在graph中默认有两个变量得colletion，其中一个是gloable variable collection，会存放所有得变量，...
2018-12-02 13:29:23
1148
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人