计算模型
- 首先构造好整个计算链路
- 可以对链路进行优化
- 分布式调度
基于层模型
- 每个层的计算,固定实现 forward/backward
- 必须手动指定目标GPU卡
概念
- 使用张量表示数据
- 使用图来表示计算任务
- 在绘画的上下文中执行图
- 通过变量维护状态
- 使用feed和fetch可以为任意的操作赋值或者从其中获取数据
numpy vs tensorflow
tensorflow 计算图
tensorflow一般分为2部分
- 构造部分,包含计算流图
- 执行部分,通过session来执行图中的计算
构建图
- 创造源节点(source op)
- 源节点输出传递给其他节点op做运算
TF默认图
- tf python库有default graph
- 节点构造器可以增加节点
简要例子
变量
- 用variable来保存参数w
- 注意要先初始化
多cpu和gpu
用 with … device 控制操作