『TensorFlow Internals』笔记_源码结构

零、资料集合

• 知乎专栏：Bob学步
• 知乎提问：如何高效的学习 TensorFlow 代码?.
• 大佬刘光聪（Github，简书）
  • 开源书：TensorFlow Internals，强烈推荐（本博客参考书）
  • TensorFlow架构与设计：编程模型
  • TensorFlow架构与设计：概述
  • TensorFlow架构与设计：会话生命周期
  • TensorFlow架构与设计：图模块
  • TensorFlow架构与设计：OP本质论
  • TensorFlow架构与设计：变量初始化
• 大佬姚健（Github）
  • 系列文章（图片？）：图解tensorflow源码
  • 『深度长文』Tensorflow代码解析（一）
  • 『深度长文』Tensorflow代码解析（二）
  • 『深度长文』Tensorflow代码解析（三）：Op/Kernel相关
  • 『深度长文』Tensorflow代码解析（四）：Graph相关
  • 『深度长文』Tensorflow代码解析（五）：Session相关
• TensorFlow Kernels Registration 源码解析：TensorFlow的介绍写在paddle的wiki里。
• 网上某大佬博客（强烈推荐）
  • TensorFlow 拆包（一）：Session.Run()
  • TensorFlow 拆包（二）：TF 的数据流模型实现以及自动求导
  • TensorFlow 拆包（三）：Graph 和 Node
  • TensorFlow 拆包（四）：Device
  • TensorFlow 拆包（五）：Distributed
  • TensorFlow 拆包（六）：RDMA
  • TensorFlow 拆包（七）：Profiling 踩坑 & Benchmark
  • TensorFlow 拆包（八）：Dynamic Control Flow in Large-Scale Machine Learning
• 知乎某大佬专栏
  • Tensorflow是如何注册和调用C++ New Op的：侧重源码
  • 使用Tensorflow C++ API自定义操作：侧重流程
• 其他
  • 知乎文章：TensorFlow 的 c ++ 实践及各种坑！

另附：

Ubuntu下编译源码指南

一、代码获取

克隆源码：

git clone https://github.com/tensorflow/tensorflow.git

切换到r1.4稳定分支：

cd tensorflow

git check r1.4

二、源码结构

tree -d -L 1 ./tensorflow

 

目录	说明
/c	C++ API，也是一些 Python API 与 C 层的接口部分
/cc
/compiler	即时编译的工具内容
/contrib	一些额外的库，大部分由第三方添加，其中一些正式确定的内容会移出去
/core	TensorFlow 的核心运行时代码
/core/distributed_runtime	分布式运行时代码
/core/framework	运行时中相对最底层的架构部分，涉及到很多基础结构的定义、与 Protobuf 的结合部分等等
/core/graph	运行时中对计算图的定义和处理
/core/kernels	计算图中 Op 的核心计算部分（即 Op 的 Kernel 函数）
/core/lib	运行时中调用的其他库的接口？
/core/ops	C 部分的 Op 分成两个部分，核心计算函数在前面的 /kernels 目录中，这里存的是 Op 面向上层 Python 运行时的注册部分内容。 详见 TensorFlow 拆包（三）：Graph 和 Node
/core/platform	针对不同平台的额外内容
/core/profiler	运行时的调优工具？
/core/protobuf	Protobuf 的定义
/core/util	其他的一些工具
/python	TensorFlow Python 部分的运行时和 API

重点文件夹如下：

core

内核的源码，C++实现。

python

接口API，python实现。

contrib

第三方库，实验性，当 contrib 标准化,并从 中,并正式对外发布。

stream_executor

提速组件，并行化、分布式相关。

compiler

优化计算图，主要优化OP的分解组合方式，找到尽可能好的图构建方式，能够分析运行时的计算图,将多个 OP 融
合在一起,并生成更高效的本地机器代码,提升计算图的执行效率。

三、逻辑构架图