tensorflow-serving源码阅读1

最新推荐文章于 2024-04-24 17:06:12 发布
最新推荐文章于 2024-04-24 17:06:12 发布
阅读量1.5k 收藏
点赞数
文章标签： tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ghostlv/article/details/124570110
版权

文章目录

简介

准备写几个文章来记录对tensorflow代码的阅读。本文主要写tensorflow代码阅读准备及tensorflow-serving代码的阅读。

准备工作

代码阅读前，还是需要准备一下装备来提升代码阅读效率，好的工具能提升代码阅读的效率，这里推荐使用CLion来阅读代码。
即使windows下，也可以用CLion阅读代码，虽然很多代码编译不过，但并不影响代码的阅读。

首先，我们需要选择一个阅读的版本，本文选择1.15版本。在github上建立代码库tf_read，然后在该目录下下载tensorflow/tensorflow和tensorflow/serving的代码（直接下载对应的tar包解压就行）。目前tf_read目录下的情况如下:

  • serving-1.15.0 tf-serving的源码
  • tensorflow-1.15.0 tf的源码

为了提升使用CLion阅读代码的时候效率，需要提前做一些工作，包括：生成pb产物、移除单测文件、屏蔽“无关”文件、添加构建目标。

生成pb产物

CLion代码分析时，会查找对应的头文件，如果proto编译产物不存在，则会影响代码的解析，也会影响代码跳转的准确率。
这时，我们需要手工编译一下proto文件，但是需要将编译产物放在特定的目录下，并将这个目录从全文搜索的路径里移除，避免搜索proto成员时出现一堆编译产物的搜索结果。
在根目录下创建pb_out目录用于存放proto编译产出。在serving-1.15.0目录下建立一个指向tensorflow-1.15.0/tensorflow的软链，因为serving下的部分proto依赖了tensorflow的proto。分别在serving-1.15.0和tensorflow-1.15.0目录下执行下面代码，进行手工编译:

protoc --cpp_out=../pb_out `find . -name '*.proto'`

然后在serving-1.15.0目录下单独执行grpc的编译命令:

protoc --grpc_out=. --plugin=protoc-gen-grpc=`which grpc_cpp_plugin` `find tensorflow_serving/apis/ -name '*.proto'`

上面命令执行完毕后，选中pb_out目录，右键-将目录标记为-排除。接着在CMakeLists.txt中添加include_directories(pb_out)。

移除单侧代码

由于tensorflow和serving是使用bazel构建的，单侧文件和源码文件都是放在一个目录里，影响CLion的全文搜索和“查找用法”等功能。这时建议把"_test.cc"和"_benchmark.cc"文件移动到特定目录下。
在根目录下建立test_dir目录，然后编写脚本将这两类文件移动到这个目录下:

for filename in `find . -name '*_test.cc' -o -name '*_benchmark.cc'`
do
    echo ${filename};
    origin_dir=`dirname ${filename}`;
    target_dir="test_dir/${origin_dir}";
    echo ${target_dir};
    mkdir -p ${target_dir};
    cp ${filename} ${target_dir};
done

执行上面的脚本后，单侧和压测代码就被移动到test_dir目录下，然后右键-将目录标记为-排除，这样就排除单侧对代码跳转的影响了。

屏蔽“无关”文件

为了减少全文搜索时无关代码对结果的影响，建议将py、java、go、lite等相关代码目录直接排除（右键-将目录标记为-排除）。

添加构建目标

tensorflow是使用bazel构建的，虽然CLion有bazel插件，但是bazel经常崩溃，体验不是特别好，所以还是使用cmake来构建这个代码。
在CMakeLists.txt里添加下面代码，来添加构建目标（不是真的构建，只是用来阅读一下代码）:

set(CMAKE_CXX_STANDARD 17)

include_directories(tensorflow-1.15.0)
include_directories(serving-1.15.0)

aux_source_directory(serving-1.15.0/tensorflow_serving/apis SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/batching SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/config SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/core SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/model_servers SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/resources SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/servables/hashmap SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/servables/tensorflow SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/sources/storage_path SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/util SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/util/net_http/client SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/util/net_http/compression SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/util/net_http/internal SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/util/net_http/server/internal SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/util/net_http/server/public SERVER_SRC)
aux_source_directory(serving-1.15.0/tensorflow_serving/mytools SERVER_SRC)

add_executable(tf-server ${SERVER_SRC})

aux_source_directory(tensorflow-1.15.0/tensorflow/cc/client TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/cc/framework TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/cc/gradients TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/cc/ops TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/cc/profiler TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/cc/saved_model TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/cc/tools TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/cc/training TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/api_def TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/common_runtime TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/common_runtime/data TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/common_runtime/eager TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/common_runtime/gpu TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/common_runtime/sycl TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/debug TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/distributed_runtime TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/distributed_runtime/eager TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/distributed_runtime/rpc TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/framework TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/graph TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/grappler TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/grappler/clusters TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/grappler/costs TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/grappler/graph_analyzer TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/grappler/inputs TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/grappler/optimizers TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/grappler/utils TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/grappler/verifiers TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/kernels TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/kernels/batching_util TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/kernels/boosted_trees TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/kernels/boosted_trees/quantiles TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/kernels/data TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/kernels/fuzzing TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/kernels/hexagon TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/kernels/neon TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/kernels/rnn TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/kernels/tensor_forest TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/lib TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/lib/core TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/nccl TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/ops TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/ops/compat TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/platform TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/platform/cloud TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/platform/default TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/platform/hadoop TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/platform/posix TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/platform/profile_utils TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/platform/s3 TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/profiler TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/profiler/internal TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/profiler/lib TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/profiler/rpc TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/protobuf TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/summary TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/tpu TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/user_ops TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/util TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/util/ctc TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/util/proto TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/util/rpc TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/util/sparse TF_SRC)
aux_source_directory(tensorflow-1.15.0/tensorflow/core/util/tensor_bundle TF_SRC)

add_library(tf ${TF_SRC})

部分第三方库不在源码中，这时需要手工安装一下。mac用户可以直接用brew进行安装，同时在CMakeLists.txt里添加include_directories(/usr/local/include); windows用户直接使用conan安装一下即可，conanfile.txt内容如下:

[build_requires]

[requires]
protobuf/3.9.1
gflags/2.2.2
glog/0.5.0
abseil/20211102.0
eigen/3.4.0

[generators]
cmake_find_package
cmake_paths

[options]

然后在CMakeLists.txt中添加下面内容:

include(${CMAKE_BINARY_DIR}/conan_paths.cmake)
find_package(absl REQUIRED)
find_package(Protobuf REQUIRED)
find_package(Eigen3 REQUIRED)
include_directories(${absl_INCLUDE_DIR})
include_directories(${protobuf_INCLUDE_DIR})
get_filename_component(Eigen3_INCLUDE_DIR_P ${Eigen3_INCLUDE_DIR} DIRECTORY)
include_directories(${Eigen3_INCLUDE_DIR_P})

使用CLion看tensorflow的准备工作就做完了。

serving代码阅读

tensorflow可以分为下面几层:

  • service层。位置在tensorflow_serving/model_servers，提供grpc接口
  • 资源管理层。位置在tensorflow_serving/core管理模型的版本
  • servable层。位置在tensorflow_serving/servables/tensorflow，模型的一个版本。
  • session层。tensorflow的执行实体，不在这个代码库中。

执行的流程: service层接到请求，根据模型名在aspired_versions_manager中找到对应的servable，然后执行servable中session的RUN操作，完成推理过程，最后将结果返回。

service层

service层提供了grpc三套接口:

  • model_service。获取模型状态、模型重载
  • prediction_service。分类、回归、预估、批量推理、模型信息获取
  • session_service。session直接调用接口

service层除了提供grpc接口外，还提供了http接口，可以直接post json的形式进行在线推理。
同时还有prometheus接口，用于监控。

以预测为例，调用过程如下:

  1. PredictionServiceImpl::Predict调用TensorflowPredictor::Predict进行预估
  2. TensorflowPredictor::Predict调用TensorflowPredictor::PredictWithModelSpec进行预估
    1. 调用ServerCore::GetServableHandle获取SavedModelBundle
      1. 调用ServerCore::ServableRequestFromModelSpec构建查询包
      2. 调用AspiredVersionsManager::GetServableHandle获得servable
    2. 调用internal::RunPredict进行预估
      1. 输入映射(PreProcessPrediction)
      2. 执行Session::Run进行预估(已经在tensorflow代码里)
      3. 输出打包(PostProcessPredictionResult)

资源管理层

这一层是serving管理模型数据的层。serving支持单模型和多模型两种版本。
单模型即整个服务里就一个模型的数据，多模型即服务里包含了多个模型的数据。
serving模型加载也分为两种模式，静态加载和动态加载。
静态加载即服务启动时加载模型数据，然后模型文件更新也不会去加载，代码在tensorflow_serving/core/static_manager.h，但似乎没有使用。
动态加载即服务时加载模型，模型数据更新后自动加载新模型。
模型加载的策略包括:

  • AvailabilityPreservingPolicy 最大化可用性。先装载新资源，再卸载老资源。
  • ResourcePreservingPolicy 最小化资源，先卸载老资源，再装载新资源。

可以配置load和unload的线程数控制装载和卸载的效率。

获取servable的流程:

  • AspiredVersionsManager::GetUntypedServableHandle 调用
    • BasicManager::GetUntypedServableHandle 调用
      • ServingMap::GetUntypedServableHandle
        1. 根据ServableRequest查询HandlesMap获取对应的LoaderHarness
        2. LoaderHarness取出Loader指针，使用SharedPtrHandle包裹后返回。

其中HandlesMap是unordered_multimap，key是ServableRequest，value是LoaderHarness。
ServableRequest中不包含版本信息，通过制定hash函数使得每次查询获得都是最新的版本。

ServerCore下的组件:

  • AspiredVersionsManager
  • ServableStateMonitor 状态监视器，处理状态变化，并触发回调。
  • EventBus 消息总线，连接ServableStateMonitor和AspiredVersionsManager。
  • StoragePathSourceAndRouter
  • ResourceTracker

todo: 详细分析资源管理层逻辑

servable层

一个servable对应一个模型的一个版本，这里涉及到多个类:

  • SavedModelBundle 实际模型
    • Session 对象
    • meta_graph_def graph申明
  • ServableHandle 类似智能指针，但是不管理内存
  • UntypedServableHandle 基类，定义了获取servable的句柄。
  • SharedPtrHandle UntypedServableHandle的实现，从Loader中获取servable对象。
  • ServableRequest 用来查询manager获得指定版本模型的阐述对象(Params)

他们的关系是: manager中存了SharedPtrHandle对象，通过ServableRequest查询对应的SharedPtrHandle；使用时将获取的使用ServableHandle将获取的SharedPtrHandle对象中的Loader维护的SavedModelBundle取出。

再往下就是tensorflow的代码了。

phantom66
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
tensorflow源码
07-23
tensorflow 最新源代码，。....引自源码对应github分享
Tensorflow serving 可执行文件打包
05-08
与本人博客https://blog.csdn.net/fenbo2013/article/details/89948509所搭配的tensorflow serving 源码编译安装成功的可执行二进制文件。 解压即可使用
基于Tensorflow 深度学习的常见作物害虫识别系统的设计与实现项目源码+安装教程
02-28
基于Tensorflow 深度学习的常见作物害虫识别系统的设计与实现项目源码+安装教程 软件架构 1.深度学习技术栈：Python3.7 , Tensorflow 2.1, google colab 2.服务端技术栈：阿里云ECS，Ubuntu-18-04-x64，Docker, Tensorflow Serving, nginx , tomcat 3.web客户端技术栈：Vue2 , Echarts , Tensorflow for js, Opencv for js
TensorFlow 官方文档中文版 - v1.2.pdf
05-06
TensorFlow 官方文档中文版，学习使用！
java红酒网站源码-pipelines-model-serving:在管道中实现模型服务
06-05
java网站源码流水线机器学习示例 该项目包含三个示例管道： 使用流线过程中提供的模型判断葡萄酒的质量。 使用作为使用 Kubeflow的服务提供的模型进行产品推荐。 使用 H2O 嵌入式“MOJO”模型预测空中交通延误。 此外，它还包含用于流水线的可重用“contrib”库的原型： pipelinesx -（受javax启发）用于编写管道流流（包括模拟从外部源加载数据的测试入口流）、示例和测试工具的杂项帮助程序类和实用程序。 它使用包名称结构pipelines.<subject> 。 model-serving - 用于管理异构模型（TensorFlow、PMML、H2O 以及可能的其他模型）并为其model-serving类。 由于此内容并非特定于 Pipelines，因此它使用包结构com.lightbend.modelserving... 。 设置 您无需任何额外设置即可启动sbt并成功运行test ，但要在 Pipelines 中运行某些示例应用程序，则需要额外设置。 InfluxDB 设置 - 用于葡萄酒质量和航空公司航班示例 注意：此时，写入 InfluxDB 的Egre
tensorflow源码精读之graph
kangshuangzhu的博客
01-29 1146
本节介绍tensorflow中的graph，在c_api.cc中有创建graph的例子，我们从这个为切入点，探索graph的使用。
如何阅读TensorFlow源码
深藏功与名
04-05 1万+
通过bazel学习之后，大概了解了TensorFlow的项目的源文件和描述文件。 下面是一篇不错的介绍，搬砖here。 在静下心来默默看了大半年机器学习的资料并做了些实践后，打算学习下现在热门的TensorFlow的实现，毕竟系统这块和自己关系较大。本文会简单的说明一下如何阅读TensorFlow的源码。最重要的是了解其构建工具bazel以及脚本语言调用c或cpp的包裹工具swig。这
tf.placeholder函数说明
热门推荐
清晨的光明
09-03 18万+
函数形式： tf.placeholder( dtype, shape=None, name=None ) 参数： dtype：数据类型。常用的是tf.float32,tf.float64等数值类型 shape：数据形状。默认是None，就是一维值，也可以是多维（比如[2,3], [None, 3]表示列是3，行不定） name：名称 为什么要用placeh...
Tensorflow源码 目录树
JNing
06-21 5065
tensorflow/ tensorflow/该目录下存放着tensorflow的核心代码contrib/该目录下存放有其他项目贡献者添加的相关贡献代码。由于tensorflow受关注程度较高，目前该目录正急剧膨胀。 core/后台C++实现部分。包含了主要的　C++代码　和　runtimes　。该目录为tensorflow的C++源码的核心。common_runtime/tensorflow 普通
Tensorflow serving的源码编译安装(成功编译安装)
fenbo2013的博客
05-08 3894
Tensorflow 学习路途中的血汗泪！！！！！！ 哥写的不是博客，哥写的是寂寞！！
tensorflow-serving-yolov3:本项目主要对原tensorflow-yolov3版本做了许多细节上的改进,增加了TensorFlow-Serving工程部署,训练了多个数据集，包括Visdrone2019, 安全帽等, 安全帽mAP在98%左右, 推理速度1080上608的尺寸大概25fps
05-11
1. 修改了网络结构，支持了tensorflow-serving部署,自己训练的数据集也可以在线部署, 并给出了 docker+python_client测试脚本, 支持HTTP跟GRPC协议[ 0325 新增 ] 2. 修改了ulits文件，优化了demo展示,可以支持中文...
毕业设计-A tutorial of building tensorflow serving service f.zip
最新发布
04-25
本资源是经过本地编译测试、可打开、可运行的项目、文件或源码，可以用于毕业设计、课程设计的应用、参考和学习需求，请放心下载。 祝愿你在这个毕业设计项目中取得巨大进步，顺利毕业！ 但还需强调一下，这些项目...
Tensorflow Serving 部署自己的模型
酒酿小圆子呀～
10-29 3231
文章目录1. saved_model 模型保存与载入2. 部署自己的模型2.1 将固化后的模型文件放入Tensorflow Serving指定目录2.2 模型发布2.3 查看模型情况2.3.1 查看模型概况2.3.2 查看模型metadata 数据情况:3. 调用API接口进行测试3.1 通过curl命令进行预测3.2 通过 postman 等接口调用软件进行预测 1. saved_model 模型保存与载入 # 基于GRU的预测 inputX = tf.placeholder(tf.float32, sh
【架构分析】Tensorflow 自动微分源码分析
HaoBBNuanMM的博客
12-21 2049
文章 链接对几种不同类型的微分做了很详细的图文说明，值得一看 Tensorflow 求解梯度（微分）的核心函数代码分析如下 @tf_export(v1=["gradients"]) def gradients(ys, xs, grad_ys=None, name="gradients", colocate_gradients_with_ops=False, ga.
tensorflow的op注册源码精读
kangshuangzhu的博客
01-11 783
在自定义的算子时，经常遇到一些函数和宏，这里介绍一下常见的函数和宏。
FCN Tensorflow源码阅读注释和总结
Francis Liu
01-24 2613
项目地址：https://github.com/shekkizh/FCN.tensorflow 为了直观的从头到尾捋一遍代码和tensorflow语法，所以把 tensorflowUtils.py 文件中的大多和tensorflow相关的辅助函数在 FCN.py 中重新实现了一遍。   FCN 优点： 可以输入任意大小的图像； 全卷积代替全连接，减少参数数目、运算量； FCN缺点： 结果...
tensorflow Serving架构详解和代码示例
qq_25864747的博客
07-26 1255
1、参数个性化 CTR 模型 - PPNet 　　2019 年之前，快手 App 主要以双列的瀑布流玩法为主，用户同视频的交互与点击，观看双阶段来区分。在这种形式下， CTR 预估模型变得尤为关键，因为它将直接决定用户是否愿意点击展示给他们的视频。彼时业界主流的推荐模型还是以 DNN、DeepFM 等简单的全连接深度学习模型为主。但考虑到某用户个体和视频的共建语义模式在全局用户的共建语义模式基础上会有个性化的偏差，如何在 DNN 网络参数上为不同用户学习一个独有的个性化偏差成为了快手推荐团队优化的方向。在.
tensorflow serving加载模型错误 No versions of servable test found under base path
yupei881027的专栏
01-16 4279
错误信息 W tensorflow_serving/sources/storage_path/file_system_storage_path_source.cc:268] No versions of servable test found under base path
深度学习框架TensorFlow和PyTorch的选取
csdn1561168266的博客
04-24 1126
首先，让我们简要介绍一下每个框架：TensorFlow：由Google Brain开发，TensorFlow是一个全面的机器学习生态系统。它提供了灵活的架构，既可以进行底层控制，又可以进行高层抽象。TensorFlow拥有庞大的社区和丰富的资源，使其成为生产环境中的热门选择。hl=zh-cnPyTorch：由Facebook的AI研究实验室创建，PyTorch以其动态计算图和易用性而闻名。它为构建神经网络提供了一种更直观和Pythonic的方法。
tensorflow-gpu2.6
03-16
TensorFlow-GPU 2.6是一个基于深度学习的开源机器学习框架，它是TensorFlow的一个特定版本。它的主要特点是支持使用GPU进行高效的计算，从而加速深度学习模型的训练和推理过程。 TensorFlow-GPU 2.6具有以下特性和功能： 1. GPU加速：TensorFlow-GPU 2.6可以利用NVIDIA的GPU进行并行计算，大大提高了深度学习模型的训练和推理速度。 2. 分布式训练：它支持在多个GPU和多台机器上进行分布式训练，可以加快模型的训练速度。 3. 高级API支持：TensorFlow-GPU 2.6提供了高级API，如Keras和Estimator，使得模型的构建和训练更加简单和方便。 4. 自动微分：它支持自动微分，可以方便地计算模型的梯度，用于优化模型的参数。 5. 模型部署：TensorFlow-GPU 2.6提供了多种模型部署方式，包括TensorFlow Serving、TensorFlow Lite等，可以将训练好的模型部署到不同的平台上。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值