![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习框架部署
包括i移动段和服务器端内容,主要使用tensorflow,相关的是lite和servering东西。
颐水风华
框架:tensorflow pytorch tensorrt cuda cublas opnecv。
语言:c、c++ python。
展开
-
BASIC 卷集池化个数与尺寸的选择 03
目录卷集1 卷集核选择个数2 为什么最近的卷集核尺寸选择区域1x1 3x3 很少见5x5?3 卷集核尺寸都是奇数呢?池化1 池化核尺寸都是偶数呢?闲话深度学习学习的是分布式特征,所以一般特征图越小,通道数就越多,有利于网络的表达。全链接就是对分布式特征的重组。或者是从1024衰减。卷集1 卷集核选择个数一般 CNN 中两层之间会含有多个卷积核,目的...原创 2019-06-14 22:50:54 · 1723 阅读 · 0 评论 -
BASIC cnn pool fc等等的理解 02
1、CNN作用简单来说,CNN的目的是以一定的模型对事物进行特征提取,2、Pool作用其中一个显而易见,就是减少参数。通过对 Feature Map 降维,有效减少后续层需要的参数,简化模型 另一个则是 Translation Invariance。它表示对于 Input,当其中像素在邻域发生微小位移时,Pooling Layer 的输出是不变的。这就使网络的鲁棒性增强了,有一定抗扰...原创 2019-06-07 20:31:16 · 221 阅读 · 0 评论 -
BASIC 一些深度学习中一些概念01
全局连接,指的就是全连接局部连接,就是在FC-FC层之间,加上pool层,来降低参数量。权值共享比如一个3*3的卷积核,共9个参数,它会和输入图片的不同区域作卷积,来检测相同的特征。全局池化解决问题:全连接的问题,其主要是是将最后一层的特征图进行整张图的一个池化,形成一个特征点,将这些特征点组成最后的特征向量。“global pooling”就是pooling的 滑...原创 2019-06-07 20:32:10 · 172 阅读 · 0 评论 -
如何部署深度学习模型
目录我刚刚训练了机器学习模型——那么现在呢?ML在生产中将一次性推断转换为在线推断(Tensorflow)将一次性推断转换为在线推理(其他ML框架)部署扩展:负载平衡和服务发现RPC部署结论和进一步阅读摘要:本文将讲解如何部署深度学习模型,让你不再对如何快速地将机器学习模型部署到生产中感到困扰我刚刚训练了机器学习模型——那么现在呢?这篇文章介绍了一种快...转载 2019-10-28 22:29:45 · 2104 阅读 · 0 评论 -
移动 tensorflow Lite
开始使用 TensorFlow LiteTensorFlow Lite 提供了转换 TensorFlow 模型,并在移动端(mobile)、嵌入式(embeded)和物联网(IoT)设备上运行 TensorFlow 模型所需的所有工具。以下指南介绍了开发人员工作流程的每个步骤,并提供了进一步说明的链接。1. 选择一个模型TensorFlow Lite 允许您在多种设备上运行 ...转载 2019-11-22 23:33:47 · 462 阅读 · 2 评论 -
深度学习Tensorflow生产环境部署[2]
前一篇讲过环境的部署篇,这一次就讲讲从代码角度如何导出pb模型,如何进行服务调用。1 hello world篇部署完docker后,如果是cpu环境,可以直接拉取tensorflow/serving,如果是GPU环境则麻烦点,具体参考前一篇,这里就不再赘述了。cpu版本的可以直接拉取tensorflow/serving,docker会自动拉取latest版本:docker p...转载 2019-10-29 14:08:02 · 260 阅读 · 0 评论 -
深度学习Tensorflow生产环境部署[1]
最近在研究Tensorflow Serving生产环境部署,尤其是在做服务器GPU环境部署时,遇到了不少坑。特意总结一下,当做前车之鉴。1 系统背景系统是ubuntu16.04ubuntu@ubuntu:/usr/bin$ cat /etc/issueUbuntu 16.04.5 LTS \n \l或者ubuntu@ubuntu:/usr/bin$ uname ...转载 2019-10-29 14:06:42 · 284 阅读 · 0 评论