- 博客(38)
- 收藏
- 关注
RSS订阅
原创 TFServing—AI模型服务部署框架（一）
TFServing是tensorflow的模型部署框架，工业界大部分企业都会选择tfserving工具，这篇文章将详细介绍tfserving的docker部署流程，支持热更新与模型版本自动管理，一旦部署成功，线上服务稳定运行，只需要集中关心线下模型训练。
2022-12-13 14:53:16
714
原创 EFcore CodeFirst生成数据表
项目中创建类，然后通过模型实体类，生成数据库中的表。下图为工程结构，同时本机上已经按照了Mysql数据库,创建了hxdata数据库。也可以通过数据库表迁移生成实体类。1.创建数据模型类namespace WebApplication1.models{ public class TodoItem { public int Id { get; set; } public string? Name { get; set; } pub.
2021-12-21 19:48:51
1479
原创 TorchServe生产环境模型部署
我们训练好一个目标检测模型，想要部署在生产环境中，查了很多资料，最终选择使用TorchServe来部署。TorchServe是AWS和Facebook联合开发的，所以没有多想，选择大厂的东西应该没有错，部署模型过程中踩了很多坑，最终成功在windows10上成功部署，后面会在linux服务器上部署。1.安装我电脑上安装的cuda版本为10.1，TorchServe对cuda10.1只支持到pytorch1.8.1或者更高版本。首先安装依赖：下载serve（https://github.com/p
2021-08-13 16:55:40
1415
2
原创 windows linux子系统 docker无法启动
failed to start daemon: Error initializing network controller: error obtaining controller instance: failed to create NAT chain DOCKER: iptables failed: iptables -t nat -N DOCKER: iptables/1.8.7 Failed to initialize nft: Protocol not supported
2023-09-14 17:16:12
1604
2
原创 Pytorch模型转Tensorflow
pytorch训练模型很方便，torchserve部署也很简单，但是tensorflow服务化部署性能更好，所以将Pytorch模型转换为tensorflow pb格式进行部署
2022-12-20 16:37:15
1651
2
原创 TFServing—AI模型服务部署框架（二）
tensorflow模型服务化部署框架tfserving，该框架支持模型部署和热切换更新，本文介绍该框架多个模型部署，利用grpc进行模型的增删改查。
2022-12-20 11:10:55
881
1
原创 Torchserve docker模型部署超详篇
1.模型打包torch-model-archiver --model-name resnet34 --version 1.0 --model-file model.py --serialized-file resnet34b_16.pth --handler resnetHandler --extra-files index.json --export-path model-store -f参数说明：--model-name 模型名称，根据自己需要定义，不需要跟真正的模型名称相同--ver
2022-04-11 18:32:27
2828
1
原创 Windows vscode安装插件 XHR error
在vscode安装插件时，出现XHR error错误，通过关闭代理，成功 安装插件。关闭代理1.打开网络和Internet设置2.点击代理，关闭使用代理服务器
2022-02-10 11:43:19
1261
原创 Windows电脑休眠后，ping不通虚拟机
重启虚拟网卡试一试打开控制面板→网络和internet→网络和共享中心→查看网络状态和任务→更改适配器设置→分别把vmnet1和vmnet8两个网卡禁用，再启用就好了。
2022-01-17 14:51:59
1326
原创 Docker常用命令
1.查看镜像docker images2.镜像重写tagsudo docker tag shared.harbor.io/google_containers/kube-proxy:v1.23.1 hexiong.harbor.io/images/kube-proxy:v1将shared.harbor.io/google_containers/kube-proxy:v1.23.1标记为：hexiong.harbor.io/images/kube-proxy:v13.根据tag
2021-12-30 09:05:33
426
原创 C# Web API防止过度发布
为了安全考虑，使用EFcore进行数据交互时，使用模型的子集，通常称为数据传输对象(DTO)、输入模型或视图模型，而不是直接使用模型类。DTO用途：防止过度发布。 隐藏客户端不应查看的属性。 省略一些属性以缩减有效负载大小。 平展包含嵌套对象的对象图。 对客户端而言，平展的对象图可能更方便。例如TodoItem模型类，包含秘密字段namespace TodoApi.Models{ public class TodoItem { public long
2021-12-22 16:10:16
365
原创 VisualStudio快捷键
常用快捷键：1 快速到行尾行首 Home，End 2 当前行上方插入行 Ctrl + Enter 3 当前行下方插入行 Ctrl + Shift + Enter 4 注释行 Ctrl + K + C 5 取消行注释 Ctrl + K + U 6 选择行 Shift + Home; Shift + End 7 快速删除行 Shift + Delete 8 单词跳转...
2021-12-21 09:18:42
168
原创 Axios教程
Axios 是一个基于 promise 的 HTTP 库，通过promise实现对ajax技术的一种封装，就像jQuery实现ajax封装一样。文档：axios中文文档|axios中文网 | axios1.传入配置发起请求 axios({ url: '接口地址', method: 'get', // 或者post请求类型 responseType: 'json', //默认格式json data: { 'username' : 'hx',
2021-11-26 09:24:35
1299
原创 pytorch模型部署
Pytorch使用torchserve部署模型比较方便和简单，也方便管理。但是由于内网服务器系统的原因，无法使用torchserve。所以选择flask框架写webapi的方式，来调用模型。这里首先将模型保存未onnx格式，然后使用onnx运行时调用。import jsonimport reimport loggingimport cv2import torchvision.transforms as Timport numpy as npimport torchimport os
2021-11-19 17:14:45
3439
1
原创 Python核心库依赖
1.FlaskWeb框架内网安装依赖包有：itsdangerous，click，Jinja2, MarkupSafe,Werkzeug2.pytorch下载路径https://download.pytorch.org/whl/torch_stable.html3.torchvision依赖包有：Pillow
2021-11-18 16:47:02
1021
原创 Git教程
1.创建版本库1.1 创建项目文件夹mkdir facedc1.2 初始化，该命令把facedc文件夹变成可以管理的仓库git init2.提交2.1添加文件vim readme.txtgit add readme.txt2.2提交文件git commit -m "第一次提交"2.3当前状态git status2.4版本回退git reset --hard HEAD^3.代码仓库删除文件git rm test.txtgit commit -
2021-10-13 17:11:51
75
原创 python webapi
基于Flask框架编写WebAPI服务1.webapifrom flask import Flask, jsonify, abort, requestapp = Flask(__name__)app.config.update(RESTIFUL_JSON=dict(ensure_ascii=False))@app.route("/")def api_root(): return "welcome"@app.route('/tg', methods = ["GET"])
2021-10-08 09:34:23
1011
原创 Python记录
1.读写json文件json格式数据在python中表现为字典，<class 'dict'>常用api：json.dumps() 字典转化为字符串json.loads() 字符串转化为字典json.load() 读取json文件json.dump() 写入json文件s_str = '{"x1" : 1, "x2" : 2}'#错误写法 "{'x1' : 1, 'x2' : 2}"s_dict = json.loads(s_str)print(s_dict)
2021-09-30 09:38:53
57
原创 Python-类继承
1.重写构造函数class A: def __init__(self, wh, len): self.width = wh self.length = len def get_area(self): return self.width * self.lengthclass B(A): def __init__(self, wh, len, ht): self.width = wh self.len
2021-09-17 15:43:07
68
原创 Ubuntu编译dcnv2(FairMOT)遇到的坑，巨坑
最近调研目标检测算法，主要看了两种类型的模型，一个是one-state的FairMOT，一个是two-state的yolov5+deepsort。但是在ubuntu跑FairMOT时，需要编译安装dcnv2，这里遇到了一个很大的坑，最后成功解决。我电脑安装的是cuda 10.2。可以直接跳到第4步，解决方案GitHub - lbin/DCNv2: Deformable Convolutional Networks v2 with Pytorch错误：正常情况下进入文件夹下执行sh make.sh
2021-09-10 17:19:16
3708
5
原创 Windows10安装配置TensorRT
1.下载相应版本的TensorRT我的操作系统为Windows10，CUDA版本为10.1https://developer.nvidia.cn/nvidia-tensorrt-6x-download英伟达官网下载需要注册账号，nvidia.cn .com很慢较快2.TensorRT安装2.1 添加环境变量到Path：F:\software\TensorRT-6.0.1.5\lib2.2 将inlude中的文件复制到cuda include中F:\software\Ten
2021-08-30 16:37:53
778
原创 Windows10 DCNv2编译
我的环境是,cuda10.1，python3.7,pytorch1.7.1，为了跑FairMOT模型，需要编译DCNv2，在windows上编译报错，最后成功解决。错误：RuntimeError: Error compiling objects for extension1.下载DCNv2模型https://github.com/CharlesShang/DCNv22.下载安装vs2017，测试了2015,2019都不行打开命令行工具3.进入到dcnv2-master目录，m
2021-08-05 09:59:30
4382
8
原创 Windows10 conda安装pytorch
1.查看版本我的电脑操作系统为win10，Cuda版本为10.1，python版本为3.7https://pytorch.org/get-started/previous-versions/2.conda命令安装报错，查了很多资料都没有解决3.使用pip命令安装依然报错：查了很多资料，依然没有解决4.最后在（https://download.pytorch.org/whl/torch_stable.html）上下载对应的包，安装成功cu101对应cu...
2021-08-03 18:38:30
257
原创 Ubuntu上搭建NFS服务
nfs服务端(虚拟机Master)：1.安装nfs-kernel-serversudo apt install nfs-kernel-server2.创建文件夹并修改权限mkdir /nfs/datachmod -R 777 /nfs/data3.创建/etc/exports文件sudo vim /etc/exports写入： /nfs/data *(rw,sync,no_subtree_check)4.使exports文件生效sudo exportfs.
2021-08-03 09:20:54
90
原创 kubernetes-服务更新和回滚
1.首先上传三个不同版本的镜像到harbor2.创建三个yaml文件镜像版本分别为v1.0,v1.1,v1.2kubernetes只会保留最近的几个revision，可以配置revisionHistoryLimit参数增加revision数量。apiVersion: apps/v1kind: Deploymentmetadata: name: kubia-deployment labels: app: kubiaspec: revisionHistoryLi.
2021-07-30 16:19:15
211
原创 kubernetes-服务访问service
创建Pod之后，我们的服务只能在主机上访问，不能外部访问，需要将服务暴露给外部。kubernetes service从逻辑上代表了一组Pod，同时Ip地址不变。kubernetes会建立和维护service和pod之间的关系，无论后端Pod如何变化，对客户端无影响，因为service没有变。1.创建ServiceapiVersion: v1 #Service使用的API版本kind: Service #资源类型metadata: name: kubia-service #资源名称spe
2021-07-30 14:52:20
459
原创 kubernetes-yaml文件配置
1.错误信息执行命令：kubectl apply -f nodejs.yamlerror: unable to recognize "nodejs.yaml": no matches for kind "Development" in version "extensions/v1"问题：报错的原因是版本问题1.6版本之前 apiVsersion：extensions/v1beta1 1.6版本到1.9版本之间：apps/v1beta1 1.9版本之后:apps/v1版本可分为：
2021-07-30 11:08:45
637
原创 树莓派-开机自启动脚本
树莓派开机经常需要自动启动脚本，我们想要实现开机启动vlc播放rtsp视频流，简单记录一下流程。a.sh为事先写好的脚本，vlc播放视频。1.命令行启动打开文件 sudo vi /etc/rc.local在exit 0之前写入su pi -c "sh /home/pi/Desktop/a.sh"su命令是指定在pi用户下执行这条命令，-c 表示执行完这条命令之后恢复原来的用户。2.Desktop启动进入/home/pi/.config 路径(.config是个隐藏文件)c
2021-07-22 14:33:36
3286
1
原创 Kubernetes-Docker镜像推送和拉取-阿里云
当我们打包好一个镜像后，要想使Kubernetes集群中所有的机器都能下载，首先需要将镜像推送给到一个镜像站上。通常会推送到dockerHub上，但是由于无法访问国外网站，所有可以先推送到国内的镜像站上，这里我们将镜像推送到阿里云上https://cr.console.aliyun.com。1.首先进入网站注册账号https://cr.console.aliyun.com2.创建命名空间3.创建镜像仓库4.推送拉取镜像登录：docker login --userna...
2021-07-21 11:15:07
715
原创 Kubernetes-Docker使用教程
本文通过创建一个简单的Nodejs应用，介绍Docker创建、运行和共享镜像的流程。1.创建一个Nodejs应用基于Nodejs构建一个web应用，接收Http请求，返回响应的主机名。创建app.js文件，写入如下代码。2.为镜像创建DockerfileFRME node:10 表示，使用的node镜像是tag 10版本同时保证app.js和Dockerfile在同一个文件夹下。3.构建容器镜像运行如下命令docker build -t kubia ...
2021-07-21 10:38:15
273
原创 Kubernetes-安装Pod网络
本节记录Kubernetes安装Pod网络流程。1.配置普通用户为了使master节点上普通用户能够执行命令（使用root用户会存在一些问题），进行如下配置。su hexiongmkdir -p $HOME/.kubesudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/configsudo chown $(id -u):$(id -g) $HOME/.kube/config启用kubectl自动补全功能echo "source &
2021-07-15 16:42:02
688
原创 Kubernetes-Ubuntu虚拟机安装kubectl,kubeadm,kubelet
问题描述：kubernetes安装需要使用外网，大多数人都没有科学上网的条件，所以需要使用国内镜像，现在进行配置。1.apt update && apt install -y apt-transport-https2.添加公钥:curl https://mirrors.aliyun.com/kubernetes/apt/doc/apt-key.gpg | apt-key add -3.添加镜像:cat <<EOF >/etc/apt/sources.list
2021-07-15 11:28:53
169
原创 Kubernetes-初始化Master节点，k8s拉取镜像失败
1.执行初始化命令sudo kubeadm init --apiserver-advertise-address 192.168.80.51 --pod-network-cidr=10.244.0.0/16sudo kubeadm init --apiserver-advertise-address 192.168.80.51 --pod-network-cidr=10.244.0.0/16
2021-07-15 11:07:01
2248
原创 Tensorflow-gpu安装教程
Tensorflow使用Gpu训练模型，并不是简单的使用pip install tensorflow-gpu就安装完成了。还需要在电脑上安装cuda和cudnn。本教程介绍如何在window10系统上安装tensorflow-
2021-06-16 10:26:35
670
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人