![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
python
文章平均质量分 88
shengruxiahua2571
这个作者很懒,什么都没留下…
展开
-
tflite模型部署为服务
背景:在使用albert_zh模型完成文本分类训练后,发现其并没有解决bert推理消耗资源的问题(cpu环境中的问题,gpu环境会好很多),后续尝试了tflite量化模型文件,发现可以减少模型大小为原来的1/2甚至1/4,但是依旧无法提升推理效率。此篇文章记录tflite量化后的模型如何部署为服务。1、使用上述bert模型微调后会生成一个output文件夹,其中包括模型的ckpt文件,参考Save and Restore a tf.estimator for inference可以生成saved_m原创 2020-11-19 17:49:42 · 436 阅读 · 2 评论 -
gunicorn 几种工作模式的介绍和对比
1、Brief introduction about the types of worker in gunicorn and respective suitable scenario原创 2020-10-29 14:16:18 · 1009 阅读 · 0 评论 -
python单进程cpu使用率超过100%的问题
背景在使用python flask部署模型api时,发现单个进程的cpu使用率能达到500%左右,超过了100%原因python的GIL锁仅针对纯python代码有效,例如:Python interpreters uses up to 130% of my CPU. How is that possible?使用如下的纯python代码,多线程cpu使用率不会超过100%(实测最多101%)import threadingimport timedef f(): while 1:原创 2020-10-16 17:51:20 · 5380 阅读 · 0 评论 -
python requests连接池
1、下面两种方法是相同的,requests都会默认建立10个连接数上限制是10的连接池import requests#方法1s = requests.Session()s.get('https://www.baidu.com')#方法2requests.get('https://www.baidu.com')2、其中涉及到的几个参数pool_connections=D...原创 2020-04-05 11:05:08 · 3165 阅读 · 1 评论 -
unicode和utf-8编码区别,python中编码的实现,Java中编码的实现
unicode和utf-8编码的区别和联系原创 2020-03-25 22:41:20 · 476 阅读 · 1 评论 -
Pycharm 运行 flask项目报错404
直接用python3命令可以正常启动,但是在pychar中flask启动后,请求报404,代码没有问题,参考这个链接解决:https://blog.csdn.net/JENREY/article/details/86699817按照上述修改后请求可以正常工作,但是无法通过代码配置默认端口号,需要在pychar的run-Edit-Configuration 中找到Parameters参数并添加-...原创 2019-12-13 16:39:56 · 4400 阅读 · 1 评论 -
Python requests失败重试机制
问题背景解决办法参考原创 2019-11-20 18:05:45 · 1421 阅读 · 1 评论 -
Python知识点
python中的selfpython类中的方法可以分为对象方法(实例方法)类方法静态方法对象方法的第一个参数需要为self,也可以是其他写法,但是默认通用的写法是self。...原创 2019-11-08 14:38:57 · 960 阅读 · 0 评论