![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
python
文章平均质量分 50
ningyuanfeng
努力学习NLP的菜鸟。
展开
-
triton部署 python backend 输入字符串
背景:最近在做智能对话项目,用triton进行模型的部署和管理。triton 除了部署模型外,还支持.py文件的推理。根据项目需求,需要将自定的python代码,作为模型部署到triton中,且模型的输入是文字。输出的结果是分词结果。准备:1.triton 21.12镜像2.容器中安装 LAC库。百度分词库。pip install lac -i https://mirror.baidu.com/pypi/simple操作:1、在模型仓库下,创建如图所示的目录结构;lac – 模型名称,在原创 2022-05-25 14:25:19 · 4163 阅读 · 2 评论 -
python的广播机制(broadcasting)
1.python的广播机制什么?原理:两个数组的后缘维度相同,或者在其中一方的维度为1。广播在缺失或者长度为1的维度上补充。2.python的广播机制是做什么用的?对缺失维度进行补充,可以减小代码量;3.举例阐述一下python的广播机制。后缘维度:A为(3,4,5)的三维数据,B为(4,5)的二维数组。由于A和B的后缘维度都为(4,5),所以可以进行广播机制。同理:A为(3,4)的二维数组,B为(4,)的1为数组,他们的后缘维度都是4,所以可以进行广播。其中一方维度为1:A为(4,5)的三维原创 2020-08-07 23:00:02 · 10185 阅读 · 2 评论