weixin_44319196的博客

背景：最近在做智能对话项目，用triton进行模型的部署和管理。triton 除了部署模型外，还支持.py文件的推理。根据项目需求，需要将自定的python代码，作为模型部署到triton中，且模型的输入是文字。输出的结果是分词结果。准备：1.triton 21.12镜像2.容器中安装 LAC库。百度分词库。pip install lac -i https://mirror.baidu.com/pypi/simple操作：1、在模型仓库下，创建如图所示的目录结构；lac – 模型名称，在

1.python的广播机制什么？原理：两个数组的后缘维度相同，或者在其中一方的维度为1。广播在缺失或者长度为1的维度上补充。2.python的广播机制是做什么用的？对缺失维度进行补充，可以减小代码量；3.举例阐述一下python的广播机制。后缘维度：A为（3，4，5）的三维数据，B为（4，5）的二维数组。由于A和B的后缘维度都为（4，5），所以可以进行广播机制。同理:A为（3，4）的二维数组，B为（4，）的1为数组，他们的后缘维度都是4,所以可以进行广播。其中一方维度为1：A为（4，5）的三维