本地文本向量模型的部署提供兼容openai的接口

前言

之前部署了fastgpt官方文档的一个，提供的一个m3e-large的向量模型打包的docker镜像，虽然使用起来整体效果还可以，但是有些文本向量相似度匹配的结果还是不太满意的，目前，网络上层出不穷的带推理文本向量，想体验一下，于是我基于modelscope库封装了一个兼容open ai的api接口服务，方便替换不同的文本向量模型使用。

教程

首先我们打开魔塔社区modelscoper，点击模型库，点击模型类型为文本向量，点击排序 为下载量排序。我们在下载量排名靠前的几个中选择一个适合自己的模型，点击。

例如，最近很火的bge模型 https://www.modelscope.cn/models/AI-ModelScope/bge-large-zh，点击复制模型ID,下面会用到。

项目源码