技术布道 | 通过ModelScope魔搭社区调用大模型在线推理API

前面整理了ModelScope魔搭社区的（计算机视觉）大模型全景图，我们想快速使用这些大模型也是非常方便的，可以直接调用ModelScope社区中提供的API进行调用，我们来用下。

Let's 构！

---

1. 登录ModelScope控制台（https://www.modelscope.cn/）。

2. 在“模型库”中搜索找到CoROM相关的大模型。

3. 我们使用“CoROM语义相关性-中文-通用领域-base”大模型，在文档介绍了监督数据训练的文本的Dual Encoder框架，Query和Document文本通过与训练语言模型编码后通常采用预训练语言模型CLS位置的向量作为最终的文本向量，基于标注数据的标签，通过计算query-document之间的cosine距离度量两者之间的相关性（见原始文档：CoROM文本向量-中文-通用领域-base · 模型库 (modelscope.cn)）。

4. 在模型页面右侧有在线体验，我们选择推理API，可以看到可以直接使用的示例代码进行调用。