一方的博客

如果要做的话，我打算做成提交任务时就交一次费用，比如需要处理的视频时长为10分钟，那么就按十分钟来收费，先交费再使用，因为成本太高了，可能交给公司运营会比较好一点，或者有没有其它方案。最便宜的要0.4元一分钟，一部10分钟的动漫，就要4块钱，要是60帧的就要0.8元一分钟，同样十分钟的动漫就要8块钱。还比较简单，就三个参数，其中一个还是固定的，我本次的BitRate传的10。

1、我们先看一下Speed系列的文档：https://cloud.baidu.com/doc/WENXINWORKSHOP/s/klqx7b1xf。从字面描述来看，就是这三个系列都是百度的大模型，好用程度排名为：Tiny系列（超高性能）、Speed系列（高性能）、Lite系列（轻量型）。综上：百度和讯飞时有真正永久免费使用的大模型，不过有并发限制，而阿里没有免费，仅降价。API文档：https://www.xfyun.cn/doc/spark/Web.html。最后第二行应该是客服打错了，应该是8k才对。

再提供一个查询的接口，这个接口先把传入的文本转成向量，再去pgsql向量数据库查询，最后得出结果，表结构就是文本对应向量，然后查询的时候根据向量文本相似度查询相似度最高的几条记录，这样就可以拿到文本了，再将这个文本丢给AI作参考，然后AI就可以先基于本地内容回答了。rag我简单理解来看就是我先有一段文本，先把它转成向量，保存到向量数据库中，下次我调用llm时将向量数据库中查询的结果给llm作参考并回答。pgvector官网就有搜索的sql，直接拿过来再结合自己的项目就行，我这里也直接用原生sql了。

然后我就一直在尝试callbacks，搞到晚上11点，此时我心态有点崩了，遂盖上笔记本，不搞了先，然后我就和项目负责人说了langchain的流式搞不定，还是用原生的写法了，不用langchain。记得关注我，获取及时更新，我们可以一起学习、讨论技术，共同进步。总算舒了一口气，流式响应需求算是完成了，接下来是rag的，到目前位置我还不知道rag是啥，咋实现的。先在群里请教了一下，然后给我发了一段很长的代码，额，这啥。

这里的名称会体现到最终调用时的接口域名地址，比如我们这里是在langchain中使用，我们就输入这个名称了，定价层就选择和我一样的就行，具体什么作用见：https://azure.microsoft.com/zh-cn/pricing/details/iot-central/这篇文章就到这里啦！这一步的标记，我也没搞懂啥作用，我就跳过了，也不影响后面的使用，有知道的朋友也可以在评论区告诉我一下，我这里是直接点下一页了。