对于很多消费者来说,由于人工智能显卡较贵(A10要2.5W,A100要4W),所以本地部署大模型LLM是有一定的困难的,更何况要搭建大模型知识库了。所以我一般会用别人推荐API。
现在有人向我推荐迅飞的星火知识库API,于是就试试:
找到星火知识库 API 文档 ,找到当中的Demo,试了一下,好像不错呀。
从开发文档:
会有三个文件,分别是Document_upload.py、Document_Q_And_A.py、鑳屽奖.txt
Txt文件不用管,只是一个测试的txt而已,最重要的是Document_Q_And_A(问答程序)、Document_upload.py(上传程序)。
由于我喜欢用jupyter notebook,于是将代码放在这个IDE中运行一下,发现有库没有安装而报错。
用pip安装必要的库:
pip install requests_toolbelt -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install websocket-client -i https://pypi.tuna.tsinghua.edu.cn/simple
还是报错。
好吧,将“鑳屽奖.txt”改成“背影.txt”
文件终于上传成功了。哎,星火的代码真的是半成品。
接下来我又用Jupyter打开另一个文件,运行后,又出现报错:
在网上查了一下原因,
它需要`websocket-client`的0.57.0版本,但是我安装的是1.7.0版本,这两个版本不兼容。
于是做了以下的操作:
pip uninstall websocket-client
pip install websocket-client==0.57.0
终于成功了,但运行后出现权限错误。
哎,我用回vscode+Colipot再检查有一吧。
我已经无语了。
改了fileid之后,又出现错误
好吧,又要分析代码了,我发现原来是问的地方有问题。
既然你的Demo文件是背影,你应该在代码中应写一下关于背影的问题,阅读理解也好呀,结果代码中你问的是保险理赔的知识。
我觉得,迅飞有必要检查一下Demo的代码,这对新手用户不太友好。