ollama3:8B搭配知识库AnythingLLM
1.下载安装 AnythingLLM
2.选择模型
①选择ollama
②填写ollama地址
③选大模型ollama:latest或8B
④端口自定义(要看一下是否被占用,选择没有被占用端口),
netstat -aon|findstr "9001";
3.嵌入模型选择AnythingLLM自带的;
4.创建工作区
5.默认选择了AnythingLLM自带的 lanceDB 向量数据库,可以在设置进行修改;
6.知识库导入本地文件;
7.输出内容设置,修改后记得在底部点击【更新工作区】保存‘’
8.开始进行对话