对于ollama的学习和使用可以参考前面这篇推文《大模型llm部署》,本文将结合anything-llm这个框架配合使用完成对大模型的部署。
(1)基本使用介绍
AnythingLLM是一个全栈应用,可以使用现有的商业化LLM(大型语言模型)或者流行的开源LLM和向量数据库方案,来建立一个没有妥协的私人ChatGPT,既能在本地运行,也能远程托管,能和您提供的任何文件智能对话,想要搭建一个属于自己的专属chatgpt大模型可以参考这篇推文《基于LLM搭建自己的专属垂直领域知识库》。
AnythingLLM把文件分成了叫作工作区的东西。工作区的作用有点像线程,但是你的文件都被容器化了。工作区间可以分享文件,但他们不互相交流,这样可以让每个工作区的环境都很清爽。AnythingL