使用AnythingLLM在算力魔方上搭建企业私有知识库

无需编写代码，本文将教你如何在算力魔方®上使用Ollama+AnythingLLM搭建企业私有知识库。搭建企业私有知识库，其好处非常明显，主要有：

• 数据安全与隐私保护：

  私有化部署确保敏感数据或业务数据在内网的算力魔方®上，减少了数据泄露的风险，增强了对外部威胁的防御能力。

• 运营效率提升：

  部署时间短，能够快速见效；新员工在具有企业专业知识的聊天机器人的帮助下，快速成为行业“老师傅”。

• 成本控制：

  私有知识库作为企业资产，不受外部因素干扰，长期来看可能降低运营成本。

在算力魔方®上，基于Ollama+AnythingLLM搭建企业私有知识库，总的来说：具有低成本、高效率、让员工人人都变成“老师傅”的优势。

一，AnythingLLM简介

AnythingLLM是一款全线应用程序，可以将任何文档、资源（如网址链接、音频、视频）或内容片段转换为上下文，以便任何大语言模型（LLM）在聊天期间作为参考使用，非常适合搭建企业私有知识库，其酷炫特性有：

• 多用户实例支持和权限管理：

• 工作区内的智能体Agent（浏览网页、运行代码等）

• 为您的网站定制的可嵌入聊天窗口

• 支持多种文档类型（PDF、TXT、DOCX等）

• 通过简单的用户界面管理向量数据库中的文档

  

二，算力魔方®简介

是一款模块化的迷你主机，采用了抽屉式设计，后续组装、升级、维护只需要拔插算力和IO模块即可组成丰富的配置，适应不同场景。

算力魔方®4060版，非常适合本地部署AI大模型。

*单击查看更多配置和价格信息！https://item.taobao.com/item.htm?spm=a1z10.3-c-s.w4002-16594127205.13.7f0037bdslREGs&id=724730797954

算力魔方®4060版，高效散热，能够在高效地处理复杂的3D模型和场景时，保证运行的速度和稳定性。

算力魔方®此前经过了多种测试验证，当前主流的一些大模型的部署运行，都取得了较好的体验。

 1，

AIPC的先驱算力魔方——三步完成智谱AI大语言模型在终端的部署

2，

使用OpenVINO™在算力魔方上加速Latent Consistency Models!

3，

英特尔集成显卡+ChatGLM3大语言模型的企业本地AI知识库部署丨开发者实战

4，

三步完成零一万物Yi-1.5在算力魔方的优化和部署

5，

基于OpenVINO™与Qwen2在算力魔方上写2024高考作文！

三，搭建企业私有知识库

在使用AnythingLLM前，请参考《Gemma 2+Ollama在算力魔方上帮你在LeetCode解题》安装Ollama 和 Node.js，然后执行命令：ollama run qwen2，把Qwen2这个中英双语大模型作为企业私有知识库的大语言模型。

然后，进入https://useanything.com/download，下载并安装AnythingLLM。

安装完毕后，请新建一个Workspace：

聊天设置选择Ollama，LLM首选项为qwen2:latest：

最后把企业文档，例如：https://arxiv.org/pdf/2402.06196，上传到工作区，点击“Save and Embed”，完成企业私有知识库的搭建。

现在，您就可以愉快地询问这个专业小助手，有关企业专业知识的问题啦！

AnythingLLM

四，总结

无需编写程序，即可在算力魔方®上使用Ollama+AnythingLLM方便快捷的搭建企业私有知识库，还好省钱省心。员工在具有企业专业知识的聊天机器人的帮助下，很快就能成为行业“老师傅”了！