Ollama+Deepseek+Cherry/Dify构建本地知识库

已于 2025-02-10 13:34:37 修改
阅读量2.5k 收藏 26
点赞数 10
文章标签： 本地知识库
于 2025-02-10 13:33:27 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xuxiannian/article/details/145485902
版权

1.ollama、deepseek、dify介绍

ollama

Ollama是一个功能强大且灵活的开源工具，Ollama 是一个开源的 AI 模型后端框架，专注于提供高效的模型推理能力。为大语言模型的本地部署和管理提供了便利，适用于多种场景下的学习和开发工作。 综上所述，Ollama是一个功能强大且灵活的开源工具，为大语言模型的本地部署和管理提供了便利，适用于多种场景下的学习和开发工作。
Ollama框架将AI模型的权重文件与预处理代码结合，用户只需提供输入文本，框架即利用模型进行推理并生成输出。

deepseek

deepseek是一家专注于人工智能技术研究与应的公司，提供特定的AI模型权重文件（如LLaMA、Mistral等），这些权重文件可以被Ollama框架使用。Ollama 和 DeepSeek 可能会进一步融合，提升AI模型的加载效率和推理性能

模型桌面应用介绍

dify

是一款开源的大语言模型(LLM模型)应用开发平台，为开发者提供了快速搭建生产级生成式AI应用的能力，内置一个直观简洁的强大的Prompt编排工具，具备增强搜索生成功能(RAG)，可高化构建提供一个可视化的画布，让开发者可以在画布上快速构建安出一个可执行的自动化任务的AI应用。支持监控和分析应用程序日志和性能，并提出了后端即服务，主要体现在所有产品都附带相应的API，方便开发者将Dify集成到自己的业务中，实现数据的解耦和业务快速扩展。
综述，Dify它提供了从数据处理到模型部署再到应用监控的一系列完整解决方案，非常适合希望快速开发和部署 AI 应用的团队和个人使用。它提供了从数据处理到模型部署再到应用监控的一系列完整解决方案，非常适合希望快速开发和部署 AI 应用的团队和个人使用。
Dify手册参考

Cherry Studio

Cherry Studio 提供开源代码，鼓励用户自行定制和扩展，打造专属的 GPT 助手；是一个支持多模型服务的桌面客户端，为专业用户而打造，内置 30 多个行业的智能助手，帮助用户在多种场景下提升工作效率.,Cherry Studio 内置了很多服务商，集成了超过 300 多个大语言模型。在使用过程中，你可以随意切换模型来回答问题，充分利用各个大模型的优势解决问题。兼容Window和macOS 两大主流操作系统 。

2.构建知识库的目的

deepseek+dify可用于高效地检索信息，构建知识库能从大量文本中提取有用的信息并组织起来，以便 后续的查询和应用。概括的说可以实现以下功能：

  • 多模态信息检索 ：支持文本和图像的检索
  • 智能问题系统 ：支持构建安基于知识库的智能问答，用户输入问题时系统 能快速从知识库中提取相关答案或解释
  • 内容推荐与分类：根据用户的兴趣或行为，从知识库中提取相关内容进行推荐等
  • 文本摘要与信息提取：从大量文档中自动提取关键信息，并生成简洁的总结。
  • 对话系统支持：基于预训练对话模型(LLM),结合知识库内容，构建更智能的对话系统 。

3.如何构建

3.1.deepseek+dify构建

下载docker Desktop

dify需要通过docker Desktop启，如果没有docker需要先进行安装，下载好的exe双击即可安装。然后需要重启电脑
在这里插入图片描述

下载dify源代码

Dify下载地址进入后，本发安装GIT的可用命令直接clone，命令如下所示：

git clone https://github.com/langgenius/dify.git

没有的可以download Zip包，如下所示：
在这里插入图片描述

本地部署安装及启动

下载解压后，进入docker目录

#进入docker目录
cd  dify-main/docker

#设置环境变量
copy .env.example .evn   #windows系统手动copy就可以了

#启动服务
docker compose up -d #通过docker ccompose version查看版本，如果是1用命令docker-compose up -d

#停止服务命令
docker compose down

上述如果启动成功后，可在浏览器中访问 http://localhost/install，并按照提示完成初始化相应配置即可。

http://localhost/install

在这里插入图片描述
上述如果顺利的话，运行完就能访问进行管理员账号设置了。我这边进行时一直不是很顺利。手动更新了wsl；网络原因限制，一起无法启动。

参考下 这个文档吧。https://blog.csdn.net/qq_38737204/article/details/144666192
我没有启成功，就不写配置了，主要原因是docker 启动时镜像源无法获取，网络原因导致。

3.2 deepseek+cherry Stuido构建

安装ollama 嵌入模型

ollama pull bge-m3

在这里插入图片描述

cherry 下载安装

cherry配置

在这里插入图片描述
在弹出的管理页中选择相应模型的加号，即自动配置本地模型了。减号代表已选择了
在这里插入图片描述
选好模型后，进行知识库配置。自己起个名字即可，选择相应的模型
在这里插入图片描述
接下来就可以使用我们的知识库了，上传文档支持多种格式，也可以上传目录，网址等，当出现绿色对号后说明向量化完成。
在这里插入图片描述

搜索验证

输入要搜索的内容，然后点搜索，怎一个爽字了得，可以了。
在这里插入图片描述

后面想使用时，直接在对话中搜索就可以了。如下所示参考：
在这里插入图片描述
注意强调：注意知识库若存在隐私数据，切记，谨慎联网操作

禛陌
关注
Ollama+Cherrystudio+QwQ 32b部署本地私人问答知识库全测试（2025年3月win11版）
AllenLV的博客
03-19 1084
QwQ 32B凭借参数效率和本地部署优势，确实在技术性能上缩小了与DeepSeek R1的差距，但其生态成熟度和用户习惯的改变仍需时间。对于追求灵活性与隐私的用户，本地部署的QwQ 32B是理想选择；而DeepSeek R1则更适合追求“开箱即用”的场景。两者并非替代关系，而是不同场景下的互补方案。
DeepSeek+ AnythingLLM +本地知识库：强大到令人印象深刻
iCloudEnd的博客
02-09 920
今天来分享一下Deepseek+本地知识库的部署。首先，画出数据流图。
超实用！用 Ollama + DeepSeek + Dify 搭建本地知识库，提升企业效率
Happiness is everywhere
02-13 3388
本文介绍了如何使用 Ollama + DeepSeek + Dify 搭建本地知识库，帮助企业高效管理信息。通过简单配置，可实现智能问答、文档检索等功能，提升效率并保障数据安全。
关于dify使用指南
monk96的博客
03-06 9024
dify提供了一套完整的使用工具，包括LLM大语言模型，RAG，以及自定义工具，就类似一个超级大脑，可以整合各个功能，同时LLM充当了大脑的核心，用于调度各个资源。工具就是一项特定的功能点，可以加入到dify 中，也可以进行定制化工具。2、分段的话，推荐父子分段，搜索效果更好，文档需要进行规范化。4、嵌入完毕，可以测试下召回的效果，可能会出现搜出来不匹配。2、插入LLM节点，编写提示词，也可以让ai自动生成。2、通过编辑插件定制化，如3d生成、图像生成。图像生成、文本生成、3D生成。
《Ollama与DeepSeek》：此文为AI自动生成
zheng_ruiguo的专栏
02-01 1184
Ollama：运行深度学习神经网络大模型的神器
Linux：ollama+Dify大模型本地化部署打造个人知识库 (2)
" DevOps菜鸟(Xu JieHao)" 的博客
07-01 4462
Dify介绍： Dify 是一款开源的大语言模型（LLM）应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。即使是非技术人员，也能参与到 AI 应用的定义和数据运营过程中。
让AI转化为生产力，Dify 私有化部署 + 接入Ollama部署本地模型。
python12345_的博客
08-21 2266
今天聊聊AI智能体，同时也简单的将 Dify 本地私有化部署，接入 Ollama 部署的本地模型。AI智能体是什么？AI智能体是一种具备AI能力、感知、推理、决策和行动能力的计算系统，它能够自主与环境交互，完成特定任务。能够通过感知环境获取信息，分析并做出决策，然后执行相应的行动，有时还能通过学习不断优化自己的行为，尽可能达到预期结果。Dify 是什么？Dify 它是一个开源 LLM 应用开发平台。
综合对比分析：AnythingLLM、Cherry Studio、RAGFlow 和 Dify
2401_83450572的博客
02-24 9848
Cherry Studio：工业领域知识库问答（如iNeuOS操作系统的资料管理），嵌入模型优化后回答精准度提升。核心功能亮点：结合特定嵌入模型（如nomic-embed-text）提升回答全面性，测试表现优于同类工具。核心功能亮点：可视化工作流编排、自定义Agent、快速集成业务系统，生态扩展性强。理由：测试中表现优于AnythingLLM，适合对回答全面性要求较高的场景。场景：企业需要快速开发AI应用（如智能客服、自动化数据分析）场景：处理扫描件、表格等复杂文档的专业领域（如法律、医疗）
Linux系统本地化部署Dify并安装Ollama运行llava大语言模型详细教程
热门推荐
CSDN站内信: https://i.csdn.net/#/msg/chat/qyj19920704
09-05 3万+
本篇文章介绍如何将 Dify 本地私有化部署，并且接入 Ollama 部署本地模型，实现在本地环境中部署和管理 LLM，再结合 cpolar 内网穿透实现公网远程访问 Dify。Dify 它是一个开源 LLM 应用开发平台。拥有直观的界面结合了 AI 工作流、RAG 管道、代理功能、模型管理、可观察性功能等，可以快速从原型开发到生产。Ollama 是一个本地推理框架，允许开发人员轻松地在本地部署和运行 LLM，例如 Llama 3、Mistral 和 Gemma。
Dify知识库 本地部署DeepSeek 开启智能体和工作流
技术宅男改变世界
03-12 7106
Dify是一个开源的 LLM 应用开发平台。提供从 Agent 构建到 AI workflow 编排、RAG 检索、模型管理等能力，轻松构建和运营生成式 AI 原生应用。比 LangChain 更易用。官网 https://dify.ai/zh。
使用DeepSeek搭建个人知识库：小说辅助创作指南（三）
我是赛博AI Lewis
03-27 1300
Tips: 大家好，我是Lewis，小说辅助创作指南，需要考虑很多问题，所以大家在看的时候，只需要搜索文章中自己关注的内容就好，如果是第一次想了解的话，建议可以全部看完。
搭建本地知识库需要用到什么工具和技术，Cherry Studio可以用于本地知识库搭建吗？Dify可以用于本地知识库搭建吗
最新发布
04-24
好的，我现在需要帮助用户了解搭建本地知识库所需的工具和技术，并确认Cherry Studio和Dify是否适合。首先，用户提到了之前的回答中引用了Ragflow、Dify、Cherry Studio等工具，以及相关的技术组件。用户现在明确...
Ollama 与 Dify：AI 应用开发的强强联合
qq_39172059的博客
06-15 3468
随着大型语言模型（LLM）的快速发展，它们为 AI 应用开发提供了强大的功能和灵活性。然而，在本地环境中部署和管理 LLM 仍然是一项挑战。Ollama和 Dify 两个开源项目为解决这一挑战提供了强大的解决方案。 Ollama 是一个本地推理框架，允许开发人员轻松地在本地部署和运行 LLM，例如 Llama 3、Mistral 和 Gemma。Dify 是一个 AI 应用开发平台，提供了一套完整的工具和 API，用于构建、管理和部署 AI 应用。 本文将介绍Ollama和Dify的功能和优势，并展示如
【AI实践】应用Dify+Ollama实现基础Agent工作流（含RAG与LLM）
趣谈AI栈
10-25 3556
本文在流行度很高的Dify开发平台上，接入Ollama 部署的大型语言模型，实现一个细分领域的本地离线的Agent工作流应用（知识库+聊天助手）。
Dify中创建知识库操作和实现过程
NLP工程化
07-15 4922
方式一：先创建知识库，然后上传文件；方式二：直接上传文件，然后创建默认知识库。
开源 | Ollama + Deepseek + Dify 搭建本地知识库，助力企业内部信息高效管理
m0_59235699的博客
02-04 8277
在数字化转型的浪潮下，企业内部的信息管理面临着很大的挑战。传统的信息管理系统往往存在数据分散、检索效率低下、缺乏智-能化支持等问题。尤其是在面对海量非结构化数据时，企业难以快速提取有价值的信息，导致决策效率低下。有没有一款软件能够处理这些痛点？今天我们将为大家介绍一款开源工具——Dify，它能够通过整合先进的AI技术和本地知识库管理能力，帮助企业实现高-效的内部信息管理。Dify是一个开源的 LLM（大语言模型）应用开发平台，旨在帮助企业快速构建和部署基于AI的应用程序。
28.6k Star！Dify：完善生态、支持Ollama与本地知识库、企业级拖放式UI构建AI Agent、API集成进业务！
lythinking的博客
05-13 3737
等，进一步支撑你的行动，以提升本文的帮助力。
人工智能开发平台的私有部署与实际应用：Dify与Ollama的案例分析
慕漓的博客
10-10 1070
Dify是一个面向企业的人工智能开发平台，专注于提供端到端的AI解决方案，帮助企业快速开发、部署和管理机器学习模型。Dify的核心优势在于其高度集成的开发环境，支持从数据管理、模型训练到部署的一站式服务。它适用于构建复杂的AI系统，且支持私有云和本地环境的部署。
cherry studio和dify的功能，共性和区别
03-17
### Cherry Studio 与 Dify 的功能对比 #### 功能对比 Cherry Studio 是一款支持多模型服务的桌面客户端工具，专注于提供灵活的大语言模型集成环境以及行业特定的知识库解决方案[^2]。它允许用户通过自定义配置实现个性化需求，并内置多个行业的智能助手模板。 相比之下，Dify 则更注重于企业级应用中的对话体验优化和技术栈适配能力。其核心优势在于能够快速部署到私有云环境中运行，从而满足数据敏感型企业的严格安全合规要求[^1]。 两者均提供了较为完善的 API 接口文档以便开发者调用相关资源完成二次开发工作；同时也都强调对于本地化存储的支持以保护用户的隐私信息不被泄露至外部网络之中。 #### 共性特点 - **跨平台兼容性**：无论是 Windows 还是 macOS 用户都可以无障碍安装并使用这两款产品所提供的全部特性。 - **丰富的预训练模型接入选项**：除了各自默认推荐使用的几款高性能通用型 AI 外，还开放接口让客户自由选择其他第三方合作伙伴所推出的优质方案加入其中形成互补效应。 - **高度可定制化的用户体验设计思路贯穿始终**：从界面布局调整直至深层次算法参数微调均有相应权限给予最终决定权归属于实际使用者手中而不是单纯依赖出厂设置固定不变的状态存在。 #### 主要差异点 | 对比维度 | Cherry Studio | Dify | |----------------|--------------------------------------------------------------------------------------------------|--------------------------------------------------------------------------------------| | 部署方式 | 支持桌面端独立运行模式 | 更倾向于云端托管或者内部服务器搭建形式 | | 行业覆盖范围 | 明确列举出了三十多个细分方向作为重点扶持对象 | 并未特别限定适用领域而是追求广泛适应各类业务场景 | | 开源程度 | 完全公开所有底层逻辑便于社区成员共同维护改进 | 只部分模块对外共享其余仍保持商业机密状态 | 以上便是关于 Cherry Studio 和 Dify 在主要功能性方面的异同之处总结说明。 ```python # 示例代码展示如何判断两个软件是否适合某一具体应用场景下的技术选型评估过程 def evaluate_software(software_name, criteria_list): score = {} if software_name == 'CherryStudio': # 假设这里有一些针对 Cherry Studio 特定标准打分的逻辑处理语句 pass elif software_name == 'Dify': # 同理也需编写对应适用于 Dify 方面考量因素计算得分的方法体例 pass return sum(score.values()) / len(criteria_list) criteria_for_projectX = ['cross_platform_support', 'model_integration_capability'] result_cherrystudio = evaluate_software('CherryStudio', criteria_for_projectX) result_dify = evaluate_software('Dify', criteria_for_projectX) print(f"Score of Cherry Studio: {result_cherrystudio}, Score of Dify: {result_dify}") ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值