AGI 之【Dify】之 Dify 在 Windows 端本地部署调用 Ollama 本地下载的大模型，实现聊天对话

最新推荐文章于 2025-04-09 09:36:22 发布

仙魁XAN

最新推荐文章于 2025-04-09 09:36:22 发布

阅读量2k

点赞数 14

分类专栏： # Dify LLM 文章标签： agi Dify Ollama 大语言模型 llm

本文链接：https://blog.csdn.net/u014361280/article/details/142916830

版权

AGI 之【Dify】之 Dify 在 Windows 端本地部署调用 Ollama 本地下载的大模型，实现聊天对话

一、简单介绍

二、 Ollama 下载安装

三、Ollama 下载 LLM 模型，并运行

四、添加本地 Ollama 模型到 Dify

五、Dify 调用 Ollama 模型，创建聊天应用

附录：其他

一、更改 Ollama 模型下载默认路径地址

一、简单介绍

AGI，即通用人工智能（Artificial General Intelligence），是一种具备人类智能水平的人工智能系统。它不仅能够执行特定的任务，而且能够理解、学习和应用知识于广泛的问题解决中，具有较高的自主性和适应性。AGI的能力包括但不限于自我学习、自我改进、自我调整，并能在没有人为干预的情况下解决各种复杂问题。

Dify 是一个开源的大语言模型（LLM）应用开发平台，它旨在简化和加速生成式 AI 应用的创建和部署。这个平台结合了后端即服务（Backend as Service, BaaS）和 LLMOps 的理念，为开发者提供了一个用户友好的界面和一系列强大的工具，使他们能够快速搭建生产级的 AI 应用。

Dify 的核心功能包括：

低代码/无代码开发：通过可视化的方式允许开发者轻松定义 Prompt、上下文和插件等，无需深入底层技术细节。

模块化设计：采用模块化的设计，每个模块都有清晰的功能和接口，可以根据需求选择性地使用。

丰富的功能组件：包括 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等，帮助开发者从原型到生产的全过程。

支持多种大语言模型：已支持 OpenAI GPT 系列等模型，并计划进一步扩展。

数据处理和特征工程工具：提供了数据清洗、特征选择、特征变换等功能，帮助开发者更好地准备数据。

集成外部知识源：允许自定义 API 接入外部知识源，让大型语言模型深入理解企业知识和业务。

Dify 提供了四种基于 LLM 构建的应用程序，可以针对不同的应用场景和需求进行优化和定制，包括聊天助手、文本生成、智能代理和工作流程。此外，Dify 还支持从 Notion 导入数据，并设置同步，使得数据在 Notion 更新后便自动同步到 Dify。Dify 中存在知识库数据集的单独 API，这与他的服务 API 不同，可以单独使用数据集的 API。