anything-llm AnythingLLM 您一直在寻找的全方位AI应用程序

于 2025-04-17 17:41:36 发布
阅读量1k 收藏 28
点赞数 29
分类专栏： ai 文章标签： 人工智能 AI github agent mcp
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ryo1060732496/article/details/147310751
版权

AI MCP 系列

AgentGPT-01-入门介绍

Browser-use 是连接你的AI代理与浏览器的最简单方式

AI MCP(大模型上下文)-01-入门介绍

AI MCP(大模型上下文)-02-awesome-mcp-servers 精选的 MCP 服务器

AI MCP(大模型上下文)-03-open webui 介绍 是一个可扩展、功能丰富且用户友好的本地部署 AI 平台，支持完全离线运行。

AI MCP(大模型上下文)-04-n8n 为技术团队打造的安全工作流自动化平台

AI MCP(大模型上下文)-05-anything-llm AnythingLLM 您一直在寻找的全方位AI应用程序

AI MCP(大模型上下文)-06-maxkb 强大易用的企业级 AI 助手

AI MCP(大模型上下文)-07-dify 入门介绍

AI MCP(大模型上下文)-08-分享一些好用的 Dify DSL 工作流程

AI MCP(大模型上下文)-09-基于Dify自主创建的AI应用DSL工作流

AI MCP(大模型上下文)-10-Activepieces 一个开源的 Zapier 替代方案

AI MCP(大模型上下文)-11-微软 Playwright MCP server

AI MCP(大模型上下文)-12-AWS MCP

AI MCP(大模型上下文)-13-github MCP

AnythingLLM 您一直在寻找的全方位AI应用程序。

与您的文档聊天，使用AI代理，高度可配置，多用户，无需繁琐的设置。

适用于桌面（Mac、Windows和Linux）的AnythingLLM！

这是一个全栈应用程序，可以将任何文档、资源（如网址链接、音频、视频）或内容片段转换为上下文，以便任何大语言模型（LLM）在聊天期间作为参考使用。此应用程序允许您选择使用哪个LLM或向量数据库，同时支持多用户管理并设置不同权限。

产品概览

AnythingLLM是一个全栈应用程序，您可以使用现成的商业大语言模型或流行的开源大语言模型，再结合向量数据库解决方案构建一个私有ChatGPT，不再受制于人：您可以本地运行，也可以远程托管，并能够与您提供的任何文档智能聊天。

AnythingLLM将您的文档划分为称为workspaces (工作区)的对象。

工作区的功能类似于线程，同时增加了文档的容器化。工作区可以共享文档，但工作区之间的内容不会互相干扰或污染，因此您可以保持每个工作区的上下文清晰。

AnythingLLM的一些酷炫特性

  • 🆕 自定义AI代理
  • 🆕 无代码AI代理构建器
  • 🖼️ 多用户实例支持和权限管理（支持封闭源和开源LLM！）
  • 👤 多用户实例支持和权限管理 仅限Docker版本
  • 🦾 工作区内的智能体Agent（浏览网页、运行代码等）
  • 💬 为您的网站定制的可嵌入聊天窗口
  • 📖 支持多种文档类型（PDF、TXT、DOCX等）
  • 通过简单的用户界面管理向量数据库中的文档
  • 两种对话模式：聊天和查询。聊天模式保留先前的对话记录。查询模式则是针对您的文档做简单问答
  • 聊天中会提供所引用的相应文档内容
  • 100%云部署就绪。
  • “部署你自己的LLM模型”。
  • 管理超大文档时高效、低耗。只需要一次就可以嵌入（Embedding）一个庞大的文档或文字记录。比其他文档聊天机器人解决方案节省90%的成本。
  • 全套的开发人员API，用于自定义集成！

支持的LLM、嵌入模型、转录模型和向量数据库

支持的LLM：

支持的嵌入模型：

支持的转录模型：

TTS (文本转语音) 支持：

STT (语音转文本) 支持：

  • 浏览器内置（默认）

支持的向量数据库：

技术概览

这个单库由三个主要部分组成：

  • frontend: 一个 viteJS + React 前端，您可以运行它来轻松创建和管理LLM可以使用的所有内容。
  • server: 一个 NodeJS express 服务器，用于处理所有交互并进行所有向量数据库管理和 LLM 交互。
  • docker: Docker 指令和构建过程 + 从源代码构建的信息。
  • collector: NodeJS express 服务器，用于从UI处理和解析文档。

🛳 自托管

Mintplex Labs和社区维护了许多部署方法、脚本和模板，您可以使用它们在本地运行AnythingLLM。请参阅下面的表格，了解如何在您喜欢的环境上部署，或自动部署。

DockerAWSGCPDigital OceanRender.com
[![在 Docker 上部署][docker-btn]][docker-deploy][![在 AWS 上部署][aws-btn]][aws-deploy][![在 GCP 上部署][gcp-btn]][gcp-deploy][![在DigitalOcean上部署][do-btn]][do-deploy][![在 Render.com 上部署][render-btn]][render-deploy]
Railway
[![在Railway上部署][railway-btn]][railway-deploy]

其他方案：不使用Docker配置AnythingLLM实例 →

如何设置开发环境

  • yarn setup 填充每个应用程序部分所需的 .env 文件（从仓库的根目录）。
    • 在开始下一步之前，先填写这些信息server/.env.development，不然代码无法正常执行。
  • yarn dev:server 在本地启动服务器（从仓库的根目录）。
  • yarn dev:frontend 在本地启动前端（从仓库的根目录）。
  • yarn dev:collector 然后运行文档收集器（从仓库的根目录）。
AnythingLLM一个开源免费且容易搭建和使用的本地AI问答知识库助手的应用
洛阳泰山的博客
12-02 3124
您一直在寻找的全方位AI应用程序。与您的文档聊天，使用AI代理，高度可配置，多用户，无需繁琐的设置。👉 适用于桌面（Mac、Windows和Linux）的AnythingLLM！这是一个全栈应用程序，可以将任何文档、资源（如网址链接、音频、视频）或内容片段转换为上下文，以便任何大语言模型（LLM）在聊天期间作为参考使用。此应用程序允许您选择使用哪个LLM或向量数据库，同时支持多用户管理并设置不同权限。
从桌面到云再到桌面——Project DIGITS 如何转变 AI 工作流程 人工智能正在经历一个完整的循环——从桌面到云端，现在又回到了强大的本地处理。
iCloudEnd的博客
03-09 83
人工智能 (AI) 工作流程的发展遵循了一条迷人的轨迹。最初，由于硬件限制，AI 处理仅限于桌面计算。然后，云计算的兴起为 AI 开发人员提供了大量计算资源，使复杂模型的训练和部署速度更快。然而，对云基础设施的依赖带来了延迟、安全问题和高运营成本等挑战。现在，在NVIDIA 的 Project DIGITS的支持下，AI 重新专注于本地化处理，从而实现了完整的循环。这种转变不仅仅是技术上的进步，它代表了我们在处理人工智能效率、可访问性和可持续性方面所采取的根本性变化。
探索 AnythingLLM：借助开源 AI 打造私有化智能知识库
ServiceMesher
12-19 2797
探索如何使用开源项目 AnythingLLM 构建私有化智能知识库。通过 RAG 技术，将文档转化为可检索向量，结合大语言模型实现高效问答，适用于企业与个人开发者。阅读原文请转到：https://jimmysong.io/blog/building-private-ai-knowledge-base-anythingllm/随着大语言模型（LLM）的快速发展，将企业内部知识库与 AI 工具结合成为...
AnythingLLM
AI工程化、开源分享、文档翻译、代码笔记
08-04 8689
是一个全栈应用程序，可以将任何文档、资源（如网址链接、音频、视频）或内容片段转换为上下文，以便任何大语言模型（LLM）在聊天期间作为参考使用。AnythingLLM是一个全栈应用程序，您可以使用现成的商业大语言模型或流行的开源大语言模型，再结合向量数据库解决方案构建一个私有ChatGPT，不再受制于人：您可以本地运行，也可以远程托管，并能够与您提供的任何文档智能聊天。工作区可以共享文档，但工作区之间的内容不会互相干扰或污染，因此您可以保持每个工作区的上下文清晰。AnythingLLM将您的文档划分为称为。
7大支持MCP的AI框架：为LLM和智能代理提供上下文的新标准
最新发布
专注于人工智能领域的小何尚
04-04 856
可以将MCP视为LLM的第三次演进。在第一次演进中，我们拥有能够准确回答用户提示的LLM，前提是它们在训练数据中找到了这些查询。在这个阶段，由于它们无法访问外部工具，因此无法对训练数据之外的提示做出有意义的响应。在LLM的第二次演进中，我们为它们提供了额外的上下文（工具），这些工具虽然不直观，但能够帮助LLM准确预测和回答用户意图。第三次演进仍然包括LLM和工具，但我们实现了一个适当的基础设施，使它们能够访问外部应用程序并确保易于维护。
AnythingLLM：基于RAG方案构专属私有知识库（开源｜高效｜可定制）
FrenzyTechAI的博客
12-13 2万+
继OpenAI和Google的产品发布会之后，大模型的能力进化速度之快令人惊叹，然而，对于很多个人和企业而言，为了数据安全不得不考虑私有化部署方案，从GPT-4发布以来，国内外的大模型就拉开了很明显的差距，能够实现的此路径无非就只剩下国内的开源大模型可以选择了。而现阶段切入大模型应用落地最合适的方案依然是结合大模型基于RAG检索增强来实现知识库的检索和生存。从而构建个人或者企业私有化的本地知识库。
AnythingLLMDesktop.exe
02-09
AnythingLLM是一个全面的AI聊天系统，专为本地和云端部署设计，具备与多个大语言模型（LLM）和向量数据库的兼容性。这使得AnythingLLM成为构建私人知识库和智能问答系统的一个理想选择。AnythingLLM由Mintplex Labs ...
LLMs之AnythingLLM：anything-llm的简介、安装和使用方法、案例应用之详细攻略
热门推荐
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
04-24 2万+
​ LLMs之AnythingLLM：anything-llm的简介、安装和使用方法、案例应用之详细攻略 目录 anything-llm的简介 anything-llm的安装和使用方法 anything-llm的案例应用 anything-llm的简介 AnythingLLM是一款您正在寻找的一体化人工智能应用程序。与您的文档进行聊天，使用AI代理，超级可配置，多用户，并且无需烦人的设置。 AnythingLLM是一个全栈应用程序，可以使用商用或开源的LLM/嵌入器/
AnythingLLM一键AI私有知识库! 支持多种大模型、RAG 和 AI Agents！
Y525698136的博客
10-25 1826
AnythingLLM是一个全栈AI应用程序，可以将任何文档、资源（如网址链接、音频、视频）输入大语言模型（LLM），与大模型互动。
开源利器AnythingLLM：你的私人ChatGPT构建利器，支持主流多种大模型
猫头虎技术团队：授渔优于赠鱼，兴趣引领智慧，探索之乐尤显珍贵。商务合作+：Libin9iOak ，万粉变现+：CSDNWF，猫头虎承诺每年免费为100名C站创作者做账号流量诊断服务！全网搜：猫头虎技术团队，点击文章底部名片或直接私信我一切皆可谈，快找虎哥！
06-03 1万+
是由Mintplex Labs Inc.开发的一款开源工具，专为构建私人化的ChatGPT而设计。你可以利用现有的商业化大型语言模型（LLM）或者流行的开源LLM来创建一个功能强大的私人聊天机器人。更棒的是，它支持本地运行，也可以远程托管，灵活适应你的各种需求。
打造智能私有知识库：开源工具AnythingLLM全解析及实操指南，RAG企业级解决方案
m0_59164304的博客
07-17 1万+
AnythingLLM和Vector Admin是Mintplex Labs提供的创新开源工具，它们极大地简化了私有知识库的构建和管理。通过高效的RAG模型实现和直观的用户界面，这些工具不仅保障了数据的安全性，同时也提供了强大的交互式文档处理能力。随着技术的不断进步，这些工具将为企业和个人用户提供更多的可能性和价值。
AnythingLLM - 任何文档资源内容转换为任何LLM
11-21 2508
一个全栈应用程序，使您能够将任何文档、资源或内容转换为任何 LLM 都可以在聊天期间用作参考的上下文。此应用程序允许您选择要使用的 LLM 或矢量数据库，并支持多用户管理和权限。
别只会用别人的模型了，自学Ai大模型，顺序千万不要搞反了！刚入门的小白必备！
2301_81888214的博客
02-13 757
别只会用别人的模型了，自学Ai大模型，顺序千万不要搞反了！刚入门的小白必备！
AnythingLLM+Ollama，能否打造你的专属个性化AI助手？
xx_nm98的博客
10-24 6137
AnythingLLM是一个AI聊天系统，它允许用户构建自己的私人ChatGPT。与依赖云服务的AI工具不同，AnythingLLM支持本地开源和商用闭源的大语言模型（LLM），用户可以根据自己的需求和预算选择合适的模型。
Linux安装AnythingLLM_3
m0_60657960的博客
10-04 1万+
1. AnythingLLM 简介AnythingLLM 是 Mintplex Labs 开发的一款可以与任何内容聊天的私人ChatGPT，是高效、可定制、开源的企业级文档聊天机器人解决方案。它能够将任何文档、资源或内容片段转化为大语言模型（LLM）在聊天中可以利用的相关上下文。AnythingLLM 支持多种文档类型（PDF、TXT、DOCX等），具有对话和查询两种聊天模式。
用AnythingLLM构建专属知识库
wbsu2004的博客
03-11 2万+
AnythingLLM 是可以与任何内容聊天的私人 ChatGPT，是高效、可定制、开源的企业级文档聊天机器人解决方案。
anything-llm Ubuntu
02-16
### anything-llm在Ubuntu上的安装 #### 准备工作 确保服务器环境已经准备好，特别是确认操作系统的版本和所需软件包。对于本次情况，服务器的操作系统为 Ubuntu 22.04.4 LTS[^1]。 #### 安装依赖项 为了顺利部署anything-llm，在开始之前需先更新现有的软件包并安装必要的依赖库。这可以通过执行如下命令完成： ```bash sudo apt-y sudo apt-get install -y python3-pip git curl wget ``` #### 创建虚拟环境（推荐） 创建一个新的Python虚拟环境有助于隔离项目所需的特定版本的库和其他项目的冲突。通过下面的指令可以轻松建立一个新环境： ```bash python3 -m venv llm-env source llm-env/bin/activate pip install --upgrade pip setuptools wheel ``` #### 获取anything-llm源码 假设already有官方GitHub仓库或者其他托管平台提供了该模型的开源实现，则可以直接克隆仓库到本地: ```bash git clone https://github.com/user/anything-llm.git cd anything-llm ``` 请注意替换上述URL为你实际要使用的存储位置链接。 #### 安装Python依赖 进入项目目录后，通常会有一个`requirements.txt`文件列出了所有必需的Python包。使用pip工具按照这个清单自动下载并配置这些依赖关系： ```bash pip install -r requirements.txt ``` 如果遇到CUDA相关错误，应确保所用的CUDA和cuDNN版本与PyTorch版本相匹配，并且保持显卡驱动处于最新状态[^2]。 #### 配置模型参数 根据具体需求调整配置文件中的设置选项，比如指定预训练权重的位置、定义推理过程中的一些超参等。这部分的具体指导建议参照官方文档或README.md内的说明部分。 #### 运行测试样例 大多数情况下，开发者会在repository里提供一些简单的脚本来帮助新手快速启动服务或是验证安装是否成功。尝试运行其中一个例子看看能否得到预期的结果： ```bash python run_example.py ``` 如果有任何问题发生，如模型加载失败，请核查模型文件路径准确性、完整性以及访问权限；必要时利用Linux下的`chmod`命令赋予适当权限给目标文件夹及其子资源。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值