AnythingLLM 技术文档

AnythingLLM 技术文档

anything-llm 为开源和闭源的大型语言模型（LLMs）、嵌入器和向量数据库提供开源的ChatGPT体验。在一个应用中提供无限的文档、消息和并发用户，以及权限管理。 项目地址: https://gitcode.com/gh_mirrors/an/anything-llm

AnythingLLM 是一个集成人工智能应用，旨在将任何文档转换为聊天时的上下文参考，支持多种语言模型和向量数据库的选择，以及多用户管理和权限控制。本文档将引导您完成从安装到使用的全过程，包括API的简单介绍。

安装指南

桌面版本安装

对于希望快速上手的用户，可以直接访问 AnythingLLM官网下载页面 下载对应操作系统的安装包（Mac, Windows, Linux）并按照提示进行安装。

自行部署（适用于开发者）

若要自行搭建服务器端，首先确保您的开发环境已经安装了Node.js和Yarn。

1. 克隆项目

   git clone https://github.com/Mintplex-Labs/anything-llm.git
   

2. 初始化及设置环境变量
   进入项目根目录，运行以下命令来初始化项目并创建环境变量文件。

   yarn setup
   

   根据提示填写.env文件中的必要信息。

3. 启动服务

   • 后端服务

     cd anything-llm
     yarn dev:server
     

   • 前端开发环境启动方法类似，可根据需要执行相应的yarn dev命令。

Docker部署

对于生产环境，推荐使用Docker进行部署。具体步骤参照项目中的Docker部署文档，通过提供的Docker Compose文件轻松启动整个应用栈。

项目的使用说明

初始化工作空间

首次使用，用户需创建一个或多个“工作空间”，每个工作空间可以看作是独立的对话环境，支持不同的文档集和特定的配置。

添加文档

支持添加PDF、TXT、DOCX等多种格式的文件至工作空间，通过界面拖拽或者上传功能导入。

交互式聊天

在选定的工作空间内，您可以与AI进行互动聊天，AI会基于所加载的文档提供上下文相关的回应。

自定义AI代理

查看自定义AI代理文档，了解如何扩展AI的功能，使其能够执行特定任务如网页浏览、代码执行等。

项目API使用文档

AnythingLLM提供了开发者API以便于整合和自定义扩展。具体的API文档位于项目官方文档站点的相应章节，通常包含认证机制、资源管理、以及如何调用模型进行推理等详细接口说明。由于API细节繁多且不断更新，建议直接访问其官方网站的API文档获取最新信息。

项目安装方式总结

• 用户端：直接下载桌面客户端。
• 开发者端：通过Git克隆项目，本地开发环境配置，以及Docker容器化部署选项。
• 自定义与扩展：利用详尽的文档和API，开发者可自由定制AI代理和嵌入式功能。

请注意，根据您选择的安装和使用路径，具体步骤可能有所不同，务必参照最新的官方文档进行操作。

anything-llm 为开源和闭源的大型语言模型（LLMs）、嵌入器和向量数据库提供开源的ChatGPT体验。在一个应用中提供无限的文档、消息和并发用户，以及权限管理。 项目地址: https://gitcode.com/gh_mirrors/an/anything-llm