anything-llm的嵌入式聊天小部件

利用anything-llm构建嵌入式聊天应用：Docker部署与HTML集成
原创 已于 2024-04-30 14:45:35 修改 · 4.6k 阅读 · 23 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #anything-llm #AnythingLLM #嵌入式聊天小部件 #ai聊天 #anything-llm运行

于 2024-04-30 14:13:29 首次发布
本文介绍了anything-llm项目，演示了如何通过Docker启动并将其嵌入HTML文件中，创建一个类似聊天室的交互式小部件。开发者需要安装docker并在本地或服务器上配置API接口。

anything-llm

详情移步到官方: https://github.com/Mintplex-Labs/anything-llm

anything-llm可以docker启动和本地启动
例如：docker 启动， 自行去安装docker哈
cd 到docker文件夹下，
窗口运行：

docker-compose up -d --build

在这里插入图片描述
运行的问题就不一一介绍了

embed嵌入式聊天小部件的应用：

官网介绍：https://github.com/Mintplex-Labs/anything-llm/blob/master/embed/README.md

在这里插入图片描述

菜单：嵌入式聊天

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
复制这段（根据你自己创建的工作区，进行复制）

<script
  data-embed-id="84d5bfa3-b77b-4582-a462-d92f5a56a561"
  data-base-api-url="http://10.30.0.51:3001/api/embed"
  src="http://10.30.0.51:3001/embed/anythingllm-chat-widget.min.js">
</script>

假设我把它嵌入一个普通的html文件内，如：test.html

<!DOCTYPE html>
<html lang="en">
<head>
    <meta charset="UTF-8">
    <meta name="viewport" content="width=device-width, initial-scale=1.0">
    <title>anything-llm的嵌入式聊天小部件</title>
</head>
<body>

<script
  data-embed-id="1003e432-6703-46df-b57d-af9ba68a4375"
  data-base-api-url="http://localhost:3001/api/embed"
  src="http://localhost:3000/embed/anythingllm-chat-widget.min.js">
</script>

</body>
</html>

直接浏览器打开运行：右下角会出现一个按钮，点解打开就变成这样，像个聊天室一下：

在这里插入图片描述

AnythingLLM教程系列之 03无代码一路next部署anythingLLM docker （教程含安装步骤）
iCloudEnd的博客
05-06 3403
AnythingLLM 是最易于使用的一体化AI 应用程序，可以执行 RAG、AI 代理等操作，且无需任何代码或基础设施难题。您需要为您的企业或组织提供一款完全可定制、私有且一体化的 AI 应用程序，该应用程序基本上是一个具有许可的完整 ChatGPT，但具有任何 LLM、嵌入模型或矢量数据库。
Docker安装并运行AnythingLLM的详细教程
加入“Super Entity”，与全能开发团队共探AI智能体与数字人项目，开启前沿技术之旅。
02-26 4786
通过本文的介绍，你已经掌握了如何在 CentOS 系统上使用 Docker 安装并运行 AnythingLLM。AnythingLLM 提供了强大的功能，支持本地知识库搭建和多模态输入，非常适合个人和企业使用。希望本文能帮助你快速上手并搭建自己的 AI 知识库。
基于Ollama+AnythingLLM搭建本地私有知识库，汉化版本
阿里巴啦的博客
04-19 1万+
AnythingLLM 是一个全栈应用程序，您可以使用商业现成的 LLM 或流行的开源 LLM 和 vectorDB 解决方案来构建私有 ChatGPT，无需任何妥协，您可以在本地运行，也可以远程托管并能够智能聊天以及您提供的任何文件。
【本地知识库部署】使用docker在局域网共享 AnythingLLM 知识库
最新发布
m0_59115390的博客
09-23 1964
本文介绍了通过Docker部署AnythingLLM的完整流程。首先需要检查并安装Docker，然后通过命令行拉取AnythingLLM镜像。若出现拉取错误，需修改Docker配置添加多个国内镜像源。成功拉取后，通过设置存储路径和环境变量来运行容器，可使用Docker Desktop或命令行验证运行状态。最后可通过生成的链接共享工作区，并在管理界面进行用户权限设置。文中提供了详细的命令操作和配置修改方法，并附有参考链接。
Mac本地部署LLama3+AnythingLLM+Docker方式的本地知识库
2401_83692861的博客
05-03 4472
就可以访问anythingLLM了。3.安装Enchanted。1.拉取镜像，终端执行。3.配置ollama。
anythingllm-embed：嵌入式的AI聊天小部件
gitblog_00084的博客
06-15 513
anythingllm-embed 是一个开源项目，它提供了一个嵌入式聊天小部件，允许用户将聊天界面以 `` 或 `` 标签的形式嵌入到网站或HTML页面中。该项目是 anythingllm 的一部分，后者是一个全功能的AI应用。通过 anythingllm-embed，开发者可以轻松地将AI聊天功能集成到自己的网站中，为用户提供实时的交互体验。 ## 项目技术分...
一体化AI应用AnythingLLM，与你的文档聊天，使用AI代理，超可配置
CherryXieのblog
03-24 493
前端：一个viteJS+React前端，您可以运行它来轻松创建和管理LLM可以使用的所有内容。server：一个NodeJS express服务器，用于处理所有交互，并执行所有vectorDB管理和LLM交互。collector：NodeJS表示服务器，用于处理和解析来自UI的文档。docker：docker指令和构建过程+从源代码构建的信息。embed:用于生成和创建web嵌入小部件的子模块。浏览器扩展：chrome浏览器扩展的子模块。
AnythingLLM教程系列之 05 AnythingLLM 允许您创建嵌入式聊天小部件，可以使用简单的标签轻松集成到任何网站中
iCloudEnd的博客
05-06 962
AnythingLLM 是最易于使用的一体化AI 应用程序，可以执行 RAG、AI 代理等操作，且无需任何代码或基础设施难题。您需要为您的企业或组织提供一款完全可定制、私有且一体化的 AI 应用程序，该应用程序基本上是一个具有许可的完整 ChatGPT，但具有任何 LLM、嵌入模型或矢量数据库。
AnythingLLM教程系列之 08 AnythingLLM 允许您使用大量 LLM 提供商进行聊天和生成人工智能。
iCloudEnd的博客
05-06 543
AnythingLLM 是最易于使用的一体化AI 应用程序，可以执行 RAG、AI 代理等操作，且无需任何代码或基础设施难题。您需要为您的企业或组织提供一款完全可定制、私有且一体化的 AI 应用程序，该应用程序基本上是一个具有许可的完整 ChatGPT，但具有任何 LLM、嵌入模型或矢量数据库。
AnythingLLM教程系列之 12 AnythingLLM 上的 Ollama 与 MySQL+PostgreSQL
iCloudEnd的博客
06-27 2738
AnythingLLM 是一个全栈应用程序，您可以使用商用现成的 LLM 或流行的开源 LLM 和 vectorDB 解决方案来构建一个私人 ChatGPT，没有任何妥协，您可以在本地运行也可以远程托管，并且能够与您提供的任何文档进行智能聊天。AnythingLLM 将您的文档划分为称为工作区的对象。工作区的功能与线程非常相似，但增加了文档的容器化。工作区可以共享文档，但它们不会相互通信，因此您可以保持每个工作区的上下文清晰。AnythingLLM 的一些很酷的功能多用户实例支持和许可。
AnythingLLM教程系列之 02 AnythingLLM 允许您自定义实例的外观和风格，以匹配您的品牌和身份。
iCloudEnd的博客
05-06 1385
默认情况下，当您首次登录 AnythingLLM 并且尚未选择工作区时，您将看到解释 AnythingLLM 的默认消息。使用系统消息输入，您可以模拟系统和用户响应消息。借此机会告诉用户特定工作区的用途 - 或者只是打个招呼！页脚图标可以替换为自定义链接和图标，以提供对相关资源或网页的快速访问。
AnythingLLM教程系列之 11 AnythingLLM+Ollama：将所有 LLM Runner 和所有大型语言模型整合在一起，支持的 LLM、嵌入模型、语音模型和矢量数据库
iCloudEnd的博客
06-21 1941
AnythingLLM 是一个全栈应用程序，您可以使用商用现成的 LLM 或流行的开源 LLM 和 vectorDB 解决方案来构建一个私人 ChatGPT，没有任何妥协，您可以在本地运行也可以远程托管，并且能够与您提供的任何文档进行智能聊天。AnythingLLM 将您的文档划分为称为工作区的对象。工作区的功能与线程非常相似，但增加了文档的容器化。工作区可以共享文档，但它们不会相互通信，因此您可以保持每个工作区的上下文清晰。
AnythingLLM嵌入式聊天组件与API集成开发
加入“Super Entity”，与全能开发团队共探AI智能体与数字人项目，开启前沿技术之旅。
07-07 1271
本文聚焦于AnythingLLM的嵌入式聊天组件与API集成开发，详细解析组件原理、API接口设计、调用流程，并结合Python代码、Mermaid图表、实践案例，助力中国AI开发者快速集成智能对话能力到自有系统。支持自定义CSS，适配企业品牌色、Logo可配置气泡样式、字体、动画效果支持暗黑/浅色主题自动切换AnythingLLM通过嵌入式聊天组件与开放API，极大提升了智能对话能力的集成效率。组件原理与用法：JS引入、参数配置、架构图前端自定义与高级用法：主题定制、多工作区、事件回调。
AnythingLLM
AI工程化、开源分享、文档翻译、代码笔记
08-04 1万+
是一个全栈应用程序，可以将任何文档、资源（如网址链接、音频、视频）或内容片段转换为上下文，以便任何大语言模型（LLM）在聊天期间作为参考使用。AnythingLLM是一个全栈应用程序，您可以使用现成的商业大语言模型或流行的开源大语言模型，再结合向量数据库解决方案构建一个私有ChatGPT，不再受制于人：您可以本地运行，也可以远程托管，并能够与您提供的任何文档智能聊天。工作区可以共享文档，但工作区之间的内容不会互相干扰或污染，因此您可以保持每个工作区的上下文清晰。AnythingLLM将您的文档划分为称为。
开源利器AnythingLLM：你的私人ChatGPT构建利器，支持主流多种大模型
猫头虎技术团队：授渔优于赠鱼，兴趣引领智慧，探索之乐尤显珍贵。商务合作+：Libin9iOak ，万粉变现+：CSDNWF，猫头虎承诺每年免费为100名C站创作者做账号流量诊断服务！全网搜：猫头虎技术团队，点击文章底部名片或直接私信我一切皆可谈，快找虎哥！
06-03 1万+
是由Mintplex Labs Inc.开发的一款开源工具，专为构建私人化的ChatGPT而设计。你可以利用现有的商业化大型语言模型（LLM）或者流行的开源LLM来创建一个功能强大的私人聊天机器人。更棒的是，它支持本地运行，也可以远程托管，灵活适应你的各种需求。
AnythingLLM+DeepSeek搭建本地智能聊天助手
dengdaijc的专栏
02-13 673
利用AnythingLLM和Ollama+deepseek，搭建本地智能聊天助手。
AnythingLLM+Ollama，能否打造你的专属个性化AI助手？
xx_nm98的博客
10-24 6551
AnythingLLM是一个AI聊天系统，它允许用户构建自己的私人ChatGPT。与依赖云服务的AI工具不同，AnythingLLM支持本地开源和商用闭源的大语言模型（LLM），用户可以根据自己的需求和预算选择合适的模型。
【本地】基于 Docker 搭建 Anythingllm
热门推荐
lu_rong_qq的博客
12-18 1万+
【Ollama+Anythingllm+Docker】尝试搭建一个自己的知识库增强生成模型（RAG），本文记录的是完全在本地的搭建流程。但是由于太耗c盘了，跑过之后尝试转战云部署，以防后续忘记关键步骤，遂总结为经验帖。
Docker安装anythingllm
g470641382的博客
11-04 5493
C:\anythingllm\storage和 C:\anythingllm\env这两个目录是本机挂载到docker的两个目录。
anything-llm-master vscode怎么运行
05-23
### 在 VSCode 中运行 Anything-LLM-Master 项目的指南 要在 Visual Studio Code (VSCode) 中成功运行 `anything-llm-master` 项目，需完成以下几个方面的准备和操作： #### 1. 安装 Docker 和克隆项目 由于 `anything-llm-master` 是基于容器化技术构建的开源解决方案[^2]，因此需要先安装 Docker 并将其设置好。以下是具体步骤： - **安装 Docker**: 访问官方文档下载并安装适合您系统的版本。 - **克隆仓库**: 使用 Git 命令将目标存储库拉取到本地环境。 ```bash git clone https://github.com/infiniflow/anything-llm.git ``` #### 2. 配置开发环境于 VSCode 内部 为了更高效地编辑代码以及调试程序，在 VSCode 上集成必要的扩展工具至关重要。 - 打开已下载好的文件夹路径至 VSCode 编辑器； - 推荐安装 Python 支持插件以及其他辅助功能模块比如 Pylance 或者 Jupyter Notebook 插件来增强体验效果； #### 3. 启动服务并通过命令行验证状态 当所有前置条件满足之后，则可按照如下方法启动相关组件实例: - 进入终端界面切换目录到达刚才复制下来的工程根位置; - 输入以下指令触发自动编译过程同时激活后台监听端口等待请求接入: ```bash cd anything-llm && docker-compose up --build ``` 此阶段可能会花费一定时间视网络状况而定直至看到提示信息表明服务器已经准备好接受外部访问为止. #### 4. 测试 API 功能性 最后一步就是确认整个架构能否正常运作起来啦! 可以借助 Postman 工具或者直接编写简单的 HTTP 请求脚本来调用暴露出来的接口地址来进行初步的功能检测. ```python import requests url = 'http://localhost:8000/api/v1/generate' payload = {"prompt":"hello world","max_new_tokens":50,"temperature":0.7} response = requests.post(url,json=payload) print(response.text) ``` 以上即为利用 VSCode 实现加载运行 anythng-llm 的全过程概述.
评论 11
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值