Mac本地部署LLama3+AnythingLLM+Docker方式的本地知识库

lshlb111

已于 2024-05-06 16:52:24 修改

阅读量2.1k

点赞数 4

文章标签： docker 容器 macos

于 2024-05-03 22:58:46 首次发布

本文链接：https://blog.csdn.net/2401_83692861/article/details/138426597

版权

本文介绍了如何在Mac上安装Docker，然后下载并配置ollama和Enchanted，以及如何使用docker安装AnythingLLM，包括设置ollamaurl。详细步骤包括下载链接和必要的终端命令。

摘要由CSDN通过智能技术生成

一、安装Docker

下载链接：https://docs.docker.com/desktop/install/mac-install/

二、安装ollama

1.下载链接：https://ollama.com/download

2.打开终端执行，下载Llama3模型

ollama run llama3

3.安装Enchanted

下载链接：https://github.com/AugustDev/enchanted

三、使用docker安装AnythingLLM

1.拉取镜像，终端执行

docker pull mintplexlabs/anythingllm

2.终端执行，STORAGE_LOCATION路径为自己定义的路径，然后访问：http://localhost:3001/就可以访问anythingLLM了

export STORAGE_LOCATION=/Users/lishihao/linkpath/anythingllm && \
mkdir -p $STORAGE_LOCATION && \
touch "$STORAGE_LOCATION/.env" && \
docker run -d -p 3001:3001 \
--cap-add SYS_ADMIN \
-v ${STORAGE_LOCATION}:/app/server/storage \
-v ${STORAGE_LOCATION}/.env:/app/server/.env \
-e STORAGE_DIR="/app/server/storage" \
mintplexlabs/anythingllm

3.配置ollama

docker启动，所以ollama url要设置成：http://host.docker.internal:11434