- 博客(2)
- 收藏
- 关注
RSS订阅原创 Ollama+Llama+Docker+WebUI Windows10部署指南
如果打开后，出现WSL 2 installation is incomplete的问题，可以直接点击下方链接。安装好后，可以在docker中找到相应的容器，点击这个组件，就可以打开webui界面。直接在网页中输入http://ip+已经在环境变量中设置好的端口，证明可以连接。先打开控制面板，找到程序打开后，点击“启动或关闭Windows功能”直接搜索，可以找到ollama，点击打开，服务后台启动着。之后打开Docker desktop，点击accept。点击后可以在任务管理器看到，服务已经打开了。
2024-05-13 17:59:05
2201
4
原创 1panel+MaxKB+Ollama+Llama Linux部署指南
打开编辑，可以直接修改文件保存的路径 ，即本机目录。llama3:70b,一张A100（80G显存）可以运行起来，45G显存就可以运行，但能不能推理没尝试过。如果在演示中，出现限制次数问题，可以在应用中，点击应用设置，选择访问限制，可以调到10000。其中-p后面的的第一个11434是连接时的端口号，如果有端口冲突可以改变，若没有，则可默认。：这不是在线安装，需要你事先在本地中下载好模型，若忘记，可以返回查看3.3如何下载模型。之后可以添加应用了，也可以加入自己的知识库，选择好模型，点击创建，就完成了。
2024-05-13 15:55:40
2804
5
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人