WLS下非docker安装ollama+open webui及qwen2-7b模型应用

已于 2024-08-29 12:50:15 修改
阅读量483 收藏 7
点赞数 15
文章标签： docker 容器 运维 语言模型 机器学习
于 2024-08-29 11:25:23 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gf0068/article/details/141668512
版权

目录

什么是 Ollama WebUI？

系统要求

win配置

wsl常用指令

ubuntu更新

安装过程

ollama安装

open-webui安装

修改open webui端口

什么是 Ollama WebUI？

Ollama WebUI 已经更名为 Open WebUI. Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 WebUI，旨在完全离线操作。它支持各种 LLM 运行程序，包括 Ollama 和 OpenAI 兼容的 API。

Ollama WebUI 是一个革命性的 LLM 本地部署框架，具有类似 ChatGPT 的 Web 界面。让我们为您的 Ollama 部署的 LLM 提供类似 ChatGPT Web UI 的界面，只需按照以下 5 个步骤开始行动吧。

系统要求

Windows 10 64 位：最低要求是 Home 或 Pro 21H2（内部版本 19044）或更高版本，或者 Enterprise 或 Education 21H2（内部版本 19044）或更高版本。

Windows 11 64 位：家庭版或专业版 21H2 或更高版本，或者企业版或教育版 21H2 或更高版本。

WSL 版本 1.1.3.0 或更高版本。在 Windows 上打开 WSL 2 功能。

8 核 64 位处理器、16GB+ RAM、带有 4GB+ VRAM 的 Nvidia 显卡。

win配置

wsl安装cuda环境, 按照NVIDIA给出的教程，首先需要安装Windows平台上的NVIDIA显卡驱动。
首先win安装cuda环境 查看指令 nvidia-smi
win能看到 那wsl中也能看到 然后安装
参考链接
Win10自定义路径位置安装WSL2 (Ubuntu 20.04) 并配置CUDA
https://zhuanlan.zhihu.com/p/681092042

wsl常用指令

查看运行版本号

wsl -l -v

更新wsl,查看版本

wsl --u
最低0.47元/天 解锁文章
gf0068
关注
  • 15
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Windows10安装配置Docker客户端和WSL2与Hyper-V虚拟机
CoffeMilk的博客
06-11 478
需要在Windows系统中安装配置Docker的客户端，方便直接管理配置docker镜像容器内容。
不用 Docker Desktop 在 Windowns/WSL 下使用 Docker +Kubernetes : 一、Docker安装
weixin_47763941的博客
04-23 2799
最近公司发通知，所有安装Docker DeskTop 客户端的员工，都卸载掉，因为Docker收费的问题。我想应该不止我们公司，很多公司都有这个问题，现在很多公司都在进行云原生化，但Docker突然出现的这种限制，真是让人头疼。不过企业开发维护产品也需要成本开销，可以理解，就是又得花时间折腾了。
Windows+WSL+Ubuntu+Docker-Desktop+FastGPT+m3e+oneapi+ChatGLM3部署本地AI知识库
qq_26792829的博客
04-12 2013
在windows 11 wsl下创建ubuntu，使用docker-desktop来安装fastgpt和m3e，下载chatglm3模型，来完成本地知识库的搭建
基于MLC LLM将Llama2-7B模型部署至Android手机运行
tao_spyker的博客
12-07 5517
MLC LLM 将Llama2-7B部署至android手机并成功运行
window10 wls2 安装docker
weixin_53266805的博客
08-06 1070
wls2 Ubuntu22.04 docker
docker+nginx+php+mysql环境搭建部署
qq_39920234的博客
03-11 6364
1. 安装／升级Docker客户端 对于10.10.3以下的用户 推荐使用Docker Toolbox Mac安装文件：阿里云开源镜像站资源目录 对于10.10.3以上的用户 推荐使用Docker for Mac Mac安装文件：阿里云开源镜像站资源目录 2. 配置镜像加速器 针对安装了Docker Toolbox的用户，您可以参考以下配置步骤： 创建一台安装有Docker环境的Linux虚拟机，指定机器名称为default，同时配置Docker加速器地址。 docker-machine
window下docker搭建php+nginx+mysql环境
weixin_43619531的博客
01-07 1889
window环境使用docker搭建php环境,部署项目
搭建本地私有知识问答系统：MaxKB + Ollama + Llama3 （wsl网络代理配置、MaxKB-API访问配置）
jiangbenchu的博客
07-25 780
MaxKB 是一款基于 LLM 大语言模型的开源知识库问答系统，旨在成为企业的最强大脑，支持从多种数据源导入和管理知识。。开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化、RAG（检索增强生成），智能问答交互体验好；
打造Win10下完美Linux体验（WSL2+WindowsTerminal+oh-my-zsh），完整图文教程+报错解决方案
热门推荐
漫磋嗟
09-03 1万+
还在为学习Linux苦恼吗？还在为虚拟机辣鸡的速度苦恼吗？还在为缓慢的开启速度苦恼吗？本篇将带你打造Win10下完美Linux体验（WSL2+WindowsTerminal+oh-my-zsh），WSL 体验之好，谁用谁知道！！！
docker 镜像仓库的管理
最新发布
weixin_68398469的博客
08-28 679
1.1 什么是docker仓库Docker仓库（是用于存储和分发Docker镜像的集中式存储库。它就像是一个大型的镜像仓库，开发者可以将自己创建的Docker镜像推送到仓库中，也可以从仓库中拉取所需的镜像。Docker仓库可以分为公共仓库和私有仓库：公共仓库，如Docker Hub，任何人都可以访问和使用其中的镜像。许多常用的软件和应用都有在Docker Hub上提供的镜像，方便用户直接获取和使用。例如，想要部署一个 Nginx服务器，就可以从Docker Hub。
docker
weixin_70754025的博客
08-27 674
创建名称为c8的容器# 退出容器不中断-ctrl+p+q# 使用exec命令执行ls命令bindevetchomeliblib64lost+foundmediamntoptprocrootrunsbinsrvsystmpusrvar# 使用exec命令执行yum clean all && yum makecache这条命令已加载插件：fastestmirror。
Docker 的简介
CSDN全栈领域优秀博主，阿里云博客专家，工信部权威认证物联网技术开发工程师，曾30分钟高分通过C语言二级，两天手撸代码完成EasyX飞机大战，靠接软件私活一个月换苹果电脑
08-25 1050
DevOps（Development和Operations的组合词）是一组过程、方法与系统的统称，旨在促进开发（应用程序/软件工程）、技术运营和质量保障（QA）部门之间的沟通、协作与整合。DevOps强调通过自动化“软件交付”和“架构变更”的流程，来使构建、测试、发布软件更加快捷、频繁和可靠。定义：DevOps是一种重视“软件开发人员(Dev)”和“IT运维技术人员(Ops)”之间沟通合作的文化、运动或惯例。背景：随着软件行业的快速发展，为了按时交付软件产品和服务，开发和运维工作必须紧密合作。
openEuler安装Docker和踩坑分析
zhzjn的博客
08-28 594
建立enabled=1gpgcheck=1enabled=0gpgcheck=1enabled=0gpgcheck=1enabled=0gpgcheck=1enabled=0gpgcheck=1enabled=0gpgcheck=1enabled=0gpgcheck=1enabled=0gpgcheck=1enabled=0gpgcheck=1在下的使用建立文件后将上面的内容粘贴进去保存。建立[base]gpgcheck=1[updates]gpgcheck=1。
docker系列12：Dockerfile实战
weigeshikebi的博客
08-24 1159
在官网中也对两者的。
重新配置和安装一个 Docker Compose 项目中的特定容器
jkzyx123的博客
08-28 220
重新配置和安装一个 Docker Compose 项目中的特定容器
docker0: iptables: No chain/target/match by that name问题解决
fxtxz2的专栏
08-27 277
中小规模业务，能原生启动服务就不要上容器方式，也无需要微服务，反正中小规模业务没有动力维护微服务，单体极限证道挺好。
Docker Compose
weixin_45259560的博客
08-25 293
Compose是Docker公司推出的一个工具软件，可以管理多个Docker容器组成一个应用。只需要定义一个yaml格式的配置文件docker-compose.yml，在配置文件中写好多个容器之间的调用关系。然后只需一个命令就能同时启动/关闭这些容器。相当于spring通过applicationContext.xml对bean对象进行统一管理，docker compose通过docker-compose.yml对docker容器进行统一管理。作用：docker建议每一个容器中只运行一个服务。
docker手动部署django项目Dockerfile编排-后端发布
一树梨花压海棠&的博客
08-22 1435
再次安装pip3 install -i https://pypi.tuna.tsinghua.edu.cn/simple/ -r requirements.txt。手动启动容器，只对当前的进程5有用，1234窗口需要重新配置环境变量ENV=pro。3.6执行supervisord.conf，配置celery和wsgi执行。3.5，迁移数据库(代码写数据库ip地址)。（就是把3的步骤写在一个文件内进行一步一步执行）3.1（可以忽略，手动部署，查看问题）这是走到了开发环境，有错。解决办法：查看环境变量，
python 打包docker
fengxing_2的专栏
08-28 135
1、 创建 requirements.txt。2、编写Dockerfile。python版本3.10。使用flask项目打包。
win10用wls2安装docker desktop
09-27
在Windows 10中，可以使用WSL2安装Docker Desktop。首先，你需要确保已经安装并配置好WSL2。然后，按照以下步骤安装Docker Desktop： 1. 下载Docker Desktop安装程序，你可以通过访问"https://desktop.docker.com/win/main/amd64/Docker Desktop Installer.exe"链接下载。 2. 完成下载后，双击运行安装程序。 3. 安装程序将会引导你完成安装过程，按照提示进行操作。 4. 在安装过程中，你可能需要登录你的Docker帐户或创建一个新的帐户。 5. 安装完成后，你可以在开始菜单中找到Docker Desktop，并打开它。 6. 在Windows终端（如Windows Terminal）中，你可以通过命令`wsl`进入WSL2的Ubuntu或其它Linux发行版。 7. 在Ubuntu中，你可以使用命令行工具来管理Docker容器和镜像，例如运行`docker ps`查看运行中的容器。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值