Linux中部署DeepSeek,WSL(ubunt) + ollama + deepseek-R1-7b

  想在自己的Win11电脑上部署Linux的DeepSeek模型,但在网上一直没有找到合适的相应教程,自己查询各种网上资源,以及询问一些AI大模型后成功安装,并整理了以下步骤。仅作为个人学习笔记使用,由于本人对各方面知识掌握不足,难免会有些错误,欢迎各位大佬的指正。 

一,启用wsl和虚拟机功能

WSL简介:WSL 是微软为 Windows 系统开发的兼容层,允许用户直接在 Windows 上运行原生的 Linux 二进制文件(无需虚拟机或双系统)。它打通了 Windows 与 Linux 的生态,使开发者能在熟悉的 Windows 环境中无缝使用 Linux 工具链。

方案一:通过命令快速安装

   可以使用单个命令安装运行 WSL 所需的一切内容。 在管理员模式下打开 PowerShell 或 Windows 命令提示符。

具体方法:

1.  在开始界面查找PowerShell,右键单击并选择“以管理员身份运行”。

1.  输入wsl --install 命令,enter执行

wsl --install 

然后重启计算机。

注意:

  • 此命令会启用所需功能、安装 WSL2 内核,并下载 Ubuntu。

  • 完成后需重启系统。

  • 重启后,首次运行会提示创建用户名和密码,Ubuntu输入密码时不会有任何显示,输入时自己记住即可。

方案二:手动分步安装

1.  打开电脑控制面板(可以从开始界面搜索框中搜索进入),点击程序。

2. 点击程序和功能

3.点击启用或关闭Windows功能

4.选择框出的这几个选项

5.检查是否开启虚拟化,打开任务管理器,点击性能,查看CPU虚拟化是否开启,未开启需要进入BIOS中开启开启虚拟化(这个对于不同品牌电脑可能不太一样我也不是太熟练,不了解的话建议百度找一下教程,)。

6.重启电脑

7.安装 WSL2 内核

下载并安装内核更新包,点击下方链接即可下载

或者前往官网下载

旧版 WSL 的手动安装步骤 | Microsoft Learn

 下载完成之后安装即可。

8.设置默认 WSL 版本为 2

  开始菜单中,搜索PowerShell,并鼠标右击,选择 以管理员身份打开。在PowerShell命令框中输入以下命令。

wsl --set-default-version 2

9.安装 Linux 发行版

打开电脑自带的微软商店,搜索Ubuntu,选择一个版本下载即可。

10.启动并初始化

  安装完成后,从开始菜单打开刚刚下载好的ubunt,按提示设置用户名和密码。 注意首次运行会提示创建用户名和密码,Ubuntu输入密码时不会有任何显示,输入时自己记住即可。

11.将 WSL 2 设置为默认版本

以管理员身份打开 PowerShell,然后在安装新的 Linux 发行版时运行以下命令,将 WSL 2 设置为默认版本:

wsl --set-default-version 2

二,下载ollma

  这里依旧是有两个方案,一个是使用官网代码下载,第二方案是手动下载安装包手动安装,我的网络不是很好,这里我使用了方案二。

方案一:通过命令快熟安装

前往Ollama官网,复制Ollama官网的Linux版本下载命令,在wsl命令框中(Ubuntu命令框也一样),输入复制好的命令,下载即可。

方案二:手动下载(可能需要科学上网)

1.前往GitHub Release页面找到最新Linux版本的Ollama,网址首页:

下拉找到安装包,(通常为ollama-linux-amd64或类似名称的.tar.gz文件,WSL默认是64位系统,选择amd64x86_64版本),点击下载即可:

2.下载完成之后,回到桌面,鼠标右键查看属性以确定安装包的存放位置。

3.将文件复制到WSL系统中,在wsl命令框中输入以下命令,回车运行。

# cp /mnt/ + 你的存放地址 + ~/

#下面是我的地址
cp /mnt/c/Users/22377/OneDrive/Desktop/ollama-linux-amd64.tgz ~/

4.解压Ollama压缩包,在WSL命令框中执行以下命令

cd ~   #进入WSL根目录
chmod +x ~/ollama-linux-amd64.tgz   #赋予解压权限
tar -xzvf ollama-linux-amd64.tgz   #解压Ollama 

解压成功,生成一个名为 ollama 的可执行文件。

 5.验证解压结果

ls ~/bin/ollama        # 应显示ollama主程序
ls ~/lib/ollama/cuda*  # 应显示CUDA库文件

 会输出类似于这样的结果:

13.安装Ollama到系统路径,通过以下命令将二进制文件移动到系统可执行路径。

# 创建目标目录(如果不存在)
sudo mkdir -p /usr/local/bin
# 移动主程序并赋予执行权限
sudo mv ~/bin/ollama /usr/local/bin/
sudo chmod +x /usr/local/bin/ollama

6.使用 PowerShell 运行以下命令检查Ollama是否成功

ollama --version

结果会输出Ollama的版本号。 

三,部署deepseek

1.启动Ollama,在WSL中执行以下命令:

ollama serve

保持上面的命令框开启,别关。

2.前往Ollama官网找到DeepSeek-R1的模型下载命令,复制。

deepseek-r1:7bhttps://ollama.com/library/deepseek-r1:7b

3.再另外开启一个WSL命令框,输入刚刚复制的命令下载并运行对应模型即可。

ollama run  运行模型

ollama run deepseek-r1:7b  #运行模型,若检查到本地没有该模型,则会自动下载后立即运行

 ollama pull  下载模型

ollama pull deepseek-r1:7b  #下载模型,但不运行,需要手动运行模型

ollama run deepseek-r1:7b  #运行模型,若检查到本地没有该模型,则会自动下载后立即运行

 以上便是全部内容,如果哪里有错误,欢迎各位大佬指正。

### 在天选1笔记本电脑上安装和运行 Deepseek-r1:1.5b 模型 对于希望在华硕天选1笔记本电脑上安装并运行 `deepseek-r1:1.5b` 模型的情况,可以遵循特定的操作流程。由于该设备通常预装Windows操作系统,而提供的指令主要针对Linux环境下的操作,因此建议通过WSL(Windows Subsystem for Linux)或其他虚拟化解决方案来创建适合的运行环境。 #### 创建合适的运行环境 为了确保兼容性和性能优化,推荐先配置好基于Ubuntu或者其他支持的Linux发行版的WSL环境。这一步骤能够提供一个接近原生Linux系统的开发平台,从而更好地适配由Ollama所提供的安装脚本和服务。 #### 安装 Ollama 工具链 一旦有了可用的Linux子系统,可以通过如下命令获取最新的Ollama工具包: ```bash curl -fsSL https://ollama.com/install.sh | sh ``` 此命令会自动完成必要的依赖项检测以及软件本身的部署工作[^2]。 #### 启动指定版本的 DeepSeek-R1 模型 考虑到目标是启动精简至1.5B参数量级的小规模变体,尽管官方文档中提及了7B与14B两个具体实例,但理论上只要存在对应的镜像文件,则同样适用于更小型号。故尝试使用以下方式调用所需模型: ```bash ollama run deepseek-r1:1.5b ``` 需要注意的是,实际应用前应当确认所使用的硬件资源是否满足最低需求,并且验证是否有对应于1.5B规格的确切实现可供选用。如果遇到找不到相应标签错误提示,可能意味着当前发布的版本并不包含这个具体的尺寸选项。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

早点睡啊Y

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值