开发者实战 | Linux Ubuntu 安装英特尔显卡驱动玩转 AIGC

点击蓝字

关注我们,让开发变得更有趣

作者:英特尔网络与边缘计算事业部开发者关系经理 李翊玮

8339b634cafe14a8dfe9ca8e1a283f7e.png

本文将介绍如何在Ubuntu 用 5 行指令快速搭建含英特尔显卡的 AI 开发环境, 并使用 OpenVINO™ 及英特尔显卡优化文生图模型 Stable Diffusion 的速度。

8e47664c1b54990bf5d201d9cc37e40d.png

EIV (Edge Insight Vision) 具有一组预集成组件,专为边缘应用的计算机视觉和深度学习推理而设计,并针对英特尔® 架构进行了优化。它作为容器化架构或独立运行时实现。

此软件包包含用于在英特尔处理器和英特尔显卡设备上安装英特尔® 显卡驱动程序和为 OpenVINO™ 推理设置环境的脚本。

工作原理

EIV 是一组预先验证的模块,作为容器化架构或独立运行时实现,用于在边缘部署计算机视觉和深度学习工作负载。该软件包包含面向针对英特尔® 架构优化的计算机视觉和深度学习应用的英特尔® 发行版 OpenVINO™ 工具套件。

51f4fa4cd5a7d6a45056a9bbbb88c2f2.png

图 1:视觉边缘洞察模块

EIV 安装三大模块

  • Docker

  • Intel® GPU drivers

  • The Intel® Distribution of OpenVINO™ toolkit (OpenVINO™) Docker image 2023.0

入门指南

按照此分步指南在 Linux* 上为您的目标系统安装英特尔®  EIV。完成本指南后,您就可以在英特尔® 处理器、iGPU 和英特尔® 锐炫™ 显卡上试用示例应用程序了。

1

建议的系统要求

● 处理器:

  • 第 10代 - 第 13 代智能英特尔® 酷睿™ 处理器

  • 英特尔® 处理器 N 系列

  • 英特尔® 酷睿™ i3 处理器 N 系列

  • 英特尔® 锐炫™ A 系列显卡

● 至少 8GB 内存

● 至少 64GB 硬盘

● 互联网连接

● Ubuntu* 20.04 英特尔物联网或 Ubuntu* 22.04 英特尔物联网

2

准备目标系统

注意:如果主显示器设置为 dGPU,Ubuntu 22.04 安装将冻结。某些设备,例如 ASUS IoT PE3000G 具有默认的 dGPU 作为主显示器。在 BIOS 菜单中,选择高级 -> 图形配置 -> 主显示器,然后选择“IGFX”。保存更改并重新启动系统。接下来,继续安装 Ubuntu 22.04 和 EIV。EIV 安装完成后,如果您希望使用 dGPU 作为主显示器,请转到 BIOS 并切换回“PEG 插槽”。

确保目标系统具有全新的操作系统安装。请按照以下步骤安装 Ubuntu 操作系统:

将适用于英特尔硬件的 Ubuntu v20.04-IoT or Ubuntu v22.04-IoT Desktop ISO file[1] 下载到开发人员工作站。

  1. 使用映像应用程序(如 balenaEtcher[2] 应用程序)创建可启动闪存驱动器。

  2. 刷新 USB 闪存驱动器后,关闭目标系统的电源,插入 USB 闪存驱动器,然后打开目标系统的电源。如果目标系统未从 USB 闪存驱动器启动,请在系统 BIOS 中更改启动优先级。

  3. 按照提示安装具有默认配置的操作系统。有关详细说明,请参阅本指南[3]

  4. 在代理环境中,请确保已在 /etc/ 环境中设置代理。

01

显卡驱动安装含EVI 

(如已安装Ubuntu 22.04 请直接从此处安装)

在目标系统上运行以下命令以安装 EIV。

1. 安装 git 和 git 将 EIV 存储库克隆到 Ubuntu 系统中。

sudo apt -y install git
Git clone https://github.com/intel/edge-insights-vision.git

向右滑动查看完整代码

2. 更新系统上的软件包。

sudo apt-get update

3. 安装 python3-pip。

sudo apt-get -y install python3-pip

4. 将目录更改为 edge-insights-vision 并安装需求包。

cd edge-insights-vision
pip3 install -r requirements.txt

b8be6dcdd52634fc436f7bf34f164676.png

图 2:安装需求包

5. 安装 EIV。如果您的系统具有 dGPU,它会将您的内核升级到  6.2.8,并且您的系统将在安装过程中重新启动。重新启动后如果没有跑到 100%, 请重复执行此命令 (由于需要重启,请在开始安装之前保存您的工作。)

python3 eiv_install.py

PS. 中国区用户请将 eiv_install.py 档第·25 行

def connect(host='http://google.com'): 

改成

def connect(host='https://baidu.com'):

6. 安装完成后重新启动系统。

0f1f9996333b6a424e083726aee9e7bf.png

图3:成功安装EIV

如果 GPU 驱动程序未显示版本,请重新启动系统并运行此命令以查看驱动程序版本。

clinfo | grep 'Driver Version'

02

运行 Jupyter 笔记本教程

按照以下步骤启动 Jupyter 笔记本并运行基本教程以验证目标系统是否正常工作。

1. 成功安装后,将 launch_notebooks.sh 脚本更改为可执行文件并运行启动器脚本,如下所示:

cd edge-insights-vision
chmod +x launch_notebooks.sh
./launch_notebooks.sh

2. 打开浏览器并粘贴下面突出显示的 URL 以打开 Jupyter 笔记本。

3db1b3e156cbb8da0f61b7d3a3ae4578.png

图 4: Output of launch_notebooks.sh

3. 如果您在浏览器中看到以下页面代表所有 OpenVINO notebooks 都可以用了

2ef28927731d097a237c9ae1fd8d0b94.png

图 5: Jupyter Notebook in the browser

4. 如果打开“notebooks”文件夹,则可以看到所有可用笔记本的列表。

38cf496fb66f0abe6350317fc3735c17.png

5. 选择 notebook 236-stable-diffusion-v2/236-stable-diffusion-v2-optimum-demo-comparison.ipynb

175e673978ecb8411d114b8b23e5bfc1.png

6. 它允许从文字描述生成图像,并有助于比较在 CPU 和独立 GPU 上运行不同管道时的性能。

7. 在“显示可用设备信息”步骤中,您可以看到所有设备,这些设备可用于在此 PC 上进行推理。由于我的电脑中安装了独立的 GPU,因此列表中有 GPU.1 Intel (R) Arc (TM) Pro A40/A50。

69c403e5116f051ba5f20fe0083660b5.png

8. 在此 notebook 中执行的第一个模型是托管在 Hugging Face 上的预训练 Pytorch 模型。

https://huggingface.co/stabilityai/stable-diffusion-2-1

在此单元中,使用standard Stable Diffusion Pipeline在CPU上执行。

9faab77c9d469f2ddb457e7c633f55d6.png

9. 它通过文本描述生成图像,如下所示,在我的电脑上推理大约需要 2 分钟。

c3eb92e08b07460121f3f0a96e362888.png

10. 下一步使用 OpenVINO™ 进行稳定扩散 为此,将同一模型转换为 OpenVINO IR(Intermediate Representation)格式,并使用 OpenVINO™ 稳定扩散管道。CPU 用于推理。

cafb2554201b5aff072b69e943c0f18f.png

对比于使用前已有了显着速度的改进,只需 1 分 16 秒。因此,仅应用 OpenVINO Stable Diffusion Pipeline,性能就提高了近 2 倍。

11. 最后一个实验是在刚装好的显卡上运行 Stable Diffusion。将 GPU 设置为推理设备并运行这几行代码

7f016df1a4e1bd547ecd170f5c50038e.png

可以在森林中看到新的红色汽车和进一步的性能改进!这次只需要 43 秒, 对比于原来的 2 分钟有了 60% 以上的提升

bf92afde1ea19a5a6172c81705cd9e25.png

总结

本文介绍如何使用 EIV 用 5 行指令在快速搭建含英特尔显卡及 OpenVINO™ 的 AI 开发环境。并借由文生图模型Stable Diffusion 说明了 OpenVINO™ 如何优化其推理速度。

如果您有兴趣生成更多图像,学习 OpenVINO™ 并评估设备上生成 AI 的性能,我鼓励您访问:

https://github.com/intel/edge-insights-vision 

并尝试自己运行 OpenVINO™!

[1]  Ubuntu v20.04-IoT or Ubuntu v22.04-IoT Desktop ISO file:

https://ubuntu.com/download/iot/intel-iot

[2]  balenaEtcher:

https://etcher.balena.io/

[3] 指南:

https://ubuntu.com/tutorials/install-ubuntu-desktop#1-overview

OpenVINO™

--END--

你也许想了解(点击蓝字查看)⬇️➡️ 基于 ChatGLM2 和 OpenVINO™ 打造中文聊天助手➡️ 基于 Llama2 和 OpenVINO™ 打造聊天机器人➡️ OpenVINO™ DevCon 2023重磅回归!英特尔以创新产品激发开发者无限潜能➡️ 5周年更新 | OpenVINO™  2023.0,让AI部署和加速更容易➡️ OpenVINO™5周年重头戏!2023.0版本持续升级AI部署和加速性能➡️ OpenVINO™2023.0实战 | 在 LabVIEW 中部署 YOLOv8 目标检测模型➡️ 开发者实战系列资源包来啦!➡️ 以AI作画,祝她节日快乐;简单三步,OpenVINO™ 助你轻松体验AIGC
➡️ 还不知道如何用OpenVINO™作画?点击了解教程。➡️ 几行代码轻松实现对于PaddleOCR的实时推理,快来get!➡️ 使用OpenVINO 在“端—边—云”快速实现高性能人工智能推理
扫描下方二维码立即体验 
OpenVINO™ 工具套件 2023.0

点击 阅读原文 立即体验OpenVINO 2023.0

0a045ef26c6fbc88c7a60ff5593c2d7b.png

文章这么精彩,你有没有“在看”?

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
Ubuntu安装显卡驱动、CuDNN、CUDA和PyTorch可以按照以下步骤进行: 1. 安装显卡驱动:可以通过以下几种方式安装显卡驱动: - 通过"Software & Updates"工具在“Additional Drivers”选项卡中选择一个适用于您的显卡型号的驱动程序,并点击“Apply Changes”进行安装。 - 通过命令行使用`ubuntu-drivers devices`命令查看可用的驱动,然后使用`sudo ubuntu-drivers autoinstall`命令自动安装推荐的驱动。 2. 安装CuDNN:CuDNN是NVIDIA加速库,可提供用于深度学习的GPU加速功能。可以按照以下步骤安装CuDNN: - 前往NVIDIA官方网站,下载适用于您的CUDA版本的CuDNN压缩文件(通常需要注册NVIDIA开发者账号)。 - 将CuDNN压缩文件解压缩到一个合适的位置,例如`~/cuda`文件夹。 - 打开终端,使用`cd`命令进入CuDNN解压缩文件的路径,并执行以下命令安装CuDNN: ``` sudo cp cuda/include/cudnn*.h /usr/local/cuda/include/ sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64/ sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn* ``` 3. 安装CUDA:CUDA是用于在NVIDIA GPU上进行并行计算的平行计算平台和API。可以按照以下步骤安装CUDA: - 前往NVIDIA官方网站,选择适用于您的显卡和操作系统的CUDA版本,并下载对应的运行文件(通常需要注册NVIDIA开发者账号)。 - 打开终端,使用`cd`命令进入CUDA运行文件所在的目录,并执行以下命令安装CUDA: ``` sudo sh cuda*.run ``` - 执行安装向导中的步骤,根据提示进行安装配置,包括选择安装路径和设置环境变量。 - 安装完成后,可以通过执行`nvcc --version`命令验证CUDA的安装情况。 4. 安装PyTorch:PyTorch是一个用于构建深度学习模型的开源Python库。可以按照以下方式安装PyTorch: - 打开终端,执行以下命令安装PyTorch: ``` pip install torch torchvision ``` - 在安装过程中,可能需要下载和编译一些依赖项。请耐心等待安装完成。 安装完成后,您可以在Ubuntu上使用显卡驱动、CuDNN、CUDA和PyTorch进行深度学习任务。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值