在带有Intel NPU的Windows上安装IPEX-LLM

在带有Intel NPU的Windows上安装IPEX-LLM

本文将介绍在 Intel NPU 环境下安装 IPEX-LLM。

先决条件

要使用 Intel NPU 加速，工具安装和环境准备有几个先决条件：

第 1 步：更新 NPU 驱动程序。

第 2 步（可选）：安装 Visual Studio 2022 社区版并选择“使用 C++ 进行桌面开发”。

第 3 步：安装 Anaconda 以进行 Python 环境管理。

更新 NPU 驱动程序

从Intel® NPU Driver下载驱动程序。

这里我们选择32.0.100.3104版本（也可以选择最新版本），点击下载按钮。

点击同意下载，并等待下载完成。

将下载的驱动程序解压到任意一个路径下。

通过计算机的管理菜单，打开管理工具。

在设备管理器下，选择Intel® AI Boost，右键单击，并选择更新驱动程序。

选择浏览我的电脑以查找驱动程序。

选择刚才解