Llama3.2 震撼发布，教你轻松本地电脑部署Llama3.2，搭建免费本地大模型助手

Meta 公司正式发布了多模态大模型 ——Llama3.2。今天斜杠君手把手教大家如何在本地电脑上部署Llama3.2大模型，个人电脑也可以轻松运行，打造一个属于自己的本地大模型助手。😊

一、安装前预习

Llama 3.2 是什么？

是 Meta（Facebook 的母公司）发布的一系列最先进的开源大语言模型。

此次Meta一共发布了Llama 3.2的4个型号：

110亿和900亿参数的多模态版本。

10亿参数和30亿参数的轻量级纯文本模型。

Ollama 是什么？

Ollama 是一个开源的大模型管理工具，它提供了丰富的功能，包括模型的训练、部署、监控等。通过Ollama，你可以轻松地管理本地的大模型，提高模型的训练速度和部署效率。此外，Ollama还支持多种机器学习框架，如TensorFlow、PyTorch等，使得你可以根据自己的需求选择合适的框架进行模型的训练。

二、开始部署

1、下载安装程序

官网下载地址：https://ollama.com/download

备注：如果不能下载的，关注后回复"ollama"，获取安装包。

因为我的电脑是windows， 所以这里我下载Windows这个版本。

下载好了，程序大小一共是664M。

2、开始安装

下载好后，双击点开始安装：

这里要注意，默认Ollama 下载的模型模型保存在 C 盘，如果想更改默认路径的话，可以通过设置 OLLAMA_MODELS 进行修改。

(1) 右键“我的电脑”，选择“属性”。

(2) 选择“高级系统设置”，然后选择“环境变量”。

(3) 选择“新建”，然后输出变量名和变量值。

**这里要注意：变量名是一个固定值，一定要输入：**OLLAMA_MODELS

变量值就是你想要安装的目录，我这里设置的是D:\ollama\models

(4) 设置完后可以在cmd中检查一下：echo %ollama_models%

安装完成后，Win+R键调出运行窗口：

3、安装 Llama 3.2 大模型

在官网点击这里导航「Models」，可以看到所有可用大模型：

在窗口中键入cmd调出控制台，在控制台中运行命令：

ollama run llama3.2

这个命令安装的是3B模型。

**如果你想安装1B模型，请使用以下命令：
**

ollama run llama3.2:1b

下载速度很快，最主要国内网就可以下载，10M/S。

稍等一会儿，就安装完成了。

4、测试

先输入一个英文：

再输入一个中文的：

鲁迅为什么暴打周树人？

通过答案，可以看出，小参数模型还是那么能编故事，哈哈~

好了，到这里搭建 「本地电脑部署Llama3.2大模型」 的教程就为大家讲解到这里，大家快动手试试吧 ~

2024最新全套大模型学习资料：大模型学习成长路线、书籍&学习文档、视频教程、项目实战、面试题汇总等，免费分享~

有需要的同学可以通过【微信扫描下方二维码】，即可免费领取！！！

一、大模型学习成长路线

学习新技能，方向至关重要。 正确的学习路线图可以为你节省时间，少走弯路；方向不对，努力白费。

这里，我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。

二、大模型书籍&学习文档

书籍和学习文档资料是学习大模型过程中必不可少的，我们精选了一系列深入探讨大模型技术的书籍和学习文档，它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。（书籍含电子版PDF）

三、大模型视频教程

对于很多自学或者没有基础的同学来说，书籍这些纯文字类的学习教材会觉得比较晦涩难以理解，因此，我们提供了丰富的大模型视频教程，以动态、形象的方式展示技术概念，帮助你更快、更轻松地掌握核心知识。

四、大模型实战项目

学以致用 ，当你的理论知识积累到一定程度，就需要通过项目实战，在实际操作中检验和巩固你所学到的知识，同时为你找工作和职业发展打下坚实的基础。

五、大模型面试题汇总

面试，不仅是技术的较量，更需要充分的准备。在你已经掌握了大模型技术之后，就需要开始准备面试，我们将提供精心整理的大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。

上述的资料已经全部打包好，有需要这份全套的大模型学习资料的同学，可以通过【微信扫描下方二维码】，免费领取！！！

机会总是留给有准备的人。 如果你需要学习大模型，那么请不要犹豫，立刻行动起来！早掌握，早享受。