轻松实现本地部署：任何人都能安装顶尖开源模型 LLaMA3！

引言

LLaMA3 在 2024年4月18 日正式发布了，作为开发人员怎么能不蹭一下热度，体验一下可以在个人电脑端部署的大语言模型呢？文末领取安装包和安装文档！

LLaMA3

LaMA3 是一个自回归语言模型，使用了优化的 Transformer 架构。今天就体验电脑端安装 LLaMA3。 自从去年7月份 LLaMA2 发布后，不到一年时间，Meta 就发布了 LLaMA3，LLaMA3 的训练数据量 比 LLaMA2 de 2T Tokens ，扩展了大约8倍到了 15T Tokens。LLaMA3 共有三个版本，目前发布了两款不同参数规模的版本，包括 8B（80亿参数） 和70B（700亿参数）版本。据说中等模型 70B 版本效果介于 ChatGPT 3.5 到 GPT4 之间；大模型 400B 版本仍在训练中，有可能会超过 GPT4。

机会

对于普通开发者来说，LLaMA3 在自然语言处理领域提供了强大的工具和广泛的应用可能性，开发者可以利用这一模型进行各种实验和商业项目探索。比如提供基于 LLaMA3 的定制服务和解决方案，同时也带来了技术创新和产品开发的机会。

安装前准备

我们这次安装选用的 8B 版本，对电脑要求不高，内存最好16G 以上，否则可能无法安装成功，或者效果很差。此次采用开源的 ollama 安装，并通过 Open WebUI 安装使用 LLaMA3，下面是详细的安装步骤，还等什么呢？

1， 安装开源 ollama，文末领取安装包和安装文档！。

2，获取 LLaMA3 模型，ollama 已经给出了 llama3 的安装版本

3，拉取最新版本 llama3，第一次执行这个命令，会从 ollama 拉取模型，这里有两个模型，一个是预训练模型，另外一个是做过微调的 instruct 模型，大家也可以下载 instruct 模型。

4，模型拉取完成后，就可以使用了，如下界面。

5，先通过命令行测试一下 llama3 的功能 低版本的还是有点弱，或许 LLaMA3 对中文的处理能力确实很差。

6，如果不想使用命令行操作，可以安装 Open WebUI ，推荐使用 Docker 安装。Open WebUI 是一个为本地大型语言模型（LLM）设计的开源项目，提供了一个图形化界面，可以方便地调试和调用本地模型。 如下通过 Docker 安装 Open WebUI：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main   

Docker 镜像拉取成功后如下显示：

安装完成后，可以通过如下地址访问 Open WebUI，打开 Open WebUI 设置 -> Models 添加 LLaMA3 模型，设置LLaMA3 模型，Open WebUI 可以自动识别当前安装的 LLaMA3 模型。

7，选择 LLaMA3 模型后就可以开始体验了。

文末领取安装包和安装文档已经打包好了！

😝有需要的小伙伴，可以VＸ扫描下方二维码免费领取🆓

👉1.大模型入门学习思维导图👈

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

对于从来没有接触过AI大模型的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。（全套教程文末领取哈）

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，每个章节都是当前板块的精华浓缩。

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。（全套教程文末领取哈）

👉4.大模型落地应用案例PPT👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。（全套教程文末领取哈）

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。（全套教程文末领取哈）

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道，我总结了大模型常考的面试题。（全套教程文末领取哈）

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习

这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓