Llama3.1是AI界的Linux？先部署起来再说！

本文简介

就在今天，Meta 发布了 Llama 3.1，这次带来的中杯、大杯和超大杯3个版本。

从纸面数据来看，Llama 3.1 超大杯已经能跟 GPT-4 Omni、Claude 3.5 Sonnet 分庭抗礼了。

而中杯和大杯更是将同量级的对手摁在地上摩擦。

要知道，Llama 的对手可是闭源模型啊工友们！

小扎同志说，开源AI会成为行业的标准，就像Linux一样！

不管怎么说，既然你开源了，那我就在本地部署起来吧。

本文使用 Ollama 在本地运行大语言模型，它不止能运行 Llama 3.1 ，还支持阿里的 qwen2 等开源模型。

同时借助 OpenWebUI 的帮助，让你可以在图形化界面里跟 Llama 3.1 聊天互动。

安装 Ollama

Ollama 是一个专门为在本地环境中运行和管理大型语言模型（LLM）而设计的开源工具。

打开 Ollama官网 下载 Ollama。

根据你的系统去下载对应的安装包即可。下载完就运行它，傻瓜式安装，一直点“下一步”就行了。安装完你就能看到一个客户端的图标。

下载并运行 Llama 3.1

回到 Ollama官网，进入 Models 页面，这里会列出很多热门的模型。你也可以在搜索框里搜索自己想要的模型。

这里我们选择 llama3.1 。

蓝框可以选择不同量级的 Llama 3.1 模型，红框是选中的这个模型的下载和运行命令。

405b的模型231个G，我电脑实在玩不起，硬盘的剩余空间都没这么大😭

我就拿8b的模型演示一下吧～

在终端输入这条命令就会开始下载 Llama 3.1 8b的这个模型，如果已经下载过了它会直接运行，不需要重复下载。

ollama run llama3.1

下载并运行成功后，你就可以在终端跟 Llama 3.1 这个模型对话了。

当然啦，如果你觉得 Llama 的中文不太强，可以试试阿里的 qwen2 ，在 Ollama官网 搜 qwen2 选择指定版本，复制下载命令到终端执行即可。

搭建 Web 界面

在终端和大语言模型聊天实在太原始了，有套好看的 Web 界面会更容易在老板面前装杯。

本文要介绍的是 OpenWebUI，使用 docker 运行它会比较方便。

看到 docker 不要慌，很简单的。

打开 docker官网 ，根据你的系统下载对应版本的 docker 客户端。

接着继续傻瓜式安装即可。

安装完 docker 后，需要打开 docker 客户端。

接着我们打开 OpenWebUI 的文档，文档列出几种运行方式，如果在本地运行，复制红框的命令在终端运行即可。如果你电脑有N卡，可以用绿框那条命令。

执行完上面的命令后，在浏览器访问 http://localhost:3000/ 就能看到下面这个界面。

首次注册的用户是管理员账户，邮箱和密码都可以随便填，这些都是保存在你本地的数据。只要你记得自己注册的是什么邮箱和密码就行了。

登录后就能看到上面这个界面，在聊天窗上方选择 llama3.1 模型就可以开始愉快的聊天了。

---

以上就是本文的全部内容啦。下一篇打算介绍一下“如何在本地部署一个基于 Llama 3.1 的 Coze 平台” 😁

​

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

二、AI大模型视频教程

三、AI大模型各大学习书籍

四、AI大模型各大场景实战案例

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。