Llama 3.1部署教程（非常详细）从零基础入门到精通，看完这一篇就够了

昨日，Meta公司发布了人工智能模型——Llama 3.1。

那么Llama 3.1 405B的效果怎么样？我们来对比一张图，横向对比一下GPT-4。

可以看出，Llama 3.1 405B在各类任务中的表现可以与GPT-4等顶级的模型相差无几。

那么，我们怎样才能用到这款强大的Llama 3.1 405B模型呢？最直接的方式是通过Meta.ai平台，但目前这一途径仅对美丽国的用户开放。

那有无适合平民用的大模型嘞。

接下来我们将在本地部署Llama 3.1 8B（环境所迫）

1.环境准备

（1）Windows10系统及以上的计算机

（2）内存要求：8GB内存可运行7B模型，16GB可运行13B模型，32GB运行可33B模型

（3）网络环境:不需要科学上网（翻墙）

（4）小谢此次搭建的电脑环境如图，又无GPU，这配置只能搭个入门级别的大模型。若有GPU，响应速度则更快。

​

2.部署安装过程：

（1）从官网进行下载：https://ollama.com/download 选择windows系统版本，也可以看到它也同时支持mac系统和Linux系统。

但似乎它的下载速度对我来说太不友好了。于是进行科学上网下载了安装包，如有需要后台私信回复Ollama即可获取百度网盘下载地址。

​

安装包下载完成点击安装

​

在此界面直接运行命令ollama run llama3.1，此时国内网络速度就非常快

耐心等待进度条跑完即可。

当然你想要其他的大模型可以回到官网，点击Models

​

部署完成后可直接发送消息提问

所以它能做什么呢？

我们来看看它的自述：

I’m a large language model, my capabilities include:

\1. Answering questions: I can provide information on a wide range of topics, from science and history to

entertainment and culture.

\2. Translation: I can translate text from one language to another (currently supporting 100+ languages).

\3. Text summarization: I can summarize long pieces of text into concise and easily digestible content.

\4. Conversation: I can engage in natural-sounding conversations, using context and understanding to respond to

questions and statements.

\5. Content generation: I can generate text based on a prompt or topic, such as articles, stories, or even

entire scripts.

\6. Language analysis: I can analyze and understand the structure and meaning of language, including syntax,

semantics, and pragmatics.

\7. Text classification: I can classify text into categories, such as spam vs. non-spam emails or

positive/negative reviews.

\8. Sentiment analysis: I can determine the emotional tone behind a piece of text, such as happy, sad, or

neutral.

那咱们来看它的效果！我向它抛出了一个问题：

为防止长期摸鱼导致变笨，特此准备了几道题考考你！

1.至今思项羽，不（）过江东。

2.阳春布（）泽，万物生光辉。

3.书籍是人类进步的阶梯。——高尔（ ）

4.世人笑我太（）癫，我笑他人看不穿。

5.老夫聊发少年（），左牵黄，右擎苍。

6.危楼高百尺，手可摘（）辰。

7.君问归期未有（ ），巴山夜雨涨秋池。

8.（ ）面边声连角起，千嶂里，长烟落日孤城闭。

9.料峭春风吹酒醒,（ ）冷,山头斜照却相迎。

10.（ ）闻琵琶已叹息，又闻此语重唧唧。

11.锦瑟无端（）（）弦，一弦一柱思华年。

我们先来看一下部署在本地的大模型Llama 3.1 8B，看来效果不错。

​

对比一下“小谢取证”的回答：

“小谢取证”直接出答案，部署在本地的大模型Llama 3.1 8B提供了更为详细的翻译。但是两者给出的答案都有些许错误。当然，这也取决于他们的模型是否强大。

我们可以看到，我们部署到本地的界面是cmd界面下运行的，如果我们想可视化呢？先上效果图。

​

​

具体是用到Ollama Web UI，这边咱们直接使用大佬已集成好的环境直接使用。需要软件可后台私信。

​

在我们使用完后，关闭该模型。那么我们下次如何重新打开呢

直接点击“开始”菜单，选择字母“O”，启动Ollama

其次，直接打开该软件，点击聊天界面即可。

​

此时它就会自动调用命令。可以看到访问端口是3000

​

再使用http://localhost:3000/在浏览器访问即可。

如何学习AI大模型？

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。
本文转自 https://blog.csdn.net/Everly_/article/details/142251693?spm=1001.2014.3001.5501，如有侵权，请联系删除。