【完整指南】如何在Visual Studio Code中轻松运行Llama 3模型？

最新推荐文章于 2024-05-11 08:00:43 发布
最新推荐文章于 2024-05-11 08:00:43 发布
阅读量1.5k 收藏 20
点赞数 23
分类专栏： 大模型理论与实战 文章标签： vscode llama ide 大模型 深度学习 算法 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2301_78285120/article/details/138272480
版权

Meta 发布了最新的开源语言模型Llama 3。因为它是开源的，你可以下载这个模型，并在自己的电脑上运行。

我清楚，你可能会想，在个人笔记本上运行一个拥有80亿参数的AI模型似乎只有技术高手才能做到。但别担心！这篇文章会提供一个简单的步骤指导，帮助每个人都能轻松上手。

准备工作

在我们深入到具体步骤之前，我们先来看一下我当前使用的环境配置：

  • 笔记本型号：Lenovo ThinkPad X1 Extreme

  • 操作系统：Windows 11 Pro 版本 10.0.22631 构建 22631

  • CPU：Intel® Core™ i7-9850H 处理器

  • 内存：32 GB

  • 硬盘空间：642 GB

确实，运行这个模型并不需要你拥有顶级的GPU。只要有一个不错的CPU和充足的内存，你就能在自己的电脑上顺畅运行Llama 3。

节前，我们组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、今年参加社招和校招面试的同学。

针对大模型技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备面试攻略、面试常考点等热门话题进行了深入的讨论。

总结链接如下：

重磅消息！《大模型面试宝典》(2024版) 正式发布！

技术交流&资料

技术要学会分享、交流，不建议闭门造车。一个人可以走的很快、一堆人可以走的更远。

成立了大模型面试和技术交流群，相关资料、技术交流&答疑，均可加我们的交流群获取，群友已超过2000人，添加时最好的备注方式为：来源+兴趣方向，方便找到志同道合的朋友。

方式①、微信搜索公众号：机器学习社区，后台回复：加群
方式②、添加微信号：mlc2040，备注：来自CSDN + 技术交流

第 1 步：下载并安装 Ollama

首先，访问Ollama网站，下载最新版本的安装程序。Ollama是一个多功能工具，旨在帮助用户在不同平台上本地运行、创建和分享大型语言模型（LLMs）。

图片

完成Ollama的安装后，确保它在后台运行。你可以通过系统托盘或任务管理器中的Ollama图标来进行检查。

在这里插入图片描述

要验证Ollama在命令行界面（CLI）中是否正常工作，可以运行以下命令来查看版本。我当前的版本是0.1.32，你的版本可能会有所不同。

> ollama -v
ollama version is 0.1.32

第 2 步：在 VS Code 中安装 CodeGPT 扩展

接下来，打开Visual Studio Code，转到扩展标签页。搜索来自codegpt.co的“CodeGPT”并安装这个扩展。这个扩展使你能够直接在VS Code里使用Llama 3。

图片

安装完毕后，你应该能在VS Code的左侧边栏看到CodeGPT的图标。

第 3 步：下载模型

在VS Code的终端里，运行以下命令来下载Llama 3模型：

ollama pull llama3:8b

因为模型大小超过4GB，所以下载可能需要一段时间。请耐心等待直到完成。下载成功后，你将看到一个成功的消息提示。

图片

第 4 步：选择 Llama 3 模型

在VS Code的左侧CodeGPT仪表板中，找到“提供者”下拉菜单，选择“Ollama”。然后，在“模型”下拉菜单中选择“Llama3:8b”。如果列表中没有显示这个模型，你可以手动输入“Llama3:8b”。

图片

确保正确选择模型，这样CodeGPT就会使用Llama 3来生成回答。

第 5 步：在VS Code上运行Llama 3

现在我们已经下载了模型并在VS Code上安装了CodeGPT，让我们通过输入一个测试提示来检查一切是否正常工作。

Prompt: what is the distance of the moon from Earth?

Response: The average distance from the Earth to the Moon is approximately 384,400 kilometers (238,900 miles). This is called the “lunar distance” or “lunar mean distance.” However, the Moon’s orbit is not a perfect circle and its distance from Earth varies slightly due to the elliptical shape of its orbit. The closest point in this orbit, called “perigee,” is about 356,400 kilometers (221,500 miles), while the farthest point, called “apogee,” is about 405,500 kilometers (252,000 miles).

图片

一切正常工作。现在，让我们使用模型来解释一段源代码。在VS Code中写入或打开任何源代码文件。右键点击文件，选择“CodeGPT: 解释CodeGPT”让AI来解释这段源代码。

图片

值得注意的是，代码会作为提示输入传递给CodeGPT面板。AI分析代码，并提供了详细的解释。

图片

这非常酷，因为你不再需要把代码块复制粘贴到ChatGPT或VS Code外的其他聊天机器人中。而且，这完全是免费的，而且是在你的机器上本地运行的，所以你不需要担心API成本或网络连接问题。

就这样！一份关于如何在Visual Studio Code中运行Llama 3的逐步指南。我希望你觉得这个指南有用，而且易于操作。在你自己的机器上本地运行强大的语言模型并没有想象中那么困难。

通俗易懂讲解大模型系列

资源：

  • Ollama：https://ollama.com/download

  • Llama 3：https://generativeai.pub/meta-released-llama-3-the-most-powerful-open-source-language-model-c472f303901a

Python算法实战
关注
  • 23
    点赞
  • 踩
  • 20
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
100% 开源 Llama 编码助手：设置 Cody 和 VSCode
iCloudEnd的博客
02-03 1181
好吧，今天我有一些非常令人兴奋的事情要与大家分享！我们都知道，编码助手永久地改变了我们开发软件的方式，但 GPT-4 等高级法学硕士的高昂价格一直是许多人的绊脚石。但好消息是：成本不再是障碍！有了像 Code Llama 7B 这样的法学硕士，在本地运行一个强大的、自动完成的编码助手的梦想现在已经成为现实。在本指南中，我将引导您完成：设置 Cody 和 VSCode使用 Ollama 安装本地 Code Llama 7B。
本地部署 CodeLlama 并在 VSCode 中使用 CodeLlama
engchina的专栏
08-27 1万+
本地部署 CodeLlama 并在 VSCode 中使用 CodeLlama
如何使用Codellama开源大模型提高开发效率？
bumblexbee的博客
02-27 1338
CodeLlama是 Meta 在今年 8 月 24 日推出的一款代码领域的开源大模型。它由 Meta 开源的Llama-2模型训练而来。在延续了Llama-2的训练框架和训练数据基础上，CodeLlama加入了更多的代码数据集，并基于三个不同的应用场景，设置了三种不同的模型，分别是 Base 模型、Python 模型和 Instruction 模型。
基于自己数据微调LLama3并本地化部署
天风的人工智能博客
05-09 1722
微调LLama3
再见了，付费的 Copilot！
codingpy的博客
03-15 906
你好，我是坚持分享干货的 EarlGrey，翻译出版过《Python编程无师自通》、《Python并行计算手册》等技术书籍。如果我的分享对你有帮助，请关注我，一起向上进击。Copilot，是一款基于AI的、应用于写程序场景的工具；可以自动地生成高质量代码片段、注释、以及解释代码；它需要付费使用，月订阅费用10美元。但在本文中，我们将在本地运行Code Llma 7B，从而自制一个免费的Vscode...
本地部署Llama3教程，断网也能用啦！
2301_81940605的博客
04-24 5274
Llama3 8B效果已经超越GPT-3.5，最为重要的是，Llama3是开源的，我们可以自己部署！
Llama3模型+Windows本地运行软件（下载地址）
05-20
而Llama3又是所有羊驼中最新的领头羊。 可以简单地来看一下官方的对比数据。 下面是Llama3和谷歌Gemma以及法国的Mistral开源版的对比，以及Llama3 70B和gemini和Claude3闭源版的对比。 关于Llama3具体有多牛X，...
LLama3 中文大模型进行指令微调的中文聊天语言模型
06-06
Llama3-8B-Chinese-Chat 是一款基于 Meta-Llama-3-8B-Instruct 模型进行指令微调的中文聊天语言模型。该模型针对中文和英文用户进行了专门的优化，具有角色扮演、工具使用、数学计算等多种功能。最新的 v2.1 版本相...
袖珍版“Llama2” Windows上也能用了！VisualStudio2022下编译通过
07-30
VisualStudio2022下编译通过。 提供了 1500 万参数，和 4400 万参数的两个模型，可以在project内直接下载： • model15m.bin，大小 59M • model44m.bin，大小 160M tokenizer.bin 文件，是模型使用的分词文件，大小...
llama3-中文微调训练集，让llama3更懂中文
04-22
Llama-3在多个行业标准测试中展现了卓越的性能，特别是在对话类应用中，其表现超过了许多现有的开源聊天模型。 在技术方面，Llama-3采用了优化的自回归Transformer架构，这种架构专为处理复杂的文本生成任务设计，...
大模型相关介绍，包括大模型概述，llama3结构，微调策略等
最新发布
06-17
大模型相关介绍，包括大模型概述，llama3结构，微调策略等大模型相关介绍，包括大模型概述，llama3结构，微调策略等大模型相关介绍，包括大模型概述，llama3结构，微调策略等大模型相关介绍，包括大模型概述，llama3...
autodl外挂vscode调试llama2
chenos121的专栏
11-13 334
通过调试是可以详细知道实现细节，有助于理解涉及的技术点。有时还可以把其中的代码片段单独拎出来，自己通过torch.randn(x,x,x,x)的随机数据来跑一遍，有助于理解所采用的pytorch的实现技巧。最好在autodl上先创建一个pytorch的conda环境，如何创建具体参考其帮助文档，有时想通过调试看懂大模型代码，可以借助于autodl外接vscode进行调试。再通过autodl学术资源加速方式下载github上llama2代码。一步一步链接到开启的autodl实例。
LLMs之Llama3：Llama-3的简介、安装和使用方法、案例应用之详细攻略
热门推荐
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
04-20 2万+
​ LLMs之Llama 3：Llama 3的简介、安装和使用方法、案例应用之详细攻略 目录 Llama 3的简介 Llama 3的安装和使用方法 Llama 3的案例应用 Llama 3的简介 2024年4月18日，Meta 重磅推出了Meta Llama 3，Llama 3是Meta最先进开源大型语言模型的下一代，包括具有80亿和700亿参数的预训练和指令微调的语言模型，能够支持广泛的应用场景。这一代Llama在一系列行业标准基准测试中展示了最
MacOS本地部署codellama，并关联VSCode插件Cody AI
weixin_37841024的博客
04-24 459
Cody。
用code去探索理解Llama架构的简单又实用的方法
周博洋的博客
02-11 1702
我最近也在反思，可能有时候算法和论文也不是每个读者都爱看，我也会在今后的文章中加点code或者debug模型的内容，也许还有一些好玩的应用demo，会提升这部分在文章类型中的比例。包含预先计算的隐藏状态（自注意力块和交叉注意力块中的键和值），用于加速顺序解码的tuple，推理用的，当use_cache=True时，会返回这个参数，训练不用管。，QKV矩阵就是下面前三个线性层，然后分别主管生成qkv，上面的参数也解释了多头，和多头dim是咋算出来的，GQA咋算，这块代码写的实在清晰，属实没啥可说的。
探索AI编程前沿：DeepSeek、CodeLlama、GLM与ChatGPT系列大模型Java编码能力测评
悠杨的专栏
02-18 1967
在Java编码能力方面，GPT-4-0613 > DeepSeek-Coder-33B-Instruct > GPT-3.5 > GLM-4 > CodeLlama-70B-Instruct。整体来看，GPT-4在六项测评中都表现得比较稳定，其它四个大模型都存在在某项测评中表现不太稳定的情况。在编码大模型的选型方面，如果追求性能，首选还是GPT-4，但是也比较贵。如果从安全性和性价比考虑的话，私有化部署开源编码大模型DeepSeek-Coder-33B-Instruct应该是一个不错的选择。
在本地电脑上如何在 Visual Studio Code 中运行 Llama 3 — 分步指南
iCloudEnd的博客
05-11 80
在笔记本电脑上运行 80 亿个参数的人工智能模型的想法听起来似乎只适合精通技术的人。但别担心！在本文中，我将分享一个分步指南，让任何人都可以轻松完成。
介绍 Code Llama，一种用于编码的最先进的大型语言模型
新华编程特战队
11-21 90
Meta发布了 Code Llama，这是一个大型语言模型 （LLM），可以使用文本提示来生成代码。Code Llama 是用于代码任务的公开可用的 LLM 的最新技术，它有可能使当前开发人员的工作流程更快、更高效，并降低正在学习编码的人的进入门槛。Code Llama 有可能被用作生产力和教育工具，帮助程序员编写更强大、更有据可查的软件。生成式 AI 领域正在迅速发展，我们相信，对当今 AI 的开放方法是开发创新、安全和负责任的新 AI 工具的最佳方法。
如何用python的huggingface库调用llama模型？
07-13
要使用Hugging Face库来调用LLAMA模型，首先你需要安装`transformers`库，这是Hugging Face提供的用于自然语言处理任务的Python库。然后，你可以按照以下步骤进行LLAMA模型的调用： 1. 导入所需的库和模块： ```python from transformers import AutoTokenizer, AutoModelForMaskedLM ``` 2. 加载LLAMA模型和分词器： ```python model_name = "csarron/llama-base" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForMaskedLM.from_pretrained(model_name) ``` 3. 准备输入文本并进行分词： ```python text = "This is an example sentence." inputs = tokenizer.encode_plus(text, add_special_tokens=True, return_tensors="pt") input_ids = inputs["input_ids"] ``` 4. 使用LLAMA模型进行预测： ```python with torch.no_grad(): outputs = model(input_ids) predictions = outputs[0] ``` 5. 解码预测结果： ```python predicted_index = torch.argmax(predictions[0, -1]).item() predicted_token = tokenizer.convert_ids_to_tokens([predicted_index])[0] ``` 这样，你就可以使用Hugging Face库调用LLAMA模型并进行预测了。请确保已经安装了所需的库以及正确设置了GPU（如果有的话）。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值