如何在huggingface上申请下载使用llama2/3模型

已于 2024-08-09 16:32:03 修改
阅读量1.2w 收藏 56
点赞数 27
分类专栏： 集群服务器 文章标签： 大模型 Llama
于 2024-05-12 19:14:31 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/a61022706/article/details/138763825
版权

1. 在对应模型的huggingface页面上提交申请

搜索对应的模型型号

登录huggingface，在模型详情页面上，找到这个表单，填写内容，提交申请。需要使用梯子，country填写梯子的位置吧(比如美国）

等待一小时左右，会有邮件通知。

  1. 创建access token
    在huggingface上登录后，点击头像，选择setting，点击左侧的access tokens，新建一个token，注意勾选权限为llama3模型
    在这里插入图片描述

然后复制token。注意，由于其只会出现一次，所以记得保存在其他安全的地方
在这里插入图片描述
3. 使用huggingface cli下载模型

pip install -
最低0.47元/天 解锁文章
申请 huggingface access tokens 使用 Llama2
yangxp_0312的博客
04-16 3372
如果你已经熟悉并习惯使用huggingface的模型以及训练方式。Llama2也有huggingface的版本可供使用。
LLM - 使用 HuggingFace + Ollama 部署最新大模型 (GGUF 格式 与 Llama 3.1)
AGI
08-08 4545
Ollama 是用于构建和运行大型语言模型(LLM)应用的开源工具，提供了一个简洁易用的命令行界面和服务器，让用户能够轻松下载、运行和管理各种开源 LLM，默认支持大量模型，如果是 HuggingFace 最新模型，或者自制模型，支持转换成 GGUF 格式，再进行调用。
在 Hugging Face 上下载和使用 LLaMA 模型
m0_56296402的博客
12-06 737
下拉有：（填写注意：与梯子一致的Hong kong ,机构填写的the university of hong kong;输入需要的模型类型meta-llama/Llama-2-7b-hf进行权限申请。在 Hugging Face 上下载和使用 LLaMA 模型（如。）手动下载模型文件并加载。
下载Hugging Face模型的几种方式
最新发布
m0_46807718的博客
03-07 2670
下载Hugging Face模型
下载官方llama
qq_38148600的博客
08-21 2076
每个账号只能填一次申请表，只要国家填了中国，目前是百分百被拒绝（试了三个号，地址写中国都被拒）。核心方法，切换为别的国家ip地址，然后填写别的国家，申请经过一段较长时间（大概10-30分钟），差不多就能通过。转换为safetensors格式（hugging face版本）（视频是llama2，下载llama3是另外一个git）需要不停的更换节点，一直到合适为止。有好心人号称上传了GGUF格式。不出意外的话，会报403错误。这是因为对方屏蔽了你的地址（具体可以看这个B站视频。然后输入申请到的链接。
如何从huggingface快速下载llama2模型
zh515858237的专栏
06-16 3883
【代码】如何从huggingface快速下载模型。
Hugging Face中下载大模型——LLaMa2-7b为例
ly_twt的博客
07-21 5136
（4）点开Meta Llama 2：中的Meta Llama 2 repository。这个URL就是下图中mask掉的URL，把URL复制粘贴到终端中，1、首先，需要有Hugging Face账户，没有的话注册一个。（3）申请后，会得到如下界面，邮箱也会收到邮件。（5）下载这个llama repository。（1）搜索所需的LLaMa2-7b模型。2、申请下载LLaMa2的权限。除了以下红框内的，其他随便填。
Hugging Face全攻略：轻松下载Llama 3模型，探索NLP的无限可能！【实操】
热门推荐
xiaoh_7的博客
04-27 1万+
Hugging Face平台提供了海量的预训练模型，包括顶尖的Llama 3模型。本文将详细介绍如何从Hugging Face下载Llama 3模型到本地。
在huggingface上申请下载使用Llama-3.2-1B
lemon的博客
10-10 1392
【代码】在huggingface上申请下载使用Llama-3.2-1B。
Hugging Face申请API
ly_twt的博客
07-21 3147
（2）在左侧栏中找到Access Tokens，然后点击Create new token。自定义个Token name，然后直接Create token即可，其他不用选。（1）点击右上角用户图标，找到Settings。1、注册Hugging Face账号。
Hugging Face全攻略：轻松下载Llama 3模型，探索NLP的无限可能！【实操】_llama3模型下载
月流霜的专栏
07-27 276
而Hugging Face，作为这一领域的佼佼者，凭借其强大的模型仓库、易用的API以及活跃的社区支持，成为无数NLP研究人员、开发者和爱好者的首选平台。无论你是NLP的初学者还是资深专家，都能在这里找到你需要的一切。无论你选择哪种方法，下载完成后，Llama 3模型将保存在你指定的本地目录中，你可以使用Hugging Face的Transformers库来加载和使用这个模型进行NLP任务。值得注意的是，由于meta的要求，需要先申请，申请方式也很简单，拉到最后，填写个人信息即可，然后等待邮件通知。
如何部署Meta开源大模型Llama2，转换为Huggingface模型的权重文件
qq_42261502的博客
07-19 1262
通过Meta AI官网()申请下载权限，注意Country/Region选择这里，可能会影响审查速度吧，我选的United States审查挺快的，几秒钟。之后邮箱里面会收到邮件，通过这个URL才能下载![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/6ff74fffc77d4f42b5fa92e0779ec0b5.png。
下载llama2-7b并转hf模型
m0_46464344的博客
11-12 3085
包含Huggingface请求llama2-7b下载权限、下载llama2-7b和转化llama2-7b为llama2-7b-hf。
【实战教程】linux系统下载huggingface大模型教程
weixin_36488653的博客
04-24 2601
下载大模型
大模型教程：LLM大模型之llama3（概述+调用实践+微调实践）
DEVELOPERAA的博客
11-18 3077
llama3与llama2的模型架构完全相同，只是model的一些配置（主要是维度）有些不同，llama2推理的工程基本可以无缝支持llama3。
无法连接到hugging face下载模型llama-7b
m0_73545851的博客
08-28 310
【代码】无法连接到hugging face下载模型llama-7b。
Huggingface镜像网站下载语言模型方法
百般回首曾经的相遇，留下的只是一缕残忆
02-20 4529
通常通过镜像网站下载。在链接页面有介绍方法，对于不大的模型可以直接下载。这里介绍比较常用且方便的下载方法。
如何快速有效的从huggingface上下载模型及加载
xiaomu_347的博客
06-03 1万+
您可以点击模型卡片中的“快速使用”按钮查看如何使用Library进行模型的下载。您还可以从 repos 下载文件或将它们集成到您的库中，并且可指定下载模型的地址。默认模型会下载到~/.cache/modelscope/hub中，如果需要修改下载目录，可以手动指定环境变量：MODELSCOPE_CACHE，modelscope会将模型和数据集下载到该环境变量指定的目录中。对应的，如果需要在ModelScope平台上有感兴趣的模型并希望能下载至本地，则ModelScope提供了多种下载模型的方式。
huggingface下载llama2
08-16
要下载huggingface上的llama2模型，你需要经过官方的授权。你可以在hugging face的模型页面申请授权，并等待审核通过。审核通过后，你就可以下载模型了。你可以使用脚本的方式进行下载，这样可以更快速地进行下载，并且可以设置密码和代理。具体的实现方法可以参考以下示例代码: ```python from huggingface_hub import snapshot_download repo_id = "meta-llama/Llama-2-7b-hf" # 模型在huggingface上的名称 local_dir = "/home/model_zoo/LLM/llama2/Llama-2-7b-hf/" # 本地模型存储的地址 local_dir_use_symlinks = False # 本地模型使用文件保存，而非blob形式保存 token = "XXX" # 在hugging face上生成的 access token # 如果需要代理的话 proxies = { &#39;http&#39;: &#39;XXXX&#39;, &#39;https&#39;: &#39;XXXX&#39;, } snapshot_download( repo_id=repo_id, local_dir=local_dir, local_dir_use_symlinks=local_dir_use_symlinks, token=token, proxies=proxies ) ``` 请确保将`repo_id`设置为llama2模型在huggingface上的名称，`local_dir`设置为你想要存储模型的本地目录，`token`设置为你在hugging face上生成的access token。如果需要代理，请将`proxies`设置为你的代理。 这样，你就可以使用以上代码来下载llama2模型了。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [如何优雅地下载huggingface上模型，以llama2模型下载为例](https://blog.csdn.net/ljp1919/article/details/131925099)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *3* [LLM-LLaMA：手动模型转换与合并【Step 1: 将原版LLaMA模型转换为HF(HuggingFace)格式；Step 2: 合并LoRA...](https://blog.csdn.net/u013250861/article/details/131387468)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论 17
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值