1、Token设置
(1)登陆Hugging Face官网:官网地址,注册后搜索模型,注册的时候各类ID都不要取得过于随便,尽量用英文名。
登陆后点击头像提交后点击头像在【Settings】中选择【Access Tokens】
(2)点击【Create new token】,
取名不限制但遵循以下原则,选择【Read】权限后点击【Create token】。
-
Token name的命名遵循以下规则:
描述性: 选择一个能够清晰描述token用途的名称。例如,如果该token用于访问Llama 3模型,可以命名为llama3-access。
简洁性: 保持名称简短且易于记忆,避免使用过长或复杂的名称。
上下文: 如果token是为特定项目或任务创建的,可以在名称中包含相关信息。例如,projectX-read-token。
一致性: 如果您有多个token,确保使用一致的命名规则,以便于管理和识别。
-
三种Token类型各自的适用场景:
Fine-grained:
适用场景: 如果您希望更细致地控制权限,例如仅允许特定操作(如读取、写入或微调),则可以选择“Fine-grained”权限。这种类型适合需要精细管理访问权限的用户,特别是在团队协作或项目中。
示例:在与外部组织合作时,您可以创建一个仅允许访问该组织下特定模型的fine-grained token,而不必分享所有写权限。 -
Read:
适用场景: 如果您只需要访问模型进行推理或下载模型,而不打算进行任何修改或训练,选择“Read”权限即可。这是大多数用户的常见选择,因为它允许您使用模型而不需要对其进行更改。
示例:用于下载私有模型或进行推理时,确保不会对模型进行任何修改。 -
Write:
适用场景: 如果您打算对模型进行修改、上传新的模型权重或更新现有模型,则需要选择“Write”权限。这通常适用于开发者或研究人员,他们需要将自己的工作成果上传到Hugging Face平台。
示例: 开发者在训练新模型后,需要将其上传到Hugging Face Hub以供他人使用。
(3)点击【Create token】后会弹出一个窗口,提示用户把Access Token保存好。如下图所示。 至此,创建token就完成了。这一步要确保token保存,因为一旦关闭此页面将不会再获取到该token。
(4)在终端命令行输入huggingface-cli login
,
会让我们输入token,即(3)中保存的token。复制粘贴输入token,这里不会显示token,粘贴后直接【Enter】回车,再输入y
回车。
出现如下界面即可进行下一步下载模型啦。
(3)模型下载
命令行输入:
huggingface-cli download --resume-download meta-llama/LlamaGuard-7b --local-dir meta-llama/LlamaGuard-7b
命令行中第一个meta-llama/LlamaGuard-7b
为模型ID,可以直接复制。第二个为下载到当地的目录,下载完成后会保存在当前目录下meta-llama/LlamaGuard-7b
中。
另外也可以在网页端下载,这种方式需要手动下载,较为麻烦,不推荐。
2、申请权限
如下图所示,博主要下载模型meta-llama/LlamaGuard-7b
出错。需要申请权限。
(1)这里博主已经获取了模型meta-llama/LlamaGuard-7b
,没有搜索后的界面,就以其它模型为例。点击下图中的【Expand to review and access】后往下拉。
注意:有的开源模型相对简单,直接submit就可以。无需填写以下资料。
(2)直至看到界面:
(3)敲重点:这里填写信息需要留心,【Country】下拉列表中是没有China选项的。建议名字和公司都填国外的,博主就因为填的过于随意,导致第一次申请被拒。
填写后【Submit】。
(4)提交后点击头像可在【Settings】→【Gated Repositories】中查看申请模型列表和状态。
图中【PENDING】为“处理中”,稍微等待。一般都很快。
待状态更改为【ACCEPTED】即可重新执行下载命令成功获取。
2、被拒后怎么解决。
申请被驳回Your request to access this repo has been rejected by the repo's authors.
。
重新注册一个账号,地区选择America,严格按照1中操作一遍,该挂代理就挂代理。
博主重新注册后重新申请成功解决。