多模态大模型-Hugging Face国内下载问题

雾都派大星

已于 2024-02-05 09:29:38 修改

阅读量758

点赞数 3

文章标签：人工智能

于 2024-02-04 09:52:50 首次发布

本文链接：https://blog.csdn.net/qq_25160191/article/details/136020293

版权

本文介绍了如何安装和验证Huggingface官方的CLI，重点讲解了如何在安装时设置国内镜像，以及如何通过`--local-dir-use-symlinksFalse`参数管理本地模型存储，以方便复制模型文件。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

首先感谢镜像作者以及作者的文章，读者可先看以下链接内容
https://hf-mirror.com/

1.安装Hugging face 官方的CLI
官方说明：
https://huggingface.co/docs/huggingface_hub/main/en/guides/cli

安装CLI

pip install -U "huggingface_hub[cli]"

验证CLI

huggingface-cli --help

使用示例：

设置国内镜像环境
export HF_ENDPOINT=https://hf-mirror.com
huggingface-cli download --resume-download --local-dir-use-symlinks False bigscience/bloom-560m --local-dir bloom-560m

值得注意的是，有个–local-dir-use-symlinks False 参数可选，因为huggingface的工具链默认会使用符号链接来存储下载的文件，导致–local-dir指定的目录中都是一些“链接文件”，真实模型则存储在~/.cache/huggingface下，如果不喜欢这个可以用 --local-dir-use-symlinks False取消这个逻辑
我个人喜欢取消这个逻辑，可以随意Copy模型文件。