本地加载hugging face模型:Bert

找了个hf的镜像站,把config.json和pytorch_model.bin两个文件进行下载下来,模型文件uncased_L-12_H-768_A-12.zip下载下来先。

解压模型文件压缩包,把前面下载的两个文件也放进去,总共6个文件。这个文件夹就是代码

tokenizer = BertTokenizer.from_pretrained(BERT_PATH)

BERT_PATH这里对应的文件路径。

Some weights of BertForSequenceClassification were not initialized from the model checkpoint at bert-base-uncased and are newly initialized: ['classifier.bias', 'classifier.weight']

pip install tensorflow

from transformers import BertModel, BertTokenizer

model_name = 'bert-base-uncased'
tokenizer = BertTokenizer.from_pretrained(model_name)
model = BertModel.from_pretrained(model_name, from_tf=True)

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Hugging Face 是一家知名的自然语言处理(NLP)技术公司,以其开源的深度学习库 `transformers` 而闻名。`transformers` 提供了预训练的模型和工具,使得开发人员能够轻松地使用最先进的 NLP 模型,如 BERT、GPT-2、BERT等,来进行文本分类、问答、生成、翻译等各种任务。 1. **模型库**:Hugging Face Model Hub 是一个仓库,其中包含了大量经过训练的模型,覆盖多种语言和应用场景,用户可以直接加载这些模型进行微调或推理。 2. **PreTrained Models**:`transformers` 中的核心是预训练模型,它们是在大规模文本数据上预先训练好的,可以作为基础模型进行迁移学习,然后根据特定任务进行调整。 3. **Tokenizer**:除了模型Hugging Face 还提供了用于将文本编码成模型可以理解的格式(如 token 或 sequence)的工具,如 BERTTokenizer 和 WhitespaceTokenizer。 4. **Training & Fine-tuning**:库中提供了工具来帮助开发者训练自己的模型,或者在现有模型基础上进行微调以适应特定任务。 5. **🤗 CLI & Library**:Hugging Face 还有一个命令行工具 `huggingface-cli` 和 Python 库,简化了模型的使用流程,包括下载、运行和部署模型。 相关问题: 1. Hugging Face 的主要用途是什么? 2. `transformers` 库中有哪些常见的预训练模型? 3. 如何使用 Hugging Face 的工具进行模型微调? 4. Hugging Face Model Hub 对模型的版本控制是如何进行的? 5. Hugging Face 的库支持哪些主流的深度学习框架?
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值