Hugging Face Exporters 开源项目教程

左唯妃Stan

于 2024-08-27 09:42:30 发布

阅读量451

点赞数 5

本文链接：https://blog.csdn.net/gitblog_00511/article/details/141592768

版权

Hugging Face Exporters 开源项目教程

exportersExport Hugging Face models to Core ML and TensorFlow Lite项目地址:https://gitcode.com/gh_mirrors/ex/exporters

项目介绍

Hugging Face Exporters 是一个由 Hugging Face 团队开发的开源项目，旨在帮助用户将机器学习模型从 Hugging Face 模型库导出到不同的格式和平台。该项目支持多种导出格式，包括 ONNX、TensorFlow SavedModel 等，使得模型可以在不同的深度学习框架和部署环境中使用。

项目快速启动

安装依赖

首先，确保你已经安装了 Python 和 pip。然后，通过以下命令安装 Hugging Face Exporters：

pip install exporters

导出模型

以下是一个简单的示例，展示如何将一个 Hugging Face 模型导出为 ONNX 格式：

from exporters import export_onnx
from transformers import AutoModel, AutoTokenizer

# 加载预训练模型和分词器
model_name = "bert-base-uncased"
model = AutoModel.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)

# 导出模型为 ONNX 格式
export_onnx(model, tokenizer, "bert-base-uncased.onnx")

应用案例和最佳实践

案例一：文本分类

在文本分类任务中，可以使用 Hugging Face Exporters 将预训练的 BERT 模型导出为 ONNX 格式，以便在生产环境中进行快速推理。以下是一个示例代码：

from exporters import export_onnx
from transformers import AutoModelForSequenceClassification, AutoTokenizer

# 加载预训练的文本分类模型和分词器
model_name = "distilbert-base-uncased-finetuned-sst-2-english"
model = AutoModelForSequenceClassification.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)

# 导出模型为 ONNX 格式
export_onnx(model, tokenizer, "distilbert-sst-2.onnx")

案例二：命名实体识别

在命名实体识别任务中，可以将预训练的 BERT 模型导出为 ONNX 格式，以便在边缘设备上进行实时推理。以下是一个示例代码：

from exporters import export_onnx
from transformers import AutoModelForTokenClassification, AutoTokenizer

# 加载预训练的命名实体识别模型和分词器
model_name = "dbmdz/bert-large-cased-finetuned-conll03-english"
model = AutoModelForTokenClassification.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)

# 导出模型为 ONNX 格式
export_onnx(model, tokenizer, "bert-ner.onnx")