【人工智能】Transformers之Pipeline（十五）：总结（summarization）

置顶 已于 2024-09-04 20:39:42 修改
阅读量1.7k 收藏 99
点赞数 108
分类专栏： Pipeline 文章标签： 人工智能 深度学习 机器学习 自然语言处理 transformer bert kubernetes
于 2024-09-04 20:39:08 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_48007632/article/details/141900321
版权
#国产游戏技术能否引领全球？#

​​​​​​​

目录

一、引言 

二、总结（summarization）

2.1 概述

2.2 BERT与GPT的结合—BART

2.3 应用场景​​​​​​​

2.4 pipeline参数

2.4.1 pipeline对象实例化参数

2.4.2 pipeline对象使用参数 ​​​​​​​

2.4.3 pipeline返回参数 ​​​​​​​​​​​​​​

2.5 pipeline实战

2.6 模型排名

三、总结

一、引言 

 pipeline（管道）是huggingface transformers库中一种极简方式使用大模型推理的抽象，将所有大模型分为音频（Audio）、计算机视觉（Computer vision）、自然语言处理（NLP）、多模态（Multimodal）等4大类，28小类任务（tasks）。共计覆盖32万个模型

今天介绍NLP自然语言处理的第三篇：总结（summarization），在huggingface库内有2000个总结（summarization）模型。

二、总结（summarization）

2.1 概述

摘要是在保留重要信息的同时生成文档的较短版本的任务。模型可以从原始输入中提取文本，同时可以生成全新的文本！

2.2 BERT与GPT的结合—BART

BART 是一个由facebook研发的Transformer 编码器-编码器 (seq2seq) 模型，具有双向 (类似 BERT) 编码器和自回归 (类似 GPT) 解码器。BART 通过 (1) 使用任意噪声函数破坏文本，以及 (2) 学习模型来重建原始文本进行预训练。
BART 在针对文本生成（例如摘要、翻译）进行微调时特别有效，但它也适用于理解任务（例如文本分类、问答）。这个特定的检查点已在 CNN Daily Mail（一个庞大的文本摘要对集合）上进行了微调。

2.3 应用场景​​​​​​​

  • 自动文摘：使用自然语言处理（NLP）技术，从长篇文章中提取出最重要的段落或句子。
  • 文本分类：根据文本内容对其进行分类，如新闻、博客、产品描述等。
  • 信息检索：通过总结来帮助用户快速找到相关信息。
  • 智能问答：使用总结技术来生成问题的答案。
  • 文本分析：从大量文本数据中提取出有价值的信息和知识。

2.4 pipeline参数

2.4.1 pipeline对象实例化参数

  • model（PreTrainedModel或TFPreTrainedModel）— 管道将使用其进行预测的模型。 对于 PyTorch，这需要从PreTrainedModel继承；对于 TensorFlow，这需要从TFPreTrainedModel继承。
  • tokenizer ( PreTrainedTokenizer ) — 管道将使用 tokenizer 来为模型编码数据。此对象继承自 PreTrainedTokenizer。
  • modelcard（str或ModelCard，可选）— 属于此管道模型的模型卡。
  • framework（str，可选）— 要使用的框架，"pt"适用于 PyTorch 或"tf"TensorFlow。必须安装指定的框架。
  • task（str，默认为""）— 管道的任务标识符。
  • num_workers（int，可选，默认为 8）— 当管道将使用DataLoader（传递数据集时，在 Pytorch 模型的 GPU 上）时，要使用的工作者数量。
  • batch_size（int，可选，默认为 1）— 当管道将使用DataLoader（传递数据集时，在 Pytorch 模型的 GPU 上）时，要使用的批次的大小，对于推理来说，这并不总是有益的，请阅读使用管道进行批处理。
  • args_parser（ArgumentHandler，可选） - 引用负责解析提供的管道参数的对象。
  • device（int，可选，默认为 -1）— CPU/GPU 支持的设备序号。将其设置为 -1 将利用 CPU，设置为正数将在关联的 CUDA 设备 ID 上运行模型。您可以传递本机torch.device或str太
  • torch_dtype（str或torch.dtype，可选） - 直接发送model_kwargs（只是一种更简单的快捷方式）以使用此模型的可用精度（torch.float16，，torch.bfloat16...或"auto"）
  • binary_output（bool，可选，默认为False）——标志指示管道的输出是否应以序列化格式（即 pickle）或原始输出数据（例如文本）进行。

2.4.2 pipeline对象使用参数 ​​​​​​​

  • documents ( str或List[str]) — 要总结的一篇或多篇文章（或一个文章列表）。
  • return_text（bool，可选，默认为True）— 是否在输出中包含解码后的文本
  • return_tensors（bool，可选，默认为False）— 是否在输出中包含预测张量（作为标记索引）。
  • clean_up_tokenization_spaces（bool，可选，默认为False）——是否清理文本输出中可能出现的额外空格。generate_kwargs——传递给模型的生成方法的附加关键字参数（请参阅此处与您的框架相对应的生成方法）。

2.4.3 pipeline返回参数 ​​​​​​​​​​​​​​

  • summary_text（str，出现时间return_text=True）——相应输入的摘要。
  • summary_token_ids（torch.Tensor或tf.Tensor，存在时return_tensors=True）—摘要的令牌 ID。

2.5 pipeline实战

采用pipeline，使用facebook的bart的微调版本bart-large-cnn进行摘要总结。

import os
os.environ["HF_ENDPOINT"] = "https://hf-mirror.com"
os.environ["CUDA_VISIBLE_DEVICES"] = "2"

from transformers import pipeline

summarizer = pipeline("summarization", model="facebook/bart-large-cnn")

ARTICLE = """New York (CNN)When Liana Barrientos was 23 years old, she got married in Westchester County, New York.
A year later, she got married again in Westchester County, but to a different man and without divorcing her first husband.
Only 18 days after that marriage, she got hitched yet again. Then, Barrientos declared "I do" five more times, sometimes only within two weeks of each other.
In 2010, she married once more, this time in the Bronx. In an application for a marriage license, she stated it was her "first and only" marriage.
Barrientos, now 39, is facing two criminal counts of "offering a false instrument for filing in the first degree," referring to her false statements on the
2010 marriage license application, according to court documents.
Prosecutors said the marriages were part of an immigration scam.
On Friday, she pleaded not guilty at State Supreme Court in the Bronx, according to her attorney, Christopher Wright, who declined to comment further.
After leaving court, Barrientos was arrested and charged with theft of service and criminal trespass for allegedly sneaking into the New York subway through an emergency exit, said Detective
Annette Markowski, a police spokeswoman. In total, Barrientos has been married 10 times, with nine of her marriages occurring between 1999 and 2002.
All occurred either in Westchester County, Long Island, New Jersey or the Bronx. She is believed to still be married to four men, and at one time, she was married to eight men at once, prosecutors say.
Prosecutors said the immigration scam involved some of her husbands, who filed for permanent residence status shortly after the marriages.
Any divorces happened only after such filings were approved. It was unclear whether any of the men will be prosecuted.
The case was referred to the Bronx District Attorney\'s Office by Immigration and Customs Enforcement and the Department of Homeland Security\'s
Investigation Division. Seven of the men are from so-called "red-flagged" countries, including Egypt, Turkey, Georgia, Pakistan and Mali.
Her eighth husband, Rashid Rajput, was deported in 2006 to his native Pakistan after an investigation by the Joint Terrorism Task Force.
If convicted, Barrientos faces up to four years in prison.  Her next court appearance is scheduled for May 18.
"""
print(summarizer(ARTICLE, max_length=130, min_length=30, do_sample=False))

执行后，自动下载模型文件并进行识别：

2.6 模型排名

在huggingface上，我们将总结（summarization）模型按下载量从高到低排序，总计2000个模型，排名第一是我们上述介绍的bart-large-cnn。

三、总结

本文对transformers之pipeline的总结（summarization）从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍，读者可以基于pipeline使用文中的2行代码极简的使用NLP中的总结（summarization）模型。

期待您的3连+关注，如何还有时间，欢迎阅读我的其他文章：

《Transformers-Pipeline概述》

【人工智能】Transformers之Pipeline（概述）：30w+大模型极简应用

《Transformers-Pipeline 第一章：音频（Audio）篇》

【人工智能】Transformers之Pipeline（一）：音频分类（audio-classification）

【人工智能】Transformers之Pipeline（二）：自动语音识别（automatic-speech-recognition）

【人工智能】Transformers之Pipeline（三）：文本转音频（text-to-audio/text-to-speech）

【人工智能】Transformers之Pipeline（四）：零样本音频分类（zero-shot-audio-classification）

《Transformers-Pipeline 第二章：计算机视觉（CV）篇》

【人工智能】Transformers之Pipeline（五）：深度估计（depth-estimation）

【人工智能】Transformers之Pipeline（六）：图像分类（image-classification）

【人工智能】Transformers之Pipeline（七）：图像分割（image-segmentation）

【人工智能】Transformers之Pipeline（八）：图生图（image-to-image）

【人工智能】Transformers之Pipeline（九）：物体检测（object-detection）

【人工智能】Transformers之Pipeline（十）：视频分类（video-classification）

【人工智能】Transformers之Pipeline（十一）：零样本图片分类（zero-shot-image-classification）

【人工智能】Transformers之Pipeline（十二）：零样本物体检测（zero-shot-object-detection）​​​​​​​

《Transformers-Pipeline 第三章：自然语言处理（NLP）篇》

【人工智能】Transformers之Pipeline（十三）：填充蒙版（fill-mask）​​​​​​​

【人工智能】Transformers之Pipeline（十四）：问答（question-answering）

【人工智能】Transformers之Pipeline（十五）：总结（summarization）

【人工智能】Transformers之Pipeline（十六）：表格问答（table-question-answering）

【人工智能】Transformers之Pipeline（十七）：文本分类（text-classification）

【人工智能】Transformers之Pipeline（十八）：文本生成（text-generation）

【人工智能】Transformers之Pipeline（十九）：文生文（text2text-generation）

【人工智能】Transformers之Pipeline（二十）：令牌分类（token-classification）

【人工智能】Transformers之Pipeline（二十一）：翻译（translation）

【人工智能】Transformers之Pipeline（二十二）：零样本文本分类（zero-shot-classification）

《Transformers-Pipeline 第四章：多模态（Multimodal）篇》

【人工智能】Transformers之Pipeline（二十三）：文档问答（document-question-answering）

【人工智能】Transformers之Pipeline（二十四）：特征抽取（feature-extraction）

【人工智能】Transformers之Pipeline（二十五）：图片特征抽取（image-feature-extraction）

【人工智能】Transformers之Pipeline（二十六）：图片转文本（image-to-text）

【人工智能】Transformers之Pipeline（二十七）：掩码生成（mask-generation）

【人工智能】Transformers之Pipeline（二十八）：视觉问答（visual-question-answering）

LDG_AGI
关注
  • 108
    点赞
  • 踩
  • 99
    收藏
    觉得还不错? 一键收藏
  • 88
    评论
专栏目录
第六行：Text Summarization with Pretrained Encoders
程序员光剑
08-24 66
作者：禅与计算机程序设计艺术 1.简介 随着近几年的技术革命，自动化手段的应用越来越多，尤其是在生产领域。例如，在零售领域，使用机器学习模型可以提升效率，减少工作量；在制造领域，通过预测停产时间，可以节省时间，提高生产质量。但是这些技术往往基于某些领域的专业知识，并依赖于较为精确的统计模型，因此对于许多
【人工智能】Transformers 快速上手: 为 Jax、PyTorch 和 TensorFlow 打造的先进的自然语言处理
热门推荐
程序员光剑
05-23 2万+
Add space around English words and numbers when they appear between Chinese characters. E.g., 共 100 多种语言;使用 transformers 库。- Use square quotes, e.g.,「引用」DictionaryHugging Face: 抱抱脸token: 词符（并用括号标注原英文）tokenize: 词符化（并用括号标注原英文）
【人工智能】Transformers之Pipeline（七）：图像分割（image-segmentation）
人工智能领域博客
08-02 3650
本文对transformers之pipeline的图像分割（image-segmentation）从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍，读者可以基于pipeline使用文中的2行代码极简的使用计算机视觉中的图像分割（image-segmentation）模型。
【人工智能】Transformers之Pipeline（五）：深度估计（depth-estimation）
人工智能领域博客
07-24 4044
本文对transformers之pipeline的深度估计（depth-estimation）从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍，读者可以基于pipeline使用文中的代码极简的使用计算机视觉中的深度估计（depth-estimation）模型，应用于3D建模、自动驾驶距离测算等。
【人工智能】Transformers之Pipeline（概述）：30w+大模型极简应用
人工智能领域博客
07-10 9334
本文为transformers之pipeline专栏的第0篇，后面会以每个task为一篇，共计讲述28+个tasks的用法，通过28个tasks的pipeline使用学习，可以掌握语音、计算机视觉、自然语言处理、多模态乃至强化学习等30w+个huggingface上的开源大模型。让你成为大模型领域的专家！
【人工智能】Transformers之Pipeline（十）：视频分类（video-classification）
人工智能领域博客
08-15 2572
本文对transformers之pipeline的视频分类（video-classification）从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍，读者可以基于pipeline使用代码极简的代码部署计算机视觉中的视频分类（video-classification）模型，应用于视频判别场景。
快速使用transformers的pipeline实现各种深度学习任务
CDBmax的博客
03-08 1227
创建文本摘要生成的pipeline# 定义需要生成摘要的文本text = """"""# 使用summarizer生成摘要# 打印生成的摘要导入pipeline函数：这一步从库中导入pipeline函数。提供了许多预训练模型，支持各种自然语言处理任务。创建文本摘要生成的pipeline：通过调用pipeline函数并指定任务为来创建一个文本摘要生成的pipeline。这一步会自动加载一个预训练的摘要生成模型及其分词器。定义需要生成摘要的文本。
Transformers库pipeline API的使用
weixin_46728800的博客
12-10 1813
#删除线格式 删除线格式 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章，了解一下Markdown的基本语法知识。 新的改变 我们对Markdown编辑器进行了一些功能拓展与语法支持，除了标准的Markdown编辑器功能，我们增加了如下几点新功能，帮助你用它写博客： 全新的界面设计 ，将会带来全新的写作体验； 在创作中心设置你喜爱的代码高亮样式，Markdown 将代码片显示选择的高亮样式 进行展示； 增加了 图片拖拽
HuggingFace：pipeline为特定NLP任务直接调用
m0_50896529的博客
12-08 1914
1. English Sentiment Analysis 默认情况下，pipeline选择一个特定的预训练模型，该模型已为英语情绪分析进行了微调。创建分类器对象时，将下载并缓存模型。如果重新运行该命令，则将使用缓存的模型，无需再次下载该模型。 from transformers import pipeline classifier = pipeline("sentiment-analysis") classifier("I've been waiting for a HuggingFace course
如何开发主播美颜工具？直播美颜SDK的实现方案
q1031691172的博客
09-04 885
由于直播场景对实时性要求极高，因此性能优化是美颜SDK开发的关键。开发者可以通过减少计算复杂度、优化算法效率、利用硬件加速等手段来提升性能。同时，还需在不同设备和操作系统上进行兼容性测试，确保SDK的广泛适用性。
YOLOV5入门教程-yolov5s.yaml文件
vimpirespider的博客
09-04 1385
这段backbone共有9个层次，每个层次逐步提取图像特征并下采样。最后输出的特征图尺寸为40x40，通道数为1024。这个特征图包含了从输入图像中提取到的高层次特征，准备在后续的网络层中用于目标检测。
智能化升级：AI在客服知识库中的应用
LookLook同学的博客
09-03 1684
探讨AI在客服知识库中的应用，提升效率与用户体验。
Transformer
m0_65325092的博客
09-04 543
是谷歌2017年发表在NeurlIPS上的文章中提出的模型。模型仅基于注意力机制，能够有效捕捉输入序列中的长距离依赖关系，完全不涉及循环和卷积，解决了传统的序列到序列(Seq2Seq)模型处理可变长序列时存在的问题(RNN处理长序列时易出现梯度消失或爆炸，不能并行计算，难以捕捉长距离依赖关系。CNN卷积操作的输入需要具有固定尺寸，处理可变长序列时为使序列长度相同需要填充短序列因而效率较低)。实验表明其在质量上更优越，更易于并行化，训练时间也大大减少。
Behind the Code：与 Rakic 和 Todorovic 对话 OriginTrail 如何实现 AI 去中心化
CryptoBuffett的博客
09-05 1223
它可以以去中心化的方式访问不同来源的知识资产，同时维护数据所有权和知识产权，并且提供可验证性，从而精确确定某个知识资产的来源，并将其作为 AI 的输入。迄今为止，平行链的运行非常顺利，没有出现停机现象，拥有独立的治理结构和所有可用的 Pallet，这是 Polkadot 从一开始就做对的地方。另一方面是 “知识网络” 的概念，这一概念最早由万维网的创始人蒂姆·伯纳斯·李提出，他也是 “Web 3.0” 这一术语的最初提出者，该术语最初被称为 “语义网”，如今则体现在知识图谱的概念中。
Azure和Transformers的详细解释
全栈工程师
09-03 1317
Transformers 通过引入注意力机制，以并行化和捕捉长距离依赖的优势克服了传统序列模型的局限，迅速成为自然语言处理领域的主流选择。通过不断的迭代和创新，Transformers 在文本、图像、音频等多模态处理任务中展现出巨大的潜力和应用前景。
【自然语言处理】第二章现代语言学基础
最新发布
Ausgelebt的博客
09-07 465
从语言使用时的外部环境来看句子在交际中实际传递的信息、发挥的功能，就是调用语用系统对句子的语义做出更全面的解释。语用系统的本质是基于经验的逻辑推理。
OPenCV结构分析与形状描述符（2）计算轮廓周长的函数arcLength()的使用
jndingxin的专栏
09-04 498
计算轮廓的周长或曲线的长度。
图神经网络（2）预备知识
m0_63860007的博客
09-07 429
对于接触过数据结构和算法的读者来说，图并不是一个陌生的概念。如果图里的边不仅表示连接关系，而且具有表示连接强弱的权重，则这个。从图的某个顶点出发，沿着图中的边访问每个顶点且只访问一次，这叫作。在图上模拟一个热扩散的过程，φ(t)是图上每个顶点的热量分布，热量传播。如果一个图的每个边都有一个方向，则称这个图为有向图。图的同构指的是两个图完全等价。很显然，这个大于等于0的，所以L是半正定的。拉普拉斯矩阵的另一个重要作用是作为图上的离散拉普拉斯算子。然地，我们把拉普拉斯算子的特征函数换成拉普拉斯矩阵的特征。
from transformers import pipeline
07-22
这段代码是使用`transformers`库中的`pipeline`模块来创建一个NLP任务的流水线。`transformers`是一个流行的自然语言处理（NLP）库，提供了各种预训练的模型和工具，包括BERT、GPT、RoBERTa等。 在这段代码中，`pipeline`模块用于创建一个可以直接使用的NLP任务流水线。通过使用不同的任务标识符，可以创建不同类型的流水线。例如，可以使用`"sentiment-analysis"`标识符创建一个情感分析任务的流水线，使用`"text-generation"`标识符创建一个文本生成任务的流水线等。 在创建流水线后，可以直接调用该流水线对象，并传入待处理的文本或其他输入数据。流水线将自动加载适当的模型和配置，并进行相应的处理。例如，对于情感分析任务，流水线将返回一个表示情感类别的结果。 以下是一个示例： ```python from transformers import pipeline # 创建情感分析任务的流水线 nlp_pipeline = pipeline("sentiment-analysis") # 对文本进行情感分析 result = nlp_pipeline("这部电影真棒！我非常喜欢它。") print(result) ``` 输出结果可能类似于： ``` [{'label': 'POSITIVE', 'score': 0.987}] ``` 这段代码演示了如何使用`transformers`库中的`pipeline`模块进行NLP任务的快速处理。具体使用哪个任务标识符取决于你想要解决的具体问题。
评论 88
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值