Hugging face学习笔记

最新推荐文章于 2024-10-09 20:41:04 发布
最新推荐文章于 2024-10-09 20:41:04 发布
阅读量705 收藏 10
点赞数 14
文章标签： 学习 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_56744512/article/details/135674183
版权

关于使用pipeline，方便，就是task参数有点难记，可以参考下面的文档

https://huggingface.co/docs/transformers/v4.36.1/zh/quicktour

作为个人学习《hugging face自然语言处理详解》一书的笔记

一.准备数据集

1.加载编码工具

2.准备数据集

准备好数据集和编码工具后，要用到dataset.map和dataset.filter函数，dataset.map函数用于给数据编码，filter进行进一步的处理，过滤掉一些无法输入模型的样本。要向这两个函数里面输入构造的函数。

二.定义模型与训练工具

1.加载预训练模型

2.定义评价函数 compute_metrics()根据不同任务自行定义

3.定义训练超参数 TrainingArguments

4.定义训练器 Trainer

数据整理函数

三.训练和测试

1.trainer.evaluate

2.trainer.train

m0_56744512
关注
【Transformer-Hugging Face手册 07/10】 微调预训练模型
gongdiwudu的专栏
02-07 2410
使用预训练模型有显着的好处。它可以降低计算成本和碳足迹，并允许您使用最先进的模型，而无需从头开始训练。 🤗 Transformers 提供了针对各种任务的数千个预训练模型的访问权限。当您使用预训练模型时，您可以在特定于您的任务的数据集上对其进行训练。这被称为微调，是一种非常强大的训练技术。
Hugging Face使用笔记
人无远虑，必有近忧
07-09 1817
Hugging Face Hub和 Github 类似，都是Hub(社区)。Hugging Face可以说的上是机器学习界的Github。hugging face在NLP领域最出名，其提供的模型大多都是基于Transformer的。
hugging face笔记：PEFT
qq_40206371的博客
05-21 982
r=64,：指定 LoRA 层的缩放因子。：设置在 LoRA 层中使用的 dropout 比率，以避免过拟合。r=64：设置每个 LoRA 层的秩，即低秩矩阵的维度。：指定不在 LoRA 层中使用偏置项。：设定这个 LoRA 配置是为了因果语言模型任务。
MindSearch 部署到Github Codespace 和 Hugging Face Space（学习笔记）
weixin_49463617的博客
09-01 890
随着硅基流动提供了免费的 InternLM2.5-7B-Chat 服务（免费的 InternLM2.5-7B-Chat 真的很香），MindSearch 的部署与使用也就迎来了纯 CPU 版本，进一步降低了部署门槛。在最后，将 /root/mindsearch/mindsearch_deploy 目录下的文件（使用 git）提交到 HuggingFace Space 即可完成部署了。现在codespace就是本地仓库，huggingface space是远程仓库，接下来使用方法就和常规的git一样了。
微调Hugging Face中图像分类模型
热门推荐
qq_20144897的博客
06-15 1万+
在kaggle平台上使用P100 GPU微调Hugging Face中图像分类模型vit-base-patch16-224
如何使用Hugging Face微调大语言模型（LLMs）
python1234_的博客
08-29 1234
而且无需进行额外的训练。但是，如果你想为你的应用定制模型，可能需要在你的数据集上对模型进行微调，以获得比直接使用或训练更小型模型更高质量的结果。本文将介绍如何使用Hugging Face的。
[LLM]Hugging Face 的 Autotrain-Advanced 探索
摩登都市天空---专栏
07-03 878
AutoTrain Advanced，这是一款无代码工具，专门设计用于让用户无需编写一行代码即可创建、微调和部署自己的 AI 模型。只需上传数据即可训练自定义机器学习模型。AutoTrain 将自动为你的数据找到最佳模型。它不仅可以帮助机器学习工程师，甚至可以帮助非开发人员轻松训练最先进的 ML 模型。只需要简单几步即可快速完成模型的微调、训练、推理和部署。AutoTrain 是一种自动训练和部署最先进的机器学习模型的方法，与 Hugging Face 生态系统无缝集成。
MindSearch 部署的到 Hugging Face Space
GYX67的博客
08-23 732
和相比区别是把internstudio换成了github codespace。随着硅基流动提供了免费的 InternLM2.5-7B-Chat 服务（免费的 InternLM2.5-7B-Chat 真的很香），MindSearch 的部署与使用也就迎来了纯 CPU 版本，进一步降低了部署门槛。那就让我们来一起看看如何使用硅基流动的 API 来部署 MindSearch 吧。
huggingface之Transformers学习笔记
maweifeng1111的博客
04-22 225
AutoProcessor 始终有效的自动选择适用于您使用的模型的正确class，无论您使用的是Tokenizer、ImageProcessor、Feature extractor还是Processor。1）对于文本，使用分词器(Tokenizer)将文本转换为一系列标记(tokens)，并创建tokens的数字表示，将它们组合成张量。4）多模态输入，使用处理器(Processor)结合了Tokenizer和ImageProcessor或Processor。
notebooks:使用Hugging Face库的笔记本:hugging_face:
03-21
标题中的“notebooks:使用Hugging Face库的笔记本:hugging_face:”表明这是一个关于使用Hugging Face库在Jupyter Notebook环境中进行...通过这些教程，用户可以学习到如何高效地利用Hugging Face库提升自己的NLP项目。
Hugging-Face:拥抱脸笔记本
03-17
在IT领域，特别是自然语言处理（NLP）和机器学习（ML）的圈子中，"Hugging Face"是一个非常知名的平台。它提供了一个强大的开源社区，聚集了各种预训练模型、工具库和资源，用于构建和部署AI解决方案，尤其是文本...
10.2学习
2401_87363162的博客
10-02 1183
​ Spring AOP就是基于动态代理的，如果要代理的对象，实现了某个接⼝，那么Spring AOP会使⽤JDKProxy，去创建代理对象，⽽对于没有实现接⼝的对象，就⽆法使⽤ JDK Proxy 去进⾏代理了，这时候Spring AOP会使⽤基于asm框架字节流的Cglib动态代理 ，这时候Spring AOP会使⽤ Cglib ⽣成⼀个被代理对象的⼦类来作为代理。每个线程中都有一个自己的ThreadLocalMap类对象，可以将线程自己的对象保持到其中，各管各的，线程可以正确的访问到自己的对象。
jmeter学习（7）beanshell
daxiashangxian的博客
10-06 383
打开日志选项，beanshell的log可以在日志中查看log.info("deviceId"）举例：获取返回数据中的字段。
关于懒惰学习与渴求学习的一份介绍
2301_79096986的博客
10-04 1212
在这篇文章中，我将介绍些懒惰学习与渴求学习的算法例子，会介绍其概念、优缺点以及其python的运用。
Go基础学习10-原子并发包sync.atomic的使用：CSA、Swap、atomic.Value......
FLJS_T的博客
10-02 1141
原子操作sync.atomic以及原子变量atomic.Value详细介绍。go中原生的支持原子操作的函数支持的变量类型int32、int64、uint32、uint64、uintptr，以及unsafe包中的Pointer。对于上述原子操作类型中的每一个，可以支持的数据类型有：==int32、int64、uint32、uint64、uintptr，以及unsafe包中的Pointer。但是否sync.Mutex变量能够保证操作的原子性。atomic.Value类型是开箱即用的，我们声明一个该类型的变量
Spring（学习笔记）
m0_74728220的博客
10-02 1130
context:annotation-config/>是 Spring 配置文件中的一个标签，用于开启注解配置功能。这个标签可以让 Spring 容器识别并处理使用注解定义的 bean。例如，可以使用 @Autowired 注解自动装配 bean，或者使用 @Component 注解将类标记为 bean 等。为什么加载上下文的时候，被包含的Bean它的构造函数的代码会执行呀？好像是很多代码都执行了！！！没有无参构造，有有参构造会报错！也就是说必须要有无参构造！这是为什么呀！
【YOLO学习】YOLOv4详解
最新发布
m0_62881487的博客
10-09 523
3. DIOU（Distance IOU）损失：DIOU 考虑到 GIOU 的缺点，也是增加了 C 检测框，将真实框和预测框都包含了进来，但是 DIOU 计算的不是框之间的交并，而是计算的每个检测框之间的欧氏距离，这样就可以解决 GIOU 包含出现的问题。concat：将两个特征图在通道数方向叠加在一起，原特征图信息完全保留下来，再对原特征图增加一些我们认为是较好的特征图，丰富了特征图的多样性，是在空间上对原特征图的增强，这样在下一次卷积的过程中我们能得到更好的特征图。
项目-坦克大战学习笔记-控制玩家坦克不超出地图范围
2401_84659046的博客
10-02 613
由于坦克自身有占用像素格，而坦克生成位置是以左上角x,y的点开始生成，所有坦克向下和向右的实际碰撞位置应该是坦克生成位置加上坦自身宽或高，而坦克有四个方向就有4种对象碰撞可能，所以我们在物体对象的父类中声明存储物体宽和高的int类型。if (Fangxiang == fangxiang.Up)//检测坦克目前朝向。//设置父类继承过来的图片对象高。//设置父类继承过来的图片对象宽。}//放置图片对象的高。}//重写方向构造函数，调用传入的方向信息设置图片的宽高信息。
Hugging Face Transformers迁移学习
10-15
在Hugging Face Transformers中，可以通过加载预训练模型并在其基础上微调来实现迁移学习。 具体来说，可以通过以下步骤进行迁移学习： 1. 加载预训练模型：使用Hugging Face Transformers中的`AutoModel`和`...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值