ElitesAI·动手学深度学习PyTorch版学习笔记-文本分类;数据增强;模型微调

宅家中看到Datawhale的学习号召,在大牛云集的群上找到了一个很佛系的小组,战战兢兢地开始了小白的深度学习之旅。感谢Datawhale、伯禹教育、和鲸科技,感谢课程制作者、组织者、各位助教以及其他志愿者!

2 数据增强
大规模数据集是深度神经网络的成功前提。数据增强(图像增广)技术通过对训练图像进行一系列随机改变来产生相似但又不同的训练样本,从而扩大训练数据集的规模。
常用的图像增广方式有随机裁剪、上下左右翻转、调整亮度、调整色彩等。本课程以图像处理包torchvision为例,讲解了这些常用图像增广方式的实现,以及这些方式的叠加。

3 模型微调
模型微调是在目标数据集上训练目标模型,从头训练输出层,而其余层的参数都是基于源模型的参数微调得到的。它是一种常用的迁移学习的技术, 可以将源数据(预训练模型用来训练的数据集)上学到的知识迁移到目标数据集。当目标数据集远小于源数据集时,微调有助于提升模型的泛化能力。
本课程以热狗识别为例子,使用一个含有数千张图像的小数据集,使用微调后的模型来进行识别。作为对比,同时训练了一个未经微调的模型。可以看出,经过微调的模型,识别准确率可以达到90%以上,而未经微调的模型,准确率只能勉强达到80%。通过实例可以看出,模型微调能够显著提高小数据集的图片识别准确率。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值