26.微调预训练模型

最新推荐文章于 2023-08-29 15:08:46 发布
最新推荐文章于 2023-08-29 15:08:46 发布
阅读量467 收藏 2
点赞数
分类专栏： tensorflow笔记 文章标签： tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/potato123232/article/details/120974323
版权

我们上一章令卷积基全部不进行训练，在这一章我们锁定卷积基的一部分，训练另一部分,在这个过程中我们使用上一章我们训练好的全连接层部分

目录

1  导入库

2  读取模型

3  提取卷积基

4  组建新模型

5  添加数据集

6  编译模型

7  训练模型

8  预测模型

1  导入库

2  读取模型

我们看一下读取的模型

  • 我们现在读取的模型之前训练的所有参数也同时读取了进来

3  提取卷积基

现在我们的整个模型都是可训练状态

然后我们提取出模型的卷积基础部分，之后可能会用到

我们看一下是否提取成功

我们现在仅仅想对最后三层做调整，所以我们设置除最后三层外的所有层为不可训练状态

我们现在再看一下卷积基的情况

我们只关注训练参数就可以了，发现比之前少了很多

4  组建新模型

我们首先创建一个新的模型对象，然后把修改过的卷积基加进来，之后再将训练好的模型中的全连接层加进来

我们看一下新模型的情况

5  添加数据集

与上一章添加数据集的代码相同，我们简单看一下

6  编译模型

此处我们由于要训练的参数非常多，所以我们减小学习速率，保证梯度下降

7  训练模型

首先我们定义之前训练的epochs数，之前我们训练了15个，之后我们定义这次要训练的epoch，我们这次训练10个，之后我们定义总的epoch数

  • inital_epochs这个值只要不大于总epoch写多少都行，只是给我们看的这样一个数值，与前面真实训练了多少轮无关

然后我们model.fit这样写

我们这样写显示的训练轮数就从16开始了

我们看一下两条曲线

  • acc

  • loss

效果比前15次训练更加好，拟合程度逐渐提高

之后保存模型

8  预测模型

预测时就跟之前一样了，我们简单看一下

Suyuoa
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
ViT pre-trained models 预训练模型下载
whwhjy的博客
10-18 9445
自己在网上找后缀为pth的VIT预训练模型花了很长时间，现在上传到百度网盘，提供给有需要的人。因为自己需要，我只下载了imagenet21k+imagenet2012_ViT-B_16-224和imagenet21k+imagenet2012_ViT-B_16两个base的，其他的请自行翻越去Google网盘中下载，指路：https://drive.google.com/drive/folders/1azgrD1P413pXLJME0PjRRU-Ez-4GWN-Shttps://drive.google.c
chatglm使用lora进行模型微调训练
06-24
chatglm使用lora进行模型微调训练，没有采用官方的方案，使用了另一种效果好的方案，对于显存特别友好，24g显存就能训练自己的垂直领域大模型训练了，效果还是非常的好的，适合自己机器不是很多的需要做实验的同学
用 Transformers微调ViT图像分类
weixin_41446370的博客
05-28 1755
批处理以字典列表的形式出现，因此您可以将它们解压缩+堆叠到批处理张量中。由于 将返回批处理字典，因此您可以稍后将输入到模型中。return {来自的准确度指标可以轻松用于将预测与标签进行比较。下面，您可以看到如何使用datasetscompute_metricsTrainer让我们加载预训练模型。我们将添加 init，以便模型创建具有正确单位数的分类头。我们还将在 Hub 微件中包含 和 映射以具有人类可读的标签（如果您选择 ）。快准备好训练了！
Vision Transformer (ViT)模型与代码实现（PyTorch）
weixin_44790306的博客
05-30 9091
文章目录摘要一. Visual Transformer (ViT)模型1.1 ViT模型整体结构1.2小结二. VIT 代码实现PyTorch版本 摘要 一. Visual Transformer (ViT)模型 论文源地址：https://arxiv.org/abs/2010.11929 参考博客地址：VIT详细讲解 1.1 ViT模型整体结构 ViT模型是基于Transformer的模型在CV视觉领域的开篇之作，本篇将尽可能简洁地介绍一下ViT模型的整体架构以及基本原理。ViT模型是基于Transfor
AI语音合成 VITS Fast Fine-tuning，半小时合成专属模型，部署训练使用讲解
Love丶伊卡洛斯
07-27 6459
功能，或者自建内网穿透。
多模态ViLT模型下游任务微调原理及代码
m0_56722835的博客
05-31 5106
前言： 最近准备搞图文问答VQA， 恰巧多模态任务包括了NLP以及CV领域的知识，由于以前做过的一些项目不知道放到哪了，找起来也很麻烦，这篇论文可以帮助我很好的梳理NLP和CV故事线，对此进行总结，以防自己忘记。代码比较粗糙准备在下一个版本进行改进。 为啥是这篇文章？ 由于本来是学NLP的，所以一开始就接触了有关模型预训练和微调的相关概念。在NLP的世界里，transformer到来之后，出现了Bert模型，这模型可了得，好像大部分任务都可以加载Bert的权重文件并进行微调来达到自己......
基于PyTorch的VITS-BigVGAN的tts中文模型，加入韵律预测模型
01-20
基于PyTorch的VITS-BigVGAN的tts中文模型，加入韵律预测模型。 本项目实现vits+BigVGAN端到端的中文TTS 模型，推理阶段加入中文韵律预测模型，实现的带韵律预测的中文TTS模型。 1.环境准备(Environment) Python 3.7 or higher. Pytorch 1.9.0, or any compatible version. NLTK 3.2, torch-struct 0.4, transformers 4.3.0, or compatible. pytokenizations 0.7.2 or compatible. 安装espeak库：apt-get install espeak 编译monotonic_align:
如何用vits训练模型
weixin_42588877的博客
02-11 2173
要用 Vitis AI 训练模型，需要以下步骤： 准备数据集：需要一个训练数据集和一个验证数据集。 选择模型：可以选择预训练模型或自定义模型。 配置训练环境：需要安装 Vitis AI，并配置好 CUDA 和 cuDNN。 定义训练任务：需要定义损失函数、优化器和评估指标。 训练模型：可以使用 Vitis AI 的训练工具进行训练。 评估模型：可以使用 Vitis AI 的评估工具对模...
基于阿里对象存储--Elasticsearch备份和回滚
donghaixiaolongwang的博客
11-29 596
链接：https://pan.baidu.com/s/1JvjMOIKooL5TRvDt-anJ3Q 提取码：d6ym 复制这段内容后打开百度网盘手机App，操作更方便哦--来自百度网盘超级会员V4的分享
基于VITS 快速微调的本地环境配置、本地训练以及本地推理的教程
cf2xh123的博客
03-08 4846
该教程能教会读者如何使用本地服务器使用VITS微调训练自己的想要的角色的声音并且本地推理，注意只能使用linux版本进行训练，但是推理可以在windows上完成。
基于中文 GPT2 预训练模型的文本分类微调.zip
最新发布
01-07
依赖环境 Python 3.10.6 torch 1.13.0 transformers 4.27.3 deepspeed 0.8.3
PyTorch加载预训练模型实例(pretrained)
09-18
今天小编就为大家分享一篇PyTorch加载预训练模型实例(pretrained)，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
在 TensorFlow 和 Keras 中微调预训练模型.docx
05-29
探讨利用预训练模型的其他选项，重点是微调。微调预训练模型是一种非常强大的训练技术，用于重新调整在 ImageNet 数据集上训练的模型，以用于自定义数据集。
基于CodeBert预训练模型，微调后直接对目标数据集进行测试.zip
01-07
我们使用的数据集来自 CodeSearchNet，我们按如下方式筛选数据集： 删除无法将代码解析为抽象语法树的示例。 删除文档 #tokens 为 或 >256 的示例 删除文档包含特殊标记的示例（例如<img ......删除文档不是英语的示例
VIT模型个人笔记
热门推荐
qq_45836365的博客
03-01 1万+
前言 VIT模型即vision transformer，其想法是将在NLP领域的基于自注意力机制transformer模型用于图像任务中，相比于图像任务中的传统的基于卷积神经网络模型，VIT模型在大数据集上有着比卷积网络更强的效果和更节约的成本。 transformer transformer模型 ...
colab训练VITS语音模型
JCY的博客
04-08 928
语音模型训练
16.模型保存与加载、finetune
老毛的博客
11-25 999
文章目录序列化与反序列化PyTorch中的序列化与反序列化模型保存与加载的两种方式模型断点续训练Transfer Learning & Model FinetunePyTorch中的Finetune 本课程来自深度之眼deepshare.net，部分截图来自课程视频。 序列化与反序列化 把模型从内存保存到硬盘上的过程也成为序列化与反序列化，在内存中，模型中的数据或者程序是一个个的对象，而在...
模型的保存加载、模型微调、GPU使用及Pytorch常见报错
深浅卡布星的博客
08-29 846
断点续训练技术就是当我们的模型训练的时间非常长，而训练到了中途出现了一些意外情况，比如断电了，当再次来电的时候，我们肯定是希望模型在中途的那个地方继续往下训练，这就需要我们在模型的训练过程中保存一些断点，这样发生意外之后，我们的模型可以从断点处继续训练而不是从头开始。而反序列化，就是将硬盘中存储的二进制的数，反序列化到内存当中，得到一个相应的对象，这样就可以再次使用这个模型了。所以在模型的训练过程当中， 以一定的间隔去保存我们的模型，保存断点，在断点里面不仅要保存模型的参数，还要保存优化器的参数。
vits官方gituhb项目--模型训练
zzfive的博客
10-24 6704
vits官方gituhb项目--模型训练
利用huggingface调用VIT
09-15
使用Hugging Face库调用Vision Transformer (ViT)模型可以分为以下几个步骤： 1. 安装必要的库和依赖项： ```python !pip install torch !pip install torchvision !pip install transformers ``` 2. 导入所需的库： ```python from PIL import Image import requests import torch from torchvision.transforms import ToTensor from transformers import ViTFeatureExtractor, ViTForImageClassification ``` 3. 加载预训练的ViT模型和特征提取器： ```python model_name = 'google/vit-base-patch16-224-in21k' feature_extractor = ViTFeatureExtractor.from_pretrained(model_name) model = ViTForImageClassification.from_pretrained(model_name) ``` 4. 定义图像预处理函数： ```python def preprocess_image(image): image = ToTensor()(image).unsqueeze(0) inputs = feature_extractor(images=image, return_tensors='pt') return inputs ``` 5. 加载图像并进行预测： ```python image_url = 'URL_OF_YOUR_IMAGE' image = Image.open(requests.get(image_url, stream=True).raw) inputs = preprocess_image(image) outputs = model(**inputs) predictions = torch.argmax(outputs.logits, dim=1) ``` 请确保将 "URL_OF_YOUR_IMAGE" 替换为您要预测的图像的实际URL。 这样，您就可以使用Hugging Face的transformers库调用Vision Transformer模型。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Suyuoa

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值