colab+huggingface微调模型

于 2025-03-05 20:15:00 发布
阅读量518 收藏 5
点赞数 10
分类专栏： python AI 文章标签： python 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012107402/article/details/145971397
版权

colab+huggingface微调模型

该方式需要科学上网，请自行解决

官方文档

https://colab.research.google.com/
https://huggingface.co/

算力说明

  1. 免费使用到T4-GPU/16G显存，最长使用4小时。
  2. Colab Pro，$77.8/月/100个计算单元，最长使用12小时。根据选择的GPU计算消耗的计算单元。计算单元有效时间90天。
  3. Colab Pro+，$489.5/月/100个计算单元，最长使用24小时。根据选择的GPU计算消耗的计算单元。计算单元有效时间90天。
  4. Colab Enterprise，用多少付多少。
    在这里插入图片描述

使用说明

使用前需要创建colab的密钥

  1. hugging-key，登录https://huggingface.co/，然后生成自己的密钥
  2. wandb，登录https://wandb.ai/，然后生成自己的密钥

示例脚本

https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen2.5_(7B)-Alpaca.ipynb

按照脚本一步一步执行python代码即可完成模型微调，并上传至huggingface仓库中

大模型系列——利用Colab和Unsloth轻松实现微调大模型
2401_84052244的博客
02-28 9410
微调是用特定领域的数据调整预训练模型的过程。相比从头训练，微调更快、更省资源，能让模型“学会”新任务，比如回答医疗问题。Unsloth 是一个优化工具，能让微调速度提升 2-5 倍，显存占用降低 60% 以上。它基于 LoRA（Low-RankAdaptation），只更新模型的部分参数，而不是全部，既高效又保持性能。简单来说，LoRA 就像给模型加了个“补丁”，轻量又灵活。
LLMs之FineTuning：在Colab平台采用LLaMA-Factory框架并基于T4 GPU实现一个端到端的模型微调流程—环境设置(需要GPU)→微调模型(采用llmtuner)→微调推理(基
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
04-13 980
​ LLMs之FineTuning：在Colab平台采用LLaMA-Factory框架并基于免费的Tesla T4 GPU实现一个端到端的模型微调流程—环境设置(需要GPU)→微调模型(采用llmtuner)→微调推理(基于Qwen1.5-0.5B模型+LoRA微调)→微调导出(将微调知识【LoRA权重】合并到原始模型中) 目录 在Colab平台采用LLaMA-Factory框架并基于免费的Tesla T4 GPU实现一个端到端的模型微调流程—环境设置(需要GPU)→微调模型(采用llmtuner)→微
colab pro计算单元怎么算的，开了colab pro不能用A100？
Doc_m的博客
03-25 3万+
刚开了Colab Pro，感觉比之前坑了，据说按计算单元算了之后，就算开了一月pro，用光了计算单元也只能用普通GPU。刚开了之后一直没用上A100，还以为和之前一样是随机分配的，结果在修改 笔记本设置里有选项，需要手动选择高级GPU。计算单元在T4时显示每小时1.96，A100-40G显示每小时消耗13.08。
在HuggingFace中上传自己的模型
weixin_57253447的博客
02-10 1339
在本地微调了一个模型，想把我的模型上传到Huggingface平台上，下面是上传的操作步骤，供大家参考学习！创建一个 Python 脚本（如。
将自己训练好的大模型发布到HuggingFace
最新发布
猴的哥儿的博客
02-22 1173
SettingsNew TokenwriteREADME.mdLICENSE在模型目录中创建README.md。
使用ChatGPT4o+colab+gradio+huggingface1小时内，完成快速搭建任何AI应用程序或网站【详细教程步骤】建议收藏
AI逍遥子
08-06 654
我使用ChatGPT4o+colab+gradio+huggingface1小时内，完成快速搭建AI人工智能应用，并且免费，下面是具体的步骤：第一步：代码丢给ChatGPT4o接入Gradio可以让你更方便地创建交互式的网页界面。下面是一个完整的示例代码，展示如何使用Gradio创建一个应用程序，允许用户输入搜索关键词，并展示从Unsplash API获取的图片。
轻松玩转开源大语言模型bloom（四）
轻舟已过万重山的博客
04-11 3088
使用xturing库轻松微调bloom模型来回答中文问题。
免费使用高性能的GPU和TPU—谷歌Colab使用教程
Ace2NoU的博客
07-31 8709
谷歌免费开放算力Colab应用使用教程
gpt2模型_用huggingface微调非英语gpt 2模型
weixin_26630173的博客
09-03 3741
gpt2模型Originally published at https://www.philschmid.de on September 6, 2020. 最初于 2020年9月6日 在 https://www.philschmid.de 上 发布 。 介绍 (introduction) Unless you’re living under a rock, you probably have ...
突破Colab束缚：轻松在服务器上用Unsloth微调Llama 3.1大模型！
帅小柏的博客
08-26 720
目的：该代码的主要目的是对一个大型语言模型进行微调，使其能够生成特定类型的文本（唐诗）。微调是深度学习中一种常见的方法，通过在特定任务上重新训练预训练模型，以提高模型在该任务上的表现。流程配置模型：设置模型参数和加载预训练模型。数据准备：加载和格式化数据集，以便模型能够接受输入。训练：通过设置训练参数并调用训练函数，进行模型微调。保存模型：训练完成后，保存微调后的模型和标记器，以便后续使用。技术要点使用 GPU：代码中使用了cuda，表明旨在利用GPU加速训练。4位量化。
JC-10、Good Colab使用指南
weixin_46515047的博客
10-12 605
colab的基础用法介绍
Google Colab导入GitHub项目
yhblog的博客
11-25 1万+
一、导入项目的ipynb文件     1、首先打开https://colab.research.google.com/github/，如下图，选择GitHub. 2、复制项目的GitHub地址在红色位置，点右边的查找按钮。 3、打开查询的结果即可 二、Google Colab导入GitHub完整项目 1、挂载自己的Google Drive。 然后将登录后的验证信息复制到刚运行的代码块的输入框内，回车即可。 2、进入到自己创建的文件夹或者重新创建一个文件
Colab提示使用限额，这方法你用了吗?
热门推荐
Thebest_jack的博客
05-06 4万+
谷歌Colab提示使用限额，这方法你用了吗?
【NLP，Huggingface，Colab】使用 Trainer 训练模型，并保存模型参数
溢流眼泪的博客
07-10 3342
【代码】【NLP，Huggingface，Colab】使用 Trainer 训练模型，并保存模型参数。
colab使用
Dmm2046的博客
09-03 985
Google colaboratory網址： https://colab.research.google.com 運行時間是12小時，如果網頁關閉那麼只能運行90分鐘 但是，因为谷歌访问不太稳定，所以就会导致colab不稳定，没办法，放弃吧。 转载于:https://www.cnblogs.com/CS-ChiYu/p/11456181.html...
机器学习--colab使用说明
u011146203的博客
12-08 650
点击+New按钮可以添加本地的文件和程序（在colab中要读取的数据需要实现上床，这点不如Kaggle有很多可以直接用的数据）
拷贝 hugging face 仓库到 colab
weixin_40994552的博客
01-16 1062
【代码】拷贝 hugging face 仓库到 colab。
动手学CV-学习札记
2tong
10-17 1036
从深度学习环境配置、Pytorch基础使用介绍、自动求梯度、线性回归、MNIST分类挑战入手，学习CV
huggingface模型部署
01-06
Hugging Face是一家知名的人工智能研究公司，其最著名的产品是Transformers库，这个库包含了大量的预训练语言模型，如BERT、GPT系列等。将Hugging Face模型部署通常涉及以下几个步骤： 1. **选择模型**: 首先，你需要确定要使用的模型及其版本，可能是他们官方提供的或是社区贡献的。 2. **本地安装**：通过pip安装transformers库以及相关的依赖，例如PyTorch或TensorFlow，取决于模型的架构。 3. **加载模型**: 使用transformers中的相应函数加载预训练模型，可以是`AutoModelForSequenceClassification`、`pipeline`或者其他特定任务的模型。 4. **微调或推理**: 如果需要针对特定任务进行微调，对数据集进行处理，然后利用模型进行训练。如果没有特殊需求，可以直接进行推理，传入文本并获取模型预测结果。 5. **部署选项**：有多种部署方式可以选择。如果你想要部署到云环境，可以考虑AWS SageMaker、Google Colab或Azure ML；如果是服务器端部署，可以使用Flask、Django等框架配合API Gateway；还可以打包成docker镜像。 6. **API设计**：创建API接口，使得外部请求可以输入文本，并返回模型的输出结果。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Eddy5x

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值