增强大型语言模型（LLM）可访问性：深入探究在单块AMD GPU上通过QLoRA微调Llama 2的过程

已于 2024-06-27 10:40:33 修改
阅读量1.4k 收藏 16
点赞数 32
分类专栏： 人工智能 # ROCm # python 文章标签： 语言模型 llama 人工智能
于 2024-06-16 16:33:57 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/eidolon_foot/article/details/139720770
版权
python 同时被 3 个专栏收录
133 篇文章 1 订阅 ¥19.90 ¥99.00
订阅专栏 超级会员免费看
人工智能
259 篇文章 3 订阅
订阅专栏
ROCm
51 篇文章 1 订阅
订阅专栏

Enhancing LLM Accessibility: A Deep Dive into QLoRA Through Fine-tuning Llama 2 on a single AMD GPU — ROCm Blogs

基于之前的博客《使用LoRA微调Llama 2》的内容，我们深入研究了一种称为量化低秩调整（QLoRA）的参数高效微调（PEFT）方法。本次重点是利用QLoRA技术在单块AMD GPU上，使用ROCm微调Llama-2 7B模型。通过使用QLoRA，可以解决内存和计算能力限制方面的挑战。本次探索旨在展示如何利用QLoRA来增强对开源大型语言模型的可访问性。

了解本专栏 订阅专栏 解锁全文 超级会员免费看
109702008
关注
专栏目录
订阅专栏
LLM - 使用 TRL 库 微调(Fine-Tuning) Llama3 以及合并微调模型 教程
Mystra
08-15 981
TRL(Transformer Reinforcement Learning) 是 HuggingFace 的全栈库，提供一套工具，用于通过强化学习训练 Transformer 语言模型，从 监督微调(Supervised Fine-tuning, SFT)、奖励建模(Reward Modeling, RM)、近端策略优化(Proximal Policy Optimization, PPO)。
Py之bitsandbytes：bitsandbytes的简介、安装、使用方法之详细攻略
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
06-22 2万+
​ Py之bitsandbytes：bitsandbytes的简介、安装、使用方法之详细攻略 目录 bitsandbytes的简介 bitsandbytes的安装 bitsandbytes的使用方法 bitsandbytes的简介 bitsandbytes是对CUDA自定义函数的轻量级封装，特别是针对8位优化器、矩阵乘法（LLM.int8()）和量化函数。 GitHub：https://github.com/TimDettmers/bitsandbytes
CogVLM2 本地部署体验(Docker容器版)
Qinghub‘博客
05-24 2226
智普AI推出新一代的 CogVLM2 系列模型，并开源了两款基于 Meta-Llama-3-8B-Instruct开源模型。与上一代的 CogVLM 开源模型相比，CogVLM2 系列开源模型具有以下改进： 在许多关键指标上有了显著提升，例如 TextVQA, DocVQA。 支持 8K 文本长度。 支持高达 1344 * 1344 的图像分辨率。 提供支持中英文双语的开源模型版本。
Trl SFT: llama2-7b-hf使用QLora 4bit量化后ds zero3加上flash atten v2单机多卡训练(笔记)
鲨鱼儿的博客
04-12 1811
第三 参考官方命令: https://github.com/Dao-AILab/flash-attention。第一 确保 linux "外界"的 cuda版本 与 conda 虚拟环境中cuda版本一致。第二 安装好 c++ g++ ninja。
llama3-8b-instruct-262k微调过程的问题笔记(场景为llama论文审稿)
鲨鱼儿的博客
05-25 906
我使用longqlora zero3模型微调 llama3-8b-instruct-262k，开启了shift short attention + flash attention v2，训练的过程中一切正常，loss正常下降，使用的设备为 A6000 (48G)，占用的显存为30G左右，但在trainer保存模型时（模型 + zero3 优化器状态），显存的占用会出现短暂的暴涨为58G，模型保存后显存暂用恢复至30G左右。2. 验证集的验证方法选择什么样的方式来判断最佳模型。
增强大型语言模型（LLM）可访问性：深入探究在单块AMD GPU上通过QLoRA微调Llama 2的过程_bitsandbytes amd安装
月流霜的专栏
07-08 91
基于之前的博客的内容，我们深入研究了一种称为量化低秩调整（QLoRA）的参数高效微调（PEFT）方法。本次重点是利用QLoRA技术在单块AMD GPU上，使用ROCm微调Llama-2 7B模型。通过使用QLoRA，可以解决内存和计算能力限制方面的挑战。本次探索旨在展示如何利用QLoRA来增强对开源大型语言模型的可访问性。
微调 LLaMA 2 模型：通过 QLoRA 充分利用单 GPU 效率 Meta LLaMA 2 微调过程综合指南
iCloudEnd的博客
07-30 797
科技巨头 Meta 于 2023 年 7 月 18 日发布了 LLaMA 2，这是他们最新版本的大型语言模型 (LLM)，成为头条新闻。我相信 Llama2 在进一步推动人工智能技术方面取得了巨大飞跃，人们将关注私人领域未来对聊天机器人的微调将超过一般聊天机器人。1这些尖端模型从 2023 年 1 月到 2023 年 7 月在大量 2 万亿代币上进行了训练，在推理、编码、熟练程度和知识测试等各种基准测试中表现出了卓越的性能。
微调大型语言模型：根据您的需求定制 Llama 3 8B,需要20个Nvidia A100 的集群成本40万元，云平台10 万美元
iCloudEnd的博客
05-03 583
自 2022 年 11 月发布以来，ChatGPT 引发了有关大型语言模型 (LLM) 和人工智能功能的广泛讨论。现在很少有人没有听说过 ChatGPT 或没有尝试过它。虽然像 GPT、Gemini 或 Claude 这样的工具非常强大，拥有数百（如果不是数千）亿个参数，并在大量文本语料库上进行了预训练，但它们并不是万能的。这些模型在某些特定任务上存在不足。然而，我们并非没有解决这些任务的方法。我们可以使用较小的开源模型来利用法学硕士的力量，使其适应我们的具体问题。
苹果大模型系列之 使用 MLX 在 macOS 上通过 LLM 微调构建自己的 LLM，在 Mac M2 上，训练过程大约需要 36 分钟（教程含详细步骤与代码）
iCloudEnd的博客
06-28 431
在我之前的系列文章LlamaIndex中，我讨论了使用、LangChain等工具构建 RAG 应用程序，GPT4All, Ollama以利用 LLM 满足特定用例。在这篇文章中，我将探讨另一种称为 LLM 微调的方法。我使用名为的工具在 macOS 上对 Meta 的 LLaMA-3 和 Mistral LLM 进行了微调MLX，该工具是专为 Apple 芯片上的机器学习研究量身定制的数组框架。这种微调是使用一种名为的技术完成的Low Rank Adapters(LoRA)。
LLaMA Factory多卡微调的实战教程
热门推荐
herosunly的博客
04-25 11万+
本文主要介绍了LLaMA Factory多卡微调的实战教程，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 模型选型与下载 2.4 配置多卡环境 3. 运行代码 3.1 构建训练数据 3.2 修改配置文件 3.3 微调 3.3.1 zero3微调 3.3.2 启动API 3.3.3 模型测试
MiniCPM-Llama3-V-2_5-int4
m0_60657960的博客
05-21 1776
仓库文件下载模型文件下载、大模型
【一次成功】清华大学和智谱AI公司的ChatGLM-4-9B-Chat-1M大模型本地化部署教程
追寻上飞的博客
07-08 2137
GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中，GLM-4-9B 及其人类偏好对齐的版本 GLM-4-9B-Chat 均表现出较高的性能。除了能进行多轮对话，GLM-4-9B-Chat 还具备网页浏览、代码执行、自定义工具调用（Function Call）和长文本推理（支持最大 128K 上下文）等高级功能。本代模型增加了多语言支持，支持包括日语，韩语，德语在内的 26 种语言。
LLM 大模型学习：量化技术、QLoRA、量化库
2401_85390073的博客
06-14 902
量化是将模型浮点数变为定点数运行的过程。双精度浮点数：在PyTorch中用表示，或者在其他语言中也称为double类型，在LLM训练中一般比较少用全精度浮点数：在PyTorch中用表示低精度浮点数：在PyTorch中用torch.bfloat16和torch.float16表示。bfloat16的小数部分较短，整数部分较长，这会有利于在训练中减少梯度爆炸的情况（即梯度累加值超过了最大值），但是这种数据类型是在N系列显卡Ampere系列才支持的，即30系列显卡。
bitsandbytes 入门教程
最新发布
gitblog_00708的博客
08-08 469
bitsandbytes 入门教程 bitsandbytes8-bit CUDA functions for PyTorch项目地址:https://gitcode.com/gh_mirrors/bi/bitsandbytes 1. 项目介绍 bitsandbytes 是一个用于 PyTorch 的库，专注于8位优化器和量化算法。它旨在通过高效的k比特量化技术，使得大型语言模型在资源受限的环境下...
Llama 2：新一代开源LLM，可用于研究和商业用途
FrenzyTechAI的博客
07-27 1275
大型语言模型（LLMs）在各种复杂推理任务中表现出色，包括编程和创意写作等专业领域。LLMs通过直观的聊天界面与人类进行交互，这导致了它们在公众中的快速和广泛采用。然而，由于训练LLMs所需的计算量较大，只有少数公司能够实现其发展。目前已经有一些公开发布的预训练LLMs，如BLOOM、LLaMa-1和Falcon，它们与闭源预训练模型如GPT-3和Chinchilla相媲美。
在消费级GPU调试LLM的三种方法：梯度检查点，LoRA和量化
deephub
08-05 4208
我们已经介绍了梯度检查点、LoRA和量化，让我们编写代码来对LLM进行微调。TaskType,model,r=64,这样模型就可以在本地的GPU上进行微调了。通过创建SFTTrainer (Trainer的一个子类，可以处理我们到目前为止讨论的所有内容)使这个过程变得更加容易。model,在本文中，介绍了大型语言模型微调过程中出现的一个挑战:如何在单个GPU上进行微调。我们介绍了3种技术来减少内存占用:梯度检查点、LoRA和量化。
解决Ubuntu20软件中心空白、搜不到软件的问题
数字人生
01-21 1万+
想通过软件中心安装vscode，打开左侧工具栏上的Ubuntu Software，里面的软件都是显示空白，搜vscode也没搜到。 通过网上的搜索和自己的一顿操作，问题算是解决了。什么原因还没有分析。记录如下： sudo apt update sudo apt upgrade sudo systemctl reboot software-properties-gtk 上面的software-properties-gtk命令是通过查看/usr/share/applications文件夹看到的。 so
评论 8
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

109702008

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值