58行代码把Llama 3扩展到100万上下文，任何微调版都适用

最新推荐文章于 2024-07-26 13:24:37 发布
最新推荐文章于 2024-07-26 13:24:37 发布
阅读量558 收藏 17
点赞数 8
文章标签： llama 人工智能 语言模型 大模型 科技 ai
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhishi0000/article/details/139287793
版权

堂堂开源之王Llama 3，原版上下文窗口居然只有……8k，让到嘴边的一句“真香”又咽回去了。

在32k起步，100k寻常的今天，这是故意要给开源社区留做贡献的空间吗？

图片

开源社区当然不会放过这个机会：

现在只需58行代码，任何Llama 3 70b的微调版本都能自动扩展到1048k（一百万）上下文。

图片

背后是一个LoRA，从扩展好上下文的Llama 3 70B Instruct微调版本中提取出来，文件只有800mb。

接下来使用Mergekit，就可以与其他同架构模型一起运行或直接合并到模型中。

图片

所使用的1048k上下文微调版本，刚刚在流行的大海捞针测试中达到全绿（100%准确率）的成绩。

图片

不得不说，开源的进步速度是指数级的。

图片

1048k上下文LoRA怎么炼成的

首先1048k上下文版Llama 3微调模型来自Gradient AI，一个企业AI解决方案初创公司。

图片

而对应的LoRA来自开发者Eric Hartford，通过比较微调模型与原版的差异，提取出参数的变化。

他先制作了524k上下文版，随后又更新了1048k版本。

图片

首先，Gradient团队先在原版Llama 3 70B Instruct的基础上继续训练，得到Llama-3-70B-Instruct-Gradient-1048k。

具体方法如下：

  • **调整位置编码：**用NTK-aware插值初始化RoPE theta的最佳调度，进行优化，防止扩展长度后丢失高频信息
  • **渐进式训练：**使用UC伯克利Pieter Abbeel团队提出的Blockwise RingAttention方法扩展模型的上下文长度

值得注意的是，团队通过自定义网络拓扑在Ring Attention之上分层并行化，更好地利用大型GPU集群来应对设备之间传递许多KV blocks带来的网络瓶颈。

最终使模型的训练速度提高了33倍。

图片

长文本检索性能评估中，只在最难的版本中，当“针”藏在文本中间部分时容易出错。

图片

图片

有了扩展好上下文的微调模型之后，使用开源工具Mergekit比较微调模型和基础模型，提取参数的差异成为LoRA。

同样使用Mergekit，就可以把提取好的LoRA合并到其他同架构模型中了。

合并代码也由Eric Hartford开源在GitHub上，只有58行。

图片

目前尚不清楚这种LoRA合并是否适用于在中文上微调的Llama 3。

不过可以看到，中文开发者社区已经关注到了这一进展。

图片

524k版本LoRA：
https://huggingface.co/cognitivecomputations/Llama-3-70B-Gradient-524k-adapter

1048k版本LoRA：
https://huggingface.co/cognitivecomputations/Llama-3-70B-Gradient-1048k-adapter

合并代码：
https://gist.github.com/ehartford/731e3f7079db234fa1b79a01e09859ac

参考链接：
[1]https://twitter.com/erhartford/status/1786887884211138784

​

如何学习AI大模型？

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

img

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。

python_知世
关注
  • 8
    点赞
  • 踩
  • 17
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
本地电脑大模型系列之 08 使用 Llama 3 和 LangChain 使用自然语言查询 SQL 数据库（教程含源码）
iCloudEnd的博客
07-14 150
创建自定义函数以根据用户输入生成 SQL。此函数将使用 Ollama 访问自定义模型。# chain:(?
长上下文模型（扩展位置编码、调整上下文窗口、长文本数据、）
weixin_43961909的博客
07-08 144
    在实际应用中，大语言模型对于长文本数据的处理需求日益凸显，尤其在长文档分析、多轮对话、故事创作等场景下。在这些情况下，模型需要处理的文本的长度常常超出预定义上下文窗口大小。例如，LLaMA-2 的上下文窗口限制为 4,096个词元。为了支持长文本处理，多家机构均已推出面向具有超长上下文窗口的大语言模型或 API。例如，OpenAI 发布了支持 128K 上下文窗口的 GPT-4 Turbo，而Anthropic 则推出了具有 200K 上下文窗口的 Claude-2.1。给定一个预训练后的大语言模型
[240609] qwen2 发布，在 Ollama 已可用 | 采用语言模型构建通用 AGI（2020年8月）
edwinjhlee的博客
06-09 986
- qwen2 发布，在 Ollama 已可用 - 采用语言模型构建通用 AGI（2020年8月）
58行代码把Llama 3扩展到100万上下文，任何微调版都适用 | 最新快讯
www3300300的专栏
05-06 968
首先，Gradient 团队先在原版 Llama 3 70B Instruct 的基础上继续训练，得到 Llama-3-70B-Instruct-Gradient-1048k。有了扩展好上下文的微调模型之后，使用开源工具 Mergekit 比较微调模型和基础模型，提取参数的差异成为 LoRA。首先 1048k 上下文版 Llama 3 微调模型来自 Gradient AI，一个企业 AI 解决方案初创公司。所使用的 1048k 上下文微调版本，刚刚在流行的大海捞针测试中达到全绿（100% 准确率）的成绩。
大模型相关介绍，包括大模型概述，llama3结构，微调策略等
06-17
大模型相关介绍，包括大模型概述，llama3结构，微调策略等大模型相关介绍，包括大模型概述，llama3结构，微调策略等大模型相关介绍，包括大模型概述，llama3结构，微调策略等大模型相关介绍，包括大模型概述，llama3...
Llama3本地部署与高效微调入门-llama3 8b 微调
07-26
Llama3本地部署与高效微调入门_llama3 8b 微调
llama3-中文微调训练集，让llama3更懂中文
04-22
Llama-3使用了超过15万亿令牌的公开在线数据进行预训练，这些数据是前代Llama-2的七倍。此外，Llama-3支持8K长文本，具有128K token的词汇量，这有助于实现更好的性能。其主要亮点还包括增强的推理和代码能力，以及...
大语言模型+llama3+代码+学习可运行llama3代码
07-25
这些模型在原版Llama-3的基础上使用了大规模中文数据进行增量预训练，并且使用精选指令数据进行精调，进一步提升了中文基础语义和指令理解能力，相比二代相关模型获得了显著性能提升。 我已将如何训练+推理以及...
llama3优秀的prompt-优秀的prompt堪比微调效果
07-26
在设计提示时，还应该考虑到模型的上下文理解能力。大语言模型通常能够理解一定长度的上下文，因此，你可以提供一些上下文信息，帮助模型更好地理解提示和生成输出。 总之，提示是大语言模型生成和理解自然语言文本...
英特尔宣布针对对Llama 3.1进行优化 以提升所有产品的性能
weixin_41446370的博客
07-25 635
根据基准测试，在第五代Intel至强平台上以1K token输入和128 token输出运行80亿参数的Llama 3.1模型，可以达到每秒176 token的吞吐量，同时保持下一个token延迟小于50毫秒。在配备了酷睿Ultra处理器和锐炫显卡的AI PC上，进行轻量级微调和应用定制比以往更加容易，并且AI工作负载可无缝部署于CPU、GPU以及NPU上，同时实现性能优化。在配备内置Intel锐炫显卡的Intel酷睿Ultra 7 165H AI PC上，Llama 3.1推理的下一个token延迟。
Meta Llama 3.1：AI领域的新里程碑
BuluAI的博客
07-25 1580
Llama 3.1的发布不仅是Meta在AI领域的一次重大突破，也为整个AI社区带来了新的机遇和挑战。其强大的性能、开放的生态和先进的技术，无疑将推动AI技术的进一步发展和应用。
【AIGC】Llama-3 官方技术报告
youcans的博客
07-25 2044
Meta开源Llama 3大模型，并发布92页重磅技术报告，全面揭秘其背后的技术细节，涵盖数据、训练、多模态等多个方面。
Aider + Llama 3.1：无需编码开发全栈APP
chinaai777的博客
07-25 494
通过这些实例，我们可以看到Llama 3.1在代码生成和应用程序开发方面的强大能力。尤其是当与Aider结合使用时，它可以显著提升开发效率。建议你尝试将ollama服务器与Aider结合使用，并部署在AWS或其他云提供商上，以充分发挥405亿参数模型的能力。希望这篇文章对你有所帮助，也希望你能尝试使用Llama 3.1和Aider来提升你的开发效率。如果你有任何问题或需要更多信息，可以查看本文中提到的链接和资源。
聚观早报 | Meta发布Llama 3.1 405B；特斯拉发布二季度财报
Juguan365的博客
07-25 672
聚观早报每日整理最值得关注的行业重点事件，帮助大家及时了解最新行业动态，每日读报，就读聚观365资讯简报。整理丨Cutie7月25日消息Meta发布Llama 3.1 405B特斯拉发布二季度财报NVIDIA AI Foundry上线iPhone 16将改进内部设计快手可灵AI全面开放内测。
2024钉钉杯A题思路详解
最新发布
全栈川川
07-26 1938
2024钉钉杯思路
常见的文心一言的指令
知码客
07-25 1799
文心一言，作为百度研发的预训练语言模型“ERNIE 3.0”的一项功能，能够与人对话互动，回答问题，协助创作，高效便捷地帮助人们获取信息、知识和灵感。
AI智能技术驱动安全生产：智慧矿山视频智能监管新篇章
TSINGSEE青犀视频官方技术博客
07-26 786
当识别到有人员未按照要求穿戴安全帽、反光背心/工服时，将立即抓拍，并将告警信息上传到平台。
请给出基于 huggingface 微调 LLaMa 的详细代码
05-31
好的，以下是基于 huggingface 的微调 LLaMa 的详细代码： 首先，我们需要安装 huggingface 的 transformers 和 datasets 库： ``` !pip install transformers !pip install datasets ``` 然后，我们可以下载 LLaMa 数据集并将其转换为适合模型训练的格式： ``` from datasets import load_dataset, DatasetDict # Load the LLaMa dataset llama = load_dataset("llama") # Convert the dataset to the format required by the model def format_dataset(data): return {"input_text": data["text"], "target_text": data["text"]} formatted_llama = llama.map(format_dataset) dataset_dict = DatasetDict({"train": formatted_llama["train"], "validation": formatted_llama["validation"]}) ``` 接下来，我们可以加载预训练的 GPT2 模型： ``` from transformers import AutoTokenizer, AutoModelForCausalLM, TrainingArguments, Trainer # Load the GPT2 tokenizer and model tokenizer = AutoTokenizer.from_pretrained("EleutherAI/gpt-neo-125M") model = AutoModelForCausalLM.from_pretrained("EleutherAI/gpt-neo-125M") ``` 然后，我们可以设置训练参数并使用 Trainer 类进行微调： ``` # Set the training arguments training_args = TrainingArguments( output_dir="./results", evaluation_strategy="steps", eval_steps=500, save_steps=1000, num_train_epochs=3, learning_rate=2e-5, per_device_train_batch_size=16, per_device_eval_batch_size=16, warmup_steps=500, weight_decay=0.01, logging_dir="./logs", logging_steps=500, load_best_model_at_end=True, metric_for_best_model="eval_loss", ) # Create the Trainer instance and train the model trainer = Trainer( model=model, tokenizer=tokenizer, args=training_args, train_dataset=dataset_dict["train"], eval_dataset=dataset_dict["validation"], ) trainer.train() ``` 微调完成后，我们可以保存模型并使用它来生成文本： ``` # Save the trained model trainer.save_model("./gpt-neo-125M-llama") # Generate text using the trained model from transformers import pipeline text_generator = pipeline("text-generation", model="./gpt-neo-125M-llama", tokenizer="EleutherAI/gpt-neo-125M") generated_text = text_generator("Hello, how are you?", max_length=100) print(generated_text[0]["generated_text"]) ``` 这就是基于 huggingface 的微调 LLaMa 的详细代码。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值