LLaMA开源语言模型泄漏版下载

最新推荐文章于 2024-09-12 12:08:59 发布
最新推荐文章于 2024-09-12 12:08:59 发布
阅读量300 收藏
点赞数
分类专栏： 人工智能 文章标签： 人工智能 大模型 llama
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u010291330/article/details/132580754
版权

Meta（Facebook）开源语言模型LLaMA泄漏版国内网盘下载，该语言模型据说是比openAI的ChatGPT能力更强的，虽说是开源语言模型，但如果想要直接使用，还是需要通过Edu教育邮箱来申请资格的，得到批复邮件之后，可以做为科学研究使用。

模型列表

名称 大小 地址
LLMA-7B 25.1GB 下载
LLMA-13B 72.7GB 下载
LLMA-30B 151GB 下载
LLMA-65B 243GB 下载
LLMA-Smallint 76.2 GB 下载

模型下载列表

背景

Facebook/Meta研究部门上周宣布了一个新的大型语言模型：LLaMA（paper，github repo）。与以前的许多大型语言模型不同，这个模型有一个独特的属性：模型可供公众使用（有一些警告），这意味着任何人都可以使用它（或微调它）。

模型概述

该模型的架构或多或少是标准的：在自然语言语料库上训练的仅解码器转换器（这次是完全公开的，这很好）。与其他LLM相比，超参数有一些调整，但最明显的变化是训练步骤的数量：作者指出，如果我们训练更小的LLM足够长的时间，损失会继续改善并达到与更大模型竞争的值。就训练计算分配而言，这可能是也可能不是最佳的，但在推理计算方面，它肯定比其他现有的 LLM 要好得多。

针对不同的模型大小发布了多个检查点：7B（十亿个参数）、13B、33B 和 65B。Facebook要求人们填写表格（可在Repo的 README.md 中找到）以获取下载链接;有趣的是，授予访问权限的标准是“.edu”TLD 中的电子邮件。有已经可用的带有检查点的种子&

最低0.47元/天 解锁文章
牛马尼格
关注
专栏目录
QLORA:量化LLMA的有效微调
AI浩
06-28 2981
我们提出了QLORA，这是一种有效的微调方法，它减少了内存使用，足以在单个48GB GPU上微调65B参数模型，同时保留完整的16位微调任务性能。QLORA通过冻结的4位量化预训练语言模型将梯度反向传播到Low RankAdapters (LoRA)中。我们最好的模型家族，我们命名为Guanaco，在Vicuna基准上优于之前所有公开发布的模型，达到ChatGPT性能水平的99.3%，而只需要在单个GPU上进行24小时的微调。
Llama3模型+Windows本地运行软件（下载地址）
05-20
Llama一直都是开源大语言模型的领头羊驼。 而Llama3又是所有羊驼中最新的领头羊。 可以简单地来看一下官方的对比数据。 下面是Llama3和谷歌Gemma以及法国的Mistral开源版的对比，以及Llama3 70B和gemini和...
开源最强大模型Llama3.1发布
2301_82275412的博客
07-25 1239
详细介绍Meta于2024年7月23日正式发布了最新的开源大语言模型Llama 3.1，该系列包括8B、70B和405B三个参数版本。Llama 3.1在性能上取得了显著提升，特别是在推理能力、多语言支持以及上下文长度方面。：Llama 3.1的405B版本在150多个基准测试集中表现优异，甚至超越了现有的SOTA模型GPT-4o和Claude 3.5 Sonnet。：具备强大的常识理解、可引导性、数学推理、工具使用和多语言翻译能力。
一文读懂：如何将广告融入大型语言模型(LLM)输出
最新发布
qianggezhishen的专栏
09-12 1313
本文是我翻译过来的，讨论了在线广告行业的现状以及如何将大型语言模型（LLM）应用于在线广告。原文请参见”阅读原文“。 在2024年，预计全球媒体广告支出的69%将流向数字广告市场。这个数字预计到2029年将增长到79%。在Meta的2024年第二季度财报中，98%的销售额来自广告。随着公司将资金从传统媒体渠道（如印刷和电视）转移到增加数字广告支出，在线广告领域继续其主导地位。最近，有一些研究计划探索在在线广告中使用大型语言模型。本文将温和地介绍这一趋势，并突出一些相关的提议。 推动在线广告行业
LLAMA2（Meta大语言模型）可运行整合包的下载与安装
沧海之巅的专栏
09-26 5612
百度网盘链接：https://pan.baidu.com/s/1g1xknRdeHWPsAeZl9urXxg?百度网盘链接：https://pan.baidu.com/s/19gPNTTPc6cAdM2DLfmaE0w?根据你的系统，把generation_linux.py或者generation_win.py修改为generation.py。夸克网盘链接：https://pan.quark.cn/s/b6ceb2c6211b。1）进入工程目录运行download.sh。2）填入收到的邮件中的链接。
AI多模态模型架构之LLM主干(3)：Llama系列
AIGCmagic的博客
07-05 1561
初期，小模型的损失下降较快，但随着训练的深入，小模型的性能逐渐饱和，下降速度减缓，而大模型的下降速度则超过了小模型。根据传统Scaling Law的建议，对于10B模型，应使用2000亿token进行训练，但Meta发现，即使是7B模型，使用1万亿token后，性能仍能持续提升。在后续的Llama系列中，Llama-1全部采用了公开渠道可以获取的数据，使用了2017至2020年的CommonCrawl数据，以及来自书籍和维基百科的文本，并且进行了去重，去掉了非英文数据，用线性模型对文本质量进行了分类。
LLaMA 简介：一个基础的、650 亿参数的大型语言模型
AI天才研究院
04-18 1万+
还需要做更多的研究来解决大型语言模型中的偏见、有毒评论和幻觉的风险。我们在数万亿个令牌上训练我们的模型，并表明可以仅使用公开可用的数据集来训练最先进的模型，而无需诉诸专有和不可访问的数据集。在大型语言模型空间中训练像 LLaMA 这样的小型基础模型是可取的，因为它需要更少的计算能力和资源来测试新方法、验证他人的工作和探索新的用例。作为 Meta 对开放科学承诺的一部分，今天我们公开发布 LLaMA（大型语言模型元 AI），这是一种最先进的基础大型语言模型，旨在帮助研究人员推进他们在 AI 子领域的工作。
meta 大型语言模型 llama 2
07-21
**元公司大型语言模型“Llama 2”详解** 元公司近期发布的“Llama 2”是一款先进的大型语言模型，代表了人工智能（AI）在自然语言处理领域的最新成就。这款模型以其强大的理解和生成自然语言的能力，为开发者和研究...
本地部署开源大模型的完整教程LangChain + Streamlit+ Llama
09-23
本教程旨在指导开发人员如何在本地部署开源的大型语言模型（LLM），并使用LangChain、Streamlit和LLaMA等工具来创建交互式应用程序。以下是教程中涉及到的主要知识点： 一、LangChain LangChain是一个免费的框架，...
开源社区第一个能下载、能运行的中文 LLaMA2 模型！.zip
02-07
这个模型的发布对开源社区来说是一个重要的里程碑，因为它使得更多开发者有机会接触到高质量的预训练语言模型，并在自己的项目中应用。 LLaMA2模型基于Transformer架构，这是一种广泛应用于自然语言处理的深度学习...
大语言模型+llama3+代码+学习可运行llama3代码
07-25
本项目基于Meta最新发布的新一代开源大模型Llama-3开发，是Chinese-LLaMA-Alpaca开源大模型相关系列项目（一期、二期）的第三期。...当然，我也会在博客解读代码细节，以此帮助大家对大语言模型理解。
【LLM】LLaMA简介：一个650亿参数的基础大型语言模型
小哲的博客
04-26 6321
作为 Meta 对开放科学承诺的一部分，今天我们将公开发布LLaMA(大型语言模型 Meta AI) ，这是一个最先进的大型语言基础模型，旨在帮助研究人员推进他们在人工智能这一子领域的工作。更小，更高性能的模型，例如 LLaMA，使得研究社区中没有大量基础设施的其他人能够研究这些模型，进一步民主化这个重要的，快速变化的领域的访问。在大型语言模型空间中，训练像LLaMA这样的较小基础模型是可取的，因为它需要更少的计算能力和资源来测试新方法、验证他人的工作和探索新的用例。
LLaMA的解读与其微调(含LLaMA 2)：Alpaca-LoRA/Vicuna/BELLE/中文LLaMA/姜子牙
热门推荐
结构之法 算法之道
03-22 7万+
还开始研究一系列开源模型(包括各自对应的模型架构、训练方法、训练数据、本地私有化部署、硬件配置要求、微调等细节)​该项目部分一开始是作为此文《》的第4部分，但但随着研究深入 为避免该文篇幅又过长，将把『第4部分 开源项目』抽取出来 独立成本文。
Llama深入浅出
zenRRan的博客
08-22 772
来自：算法美食屋进NLP群—>加入NLP交流群前方干货预警：这可能是你能够找到的最容易懂的最具实操性的学习开源LLM模型源码的教程。本例从零开始基于transformers库逐模块搭建和解读Llama模型源码(中文可以翻译成羊驼)。并且训练它来实现一个有趣的实例：两数之和。输入输出类似如下：输入："12345+54321="输出："66666"我们把这个任务当做一个文本生成任务来进行。输入是...
基于MindSpore的llama微调在OpenI平台上运行
JeffDing
10-13 1008
数据集地址：https://github.com/tatsu-lab/stanford_alpaca/blob/main/alpaca_data.json。执行llama_preprocess.py，进行数据预处理、Mindrecord数据生成，将带有prompt模板的数据转换为mindrecord格式。执行alpaca_converter.py，使用fastchat工具添加prompts模板，将原始数据集转换为多轮对话格式。目前提供alpaca数据集的预处理脚本用于全参微调/lora微调任务。
LLM大模型综述
zh515858237的专栏
01-10 2万+
LLM其实就是large language model，大语言模型。如果对“最终任务”进一步进行分类，又大致可以分为两大不同类型的任务：自然语言理解类任务和自然语言生成类任务。如果排除掉“中间任务”的话，典型的自然语言理解类任务包括文本分类、句子关系判断、情感倾向判断等，这种任务本质上都是分类任务，就是说输入一个句子（文章），或者两个句子，模型参考所有输入内容，最后给出属于哪个类别的判断。自然语言生成也包含很多NLP研究子方向，比如聊天机器人、机器翻译、文本摘要、问答系统等。
LLaMA模型之中文词表的蜕变
HJ_blog
11-13 1217
在目前的开源模型中，LLaMA模型无疑是一颗闪亮的⭐️，但是相对于ChatGLM、BaiChuan等国产大模型，其对于中文的支持能力不是很理想。原版LLaMA模型的词表大小是32K，中文所占token是几百个左右，这将会导致中文的编解码效率低。在将LLaMA系列模型用于中文语言时需要进行中文词表扩充，基于sentencepiece工具训练，产生新的词表，然后与原始词表合并得到一个新词表。本文将LLaMA模型中文词表扩充分为以下步骤：训练数据准备、词表训练、词表合并、词表测试。
万字长文总结多模态大模型最新进展（Modality Bridging篇）
Paper weekly
03-29 1771
多模态大型语言模型（MLLM）最近已成为一个新兴的研究热点，它将强大的大型语言模型（LLMs）作为大脑来执行多模态任务。MLLM 的惊人新能力，如基于图像撰写故事和无 OCR 的数学推理，在传统方法中很少见，这表明了通向通用人工智能的潜在路径。通常人们会在 pair 数据上进行大规模（相对于 instruction tuning）的预训练，以促进不同模态之间的对齐。对齐数据集通常是图像文本对或自动...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

牛马尼格

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值