【LLM模型篇】LLaMA2 | Vicuna | EcomGPT等

已于 2024-06-29 11:43:58 修改
阅读量3.4k 收藏 24
点赞数 2
分类专栏： # LLM大模型 自然语言处理 深度学习 文章标签： 大模型 模型微调 垂直大模型
于 2023-09-02 20:52:23 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35812205/article/details/131802309
版权

文章目录

一、LLM模型

chatglm2模型

ChatGLM2-6B 训练参数解释
ChatGLM-6B 的部署与微调以及过程中涉及知识总结(7.26更新)
ChatGLM P-Tuning v2 避坑指南

小样本（100条）微调，建议 num_train_epochs（最大迭代轮数） =20 才能稳定拟合任务要求
ps：百度文心千帆平台微调建议，100条数据时, Epoch为15，1000条数据时, Epoch为10，10000条数据时, Epoch为2。

chatglm130b模型

不同于 BERT、GPT-3 以及 T5 的架构，是一个包含多目标函数的自回归预训练模型。该模型有一些独特的优势：

双语：同时支持中文和英文。

高精度（英文）：在公开的英文自然语言榜单 LAMBADA、MMLU 和 Big-bench-lite 上优于 GPT-3 175B（API: davinci，基座模型）、OPT-175B 和 BLOOM-176B。

高精度（中文）：在 7 个零样本 CLUE 数据集和 5 个零样本 FewCLUE 数据集上明显优于 ERNIE TITAN 3.0 260B 和 YUAN 1.0-245B。

快速推理：首个实现 INT4 量化的千亿模型，支持用一台 4 卡 3090 或 8 卡 2080Ti 服务器进行快速且基本无损推理。

可复现性：所有结果（超过 30 个任务）均可通过我们的开源代码和模型参数复现。

跨平台：支持在国产的海光 DCU、华为昇腾 910 和申威处理器及美国的英伟达芯片上进行训练与推理。
在这里插入图片描述

Vicuna模型

Vicuna开源代码地址：https://github.com/lm-sys/FastChat

Vicuna在线demo地址：https://chat.lmsys.org/

LLaMA2模型

LLaMA2的开源地址：https://github.com/facebookresearch/llama/blob/main/MODEL_CARD.md
LLaMA2的下载地址：https://ai.meta.com/resources/models-and-libraries/llama-downloads/
LLaMA2的官方博客地址：https://ai.meta.com/resources/models-and-libraries/llama/

  • Llama-2-Chat：三个版本，7B，13B，70B
    • input：text only
    • ouput：text only
    • 同样是基于transformer架构的自回归模型，使用SFT（supervised fine-tuning）和RLHF（human feedback）
  • 70B版本推理：Grouped-Query Attention (GQA) 来优化
  • 训练数据：截止到2022年9月的数据，一些微调数据是2023年7月前的

1. 训练细节

  • transformer architecture (Vaswani et al., 2017),
  • 使用RMSNorm(Root Mean Square Layer Normalization)方法对transformer每层的输入进行归约(norm)操作，代替了transformer之前对输出进行归约(norm)：apply pre-normalization using RMSNorm (Zhang and Sennrich, 2019),
  • SwiGLU激活函数：use the SwiGLU activation function (Shazeer, 2020),
  • 旋转位置编码：rotary positional embeddings(RoPE, Su et al. 2022).
  • 上下文长度和分组查询注意力(GQA)：The primary architectural differences from Llama 1 include increased context length and grouped-query attention (GQA).

训练65B参数的模型，使用了2048块80G显存大小的A100卡，处理对应380 tokens/sec/GPU，1.4T个token训练了有21天。训练loss如下：
在这里插入图片描述
参数设置：

  • 使用AdamW优化器，对应超参beta1=0.9, beta2=0.95; 使用cosine学习率调度，最终学习率是最大学习率的10%；weight decay为0.1， gradient clipping为0.1。
  • 训练使用前2000个step进行warmup

2. Evaluation Results

Llama 1 and Llama 2评测结果：

ModelSizeCodeCommonsense ReasoningWorld KnowledgeReading ComprehensionMathMMLUBBHAGI Eval
Llama 17B14.160.846.258.56.9535.130.323.9
Llama 113B18.966.152.662.310.946.937.033.9
Llama 133B26.070.058.467.621.457.839.841.7
Llama 165B30.770.760.568.630.863.443.547.6
Llama 27B16.863.948.961.314.645.332.629.3
Llama 213B24.566.955.465.828.754.839.439.1
Llama 270B37.571.963.669.435.268.951.254.2

3. 更多参考

[1] Llama 2 官方公告：https://ai.meta.com/llama/

[2] Llama 2 官方论文：https://huggingface.co/papers/2307.09288

[3] “GQA: Training Generalized Multi-Query Transformer Models from Multi-Head Checkpoints” by Google Research：https://arxiv.org/pdf/2305.13245.pdf

[4] “Llama 2: an incredible open LLM” by Nathan Lambert: https://www.interconnects.ai/p/llama-2-from-meta

[5] Llama 2 models: https://huggingface.co/meta-llama

[6] Text generation web UI github: https://github.com/oobabooga/text-generation-webu

alpaca模型

standford-alpaca微调记录

bloomz模型

如560m模型：https://huggingface.co/bigscience/bloomz-560m

百川大模型

  • Baichuan 2：百川智能推出的新一代开源大语言模型，采用 2.6 万亿 Tokens 的高质量语料训练，包含有 7B、13B 的 Base 和 Chat 版本，并提供了 Chat 版本的 4bits 量化
  • 链接：https://github.com/baichuan-inc/Baichuan2

注意：从0写个gpt简易版可以参考——极简PicoGPT
https://github.com/jaymody/picoGPT/tree/29e78cc52b58ed2c1c483ffea2eb46ff6bdec785
介绍：60行代码就能构建GPT！网友：比之前的教程都要清晰｜附代码

其他大模型和peft高效参数微调

参考之前的：【LLM大模型】指令微调、peft高效参数微调

二、行业垂直领域大模型

度小满的轩辕2.0模型微调

1. 模型介绍

  • 基于bloom-176B架构，训练了一个中文金融大模型，提出【混合微调】缓解catastrophic forgetting问题。模型使用使用的是ALiBi的位置编码，以及embedding LayerNorm，基于传统的transformer decoder架构
  • 训练数据用于/包括：
    • 一般领域的预训练；
    • 金融指令（微调）；
    • 金融领域预训练；
    • 一般领域指令；
    • 。。。
    • 金融指令（微调）。。。
    • 就是反复搞个随机的任务序列，让大模型不敢或忘历史

2. 混合微调

在这里插入图片描述

MedicalGPT：医疗大模型

MedicalGPT项目：https://github.com/shibing624/MedicalGPT/tree/main

基于ChatGPT Training Pipeline，本项目实现了领域模型–医疗行业语言大模型的训练：

  • 第一阶段：PT(Continue PreTraining)增量预训练，在海量领域文档数据上二次预训练GPT模型，以注入领域知识（可选）
  • 第二阶段：SFT(Supervised Fine-tuning)有监督微调，构造指令微调数据集，在预训练模型基础上做指令精调，以对齐指令意图
  • 第三阶段
    • RLHF(Reinforcement Learning from Human Feedback)基于人类反馈对语言模型进行强化学习，分为两步：
      • RM(Reward Model)奖励模型建模，构造人类偏好排序数据集，训练奖励模型，用来建模人类偏好，主要是"HHH"原则，具体是"helpful, honest, harmless"。项目中用的奖励模型是OpenAssistant/reward-model-deberta-v3-large-v2
      • RL(Reinforcement Learning)强化学习，用奖励模型来训练SFT模型，生成模型使用奖励或惩罚来更新其策略，以便生成更高质量、更符合人类偏好的文本
    • DPO(Direct Preference Optimization)直接偏好优化方法，DPO通过直接优化语言模型来实现对其行为的精确控制，而无需使用复杂的强化学习，也可以有效学习到人类偏好，DPO相较于RLHF更容易实现且易于训练，效果更好

在这里插入图片描述
medicalGPT更新的训练策略：

ChatLaw：法律大模型

项目：https://github.com/PKU-YuanGroup/ChatLaw

  • 将query提取为keyword，然后将keyword和query分别embedding后，两者拼接的结果去向量数据库中求topk找上下文。
  • base model：姜子牙-13B、Anima-33B，使用大量领域文本构建对话数据、也使用大量考题作为sft数据。

在这里插入图片描述

TransGPT：交通大模型

https://github.com/DUOMO/TransGPT

pt训练代码：采用了MedicalGPT提供的pretraining.py代码。
sft训练代码：采用了MedicalGPT提供的supervised_finetuning.py代码。

​EcomGPT：电商领域大模型

解决问题：解决电商场景任务（如品牌识别，评价解析，广告文案生成等）
论文链接：https://arxiv.org/abs/2308.06966
GitHub链接：https://github.com/Alibaba-NLP/EcomGPT

1. sft数据

  • 从学术论文或竞赛平台等开放数据源收集了共65个各种电商任务数据集，包括命名实体识别、评论问答、商品类目预测、多轮对话等传统的自然语言处理任务。这些开源数据集的任务都是由领域专家设计，然后由受过培训的人工标注，数据质量很高。
  • 电商领域的商品item虽然变化很快，但是电商数据类型相对稳定，包括产品信息、用户对话、用户评论和搜索查询等，所以EcomGPT对基础数据构建大量原子任务（如实体片段识别、实体分类等），即任务链任务（Chain of tasks）。原子任务的标注答案尽可能从公开任务原始的标注构造，以保证准确性。实在无法构造的，借助ChatGPT帮助生成。

在这里插入图片描述

2. 模型微调

  • 多任务的指令微调
  • 将特定数据集的任务指令与数据样本结合起来，构造了大规模的指令调优数据，然后基于这个指令数据集采用标准的因果语言模型（Causal Language Model）的训练范式训练。指令包含三个部分：任务描述、任务指令、输入句子。任务描述给出任务名称，任务指令描述具体的任务需求，输入句子则是具体需要分析的句子。

在这里插入图片描述

3. 评测数据集和评测结果

  • 在12个训练时没见过的数据集中进行测试，使用Rouge指标，对于分类、实体识别等任务也使用F1指标。

在这里插入图片描述

  • 分析：微调后的模型能够理解电商任务

在这里插入图片描述

  • 从下图中看到，数据越多样化（每个任务的训练数据越多），模型效果越好（ROUGE-L指标越高）。

在这里插入图片描述

封神榜大模型

系列名称需求适用任务参数规模备注
姜子牙通用通用大模型>70亿参数通用大模型“姜子牙”系列，具备翻译，编程，文本分类，信息抽取，摘要，文案生成，常识问答和数学计算等能力
太乙特定多模态8千万-10亿参数应用于跨模态场景，包括文本图像生成，蛋白质结构预测, 语音-文本表示等
二郎神通用语言理解9千万-39亿参数处理理解任务，拥有开源时最大的中文bert模型，2021登顶FewCLUE和ZeroCLUE
闻仲通用语言生成1亿-35亿参数专注于生成任务，提供了多个不同参数量的生成模型，例如GPT2等
燃灯通用语言转换7千万-50亿参数处理各种从源文本转换到目标文本类型的任务，例如机器翻译，文本摘要等
余元特定领域1亿-35亿参数应用于领域，如医疗，金融，法律，编程等。拥有目前最大的开源GPT2医疗模型

llama变体

中文BiLLa: A Bilingual LLaMA with Enhanced Reasoning Ability，参考

  • 第一阶段：扩充中文词表，使用中文预训练语料Wudao、英文预训练语料PILE、翻译语料WMT的中英数据进行二次预训练。
  • 第二阶段：训练数据在第一阶段基础上增加任务型数据，训练过程中两部分数据保持1:1的比例混合。任务型数据均为NLP各任务的主流开源数据，包含有数学解题、阅读理解、开放域问答、摘要、代码生成等，利用ChatGPT API为数据标签生成解析，用于训练提升模型对任务求解逻辑的理解。
  • 第三阶段：保留第二阶段任务型数据，并转化为对话格式，增加其他指令数据（如Dolly 2.0、Alpaca GPT4、COIG等），进行对齐阶段的微调。

三、LLM模型微调

1. fine-tuning的必要性

参考reference7的某乎中北邮老师的回答：

  • 从头训练新模型不一定优于微调旧模型。考虑到计算资源消耗、训练数据清洗和策划、训练过程的细节控制等因素，微调旧模型到特定领域可能是更经济高效的选择。
  • 新旧模型组合可能最佳，既微调旧模型获取特定领域知识，又保留新模型的通用建模能力，组合使用可以获得更好的效果。结合优化的专家混合路由策略，新旧模型组合可能达到 1+1>2 的效果。

首先要考虑的问题，是究竟该不该做fine-tune，可以从这几个角度理解：
1、大量fine-tuning的案例证实，由于LLM本身已经学到了大量知识，轻易fine-tuning反而可能破坏其原有知识结构，导致效果下降。

2、fine-tuning后模型很容易过拟合特定任务，丧失原有的快速拟合新任务的能力。

3、fine-tuning还可能导致隐私泄露，由于fine-tuning依赖特定领域的数据集，可能暴露数据集中包含的敏感信息。

4、fine-tuning也要消耗大量时间和算力资源，而结果并不一定明显优于原模型。

5、fine-tuning难以迁移复用，每次fine-tuned仅适用于一个特定任务，无法像原模型那样泛化应用。

6、充分利用原有模型的基础上，引入先验知识，可能是更有效的方案。与fine-tuning相比,在prompt中显式融入先验知识，可以更简单直观而有效地引导模型。

7、fine-tuning后的模型输出，也会受到特定领域数据的潜在影响产生漂移，失去原有的一致性。

2. 大模型fine-tune如何避免过拟合

如果确实要做fine-tuning，为避免过拟合需要注意以下几个方面：
1、加大训练数据规模，反而可能导致过拟合。因为LLM本身已经拟合了大量文本数据分布，给它更多相似数据，可能不会提供很多有用的新信息，反而可能导致对训练数据的记忆效应。

2、简化模型结构，反而可能降低过拟合。一般认为复杂的模型容易过拟合，但对LLM而言，简化结构反而会降低其对任务的建模能力，从而减少过拟合风险。

3、提前停止训练（早停）可能会适得其反。LLM仍在不断学习新知识，过早停止反而阻碍了对新任务的适应，适当延长训练有助于增强泛化能力。

4、使用更小的学习率或许有助于防止过拟合，由于LLM已经预训练了大量的知识，所以在fine-tune时使用更小的学习率可能更为合适，还可以避免模型在fine-tune过程中忘记其原始的知识。

5、在实际应用中，应该prompt设计优化（提示工程）和模型优化配合使用，而不是单纯调参。LLM过拟合主要是对surface特征的模仿，而非真正理解语义。优化prompt可以让模型学习更抽象的表示。

6、多任务训练不一定有利于预防过拟合。不同任务间存在潜空间的迁移，单任务效果的提升可能依然过拟合特定数据集，需要更抽象的任务设计。

7、评估过程也可能过拟合，所以需要更多样化的测试用例，避免只针对某些特定情况进行有偏的评估。

8、可以尝试微调Transformer的部分head，而非整个multi-head，来局部微调模型。

9、可以考虑集成学习或专家混合，训练多份微调模型然后结果层叠或优化路由，也能有效降低最终模型总体过拟合风险。

3. 如何防止知识灾难性遗忘

  • DeepMind的贝叶斯方法：Functional Regularisation for Continual Learning with Gaussian Processes
    • 论文链接：https://arxiv.org/abs/1901.11356
  • 局部网络共享的增量方法：Incremental Learning in Deep Convolutional Neural Networks Using Partial Network Sharing
    • 论文链接： https://arxiv.org/abs/1712.02719
  • 纤维丛理论：Realizing Continual Learning through Modeling a Learning System as a Fiber Bundle
    • 论文链接：https://arxiv.org/abs/1903.03511

4. fine-tune的目的和场景

  • 垂直领域（如英文类微调到中文）：可以用无监督的继续预训练，构造带标注的指令微调数据（多场景、不同任务的数据，指令的描述形式也应该多样化，同时为了防止知识遗忘，需要引入通用领域预料）
    • BloomBerg尽量让通用语料与金融语料达到1:1的混合比例
    • 度小满将数据按照是否通用、是否带标注的指令数据等特性切分成块，包括通用无监督语料、金融无监督语料、通用标注指令语料、金融标注指令语料。然后将这些语料块打散随机组成训练的batch。
  • 下游任务场景：
    • faq对话类任务：知识库的具体内容问答，在6b、7b模型很难微调，如果模型较小，更适合结合langchain、autogpt等方式，将本地知识库的访问工具化，让模型不直接回答，而是做用户意图理解、知识检索与整合等
    • 文本分类、抽取、摘要等传统nlp任务： 一般来说不需要太多数据，甚至不需要微调，直接在prompt加入一些样例，用few-shot激发大模型的in-context learning能力。但由于大模型的输入context长度通常有限制，而样例涉及的上下文通常也比较长，所以很多时候还是要做微调（微调方法借鉴第二大点）

5. LLM微调的相关参数

以firefly模型全参微调为例：
进行全量参数微调：

deepspeed --num_gpus={num_gpus} train.py --train_args_file train_args/sft.json

train_args/sft.json中的主要参数说明如下，以下参数可以根据需求进行修改，其他参数建议不做修改：

  • output_dir：训练输出目录，存储checkpoint、tokenizer、tensorboard等
  • model_name_or_path：预训练模型的本地目录，或者在huggingface上的模型名称。
  • train_file：训练数据集路径。可以使用data/dummy_data.jsonl进行debug。
  • num_train_epochs：训练的轮次。
  • per_device_train_batch_size：每张显卡的batch size。
  • gradient_accumulation_steps：梯度累计步数。global batch=num_gpus * per_device_train_batch_size * gradient_accumulation_steps。
  • gradient_checkpointing：如果显存捉襟见肘，可以开启。以时间换空间，模型不缓存激活状态，会进行两次forward计算，以节省显存。
  • learning_rate：学习率。全量参数微调的时候，建议小一些，1e-5或5e-6。
  • max_seq_length：训练时的最大长度。按照自己的设备进行设置，越长需要占用越多显存。
  • logging_steps：每隔多少步统计一次train loss。
  • save_steps：每隔多少步保存一个模型。
  • save_total_limit：output_dir目录中最多保存多少个checkpoint，超出则会将最旧的删除。
  • lr_scheduler_type：学习率变化策略。
  • warmup_steps：warm up步数。学习率经过多少步，增长到指定的数值。
  • optim：优化器。如果是全量参数微调，建议使用adamw_hf。
  • seed：随机种子，用于复现实验结果。
  • fp16：使用使用fp16混合精度。V100建议开启。
  • bf16：使用使用fp16混合精度。A100建议开启。
  • weight_decay：AdamW优化器的weight_decay
  • warmup_steps: 用于从 0 到 learning_rate 的线性 warmup 的步数。

6. 关于全参微调还是peft

在这里插入图片描述

7. LLM模型的解码策略

在封神榜的姜子牙写作模型（https://huggingface.co/IDEA-CCNL/Ziya-Writing-LLaMa-13B-v1）中，建议的解码参数如下：

  • temperature：0.85，温度系数越大则文本越多样化
  • do_sample：是否使用采样方法，如果为True则使用采样方法，如果为False则使用Greedy Search，后者是生成模型会选择每一步最有可能的标记作为生成的下一个标记，而不考虑其他可能的选择，可能会导致生成重复词语等，缺乏多样性
  • top_p：用于采样的一个概率阈值。在采样过程中，会筛选掉累计概率超过 top_p 的标记，比如0.1 意味着模型解码器只考虑从前 10% 的概率的候选集中取tokens
  • repetition_penalty：一个惩罚系数，用于抑制重复生成相同标记的倾向。较高的惩罚系数将更强烈地抑制重复
  • eos_token_id：表示终止生成的特殊标记的ID。当生成的文本中出现这个标记时，生成过程会停止。
  • bos_token_id：表示生成文本起始的特殊标记的ID。
  • pad_token_id：表示填充标记的特殊标记的ID。
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
device = torch.device("cuda")
query="帮我写一份去西安的旅游计划"
model = AutoModelForCausalLM.from_pretrained("IDEA-CCNL/Ziya-Writing-LLaMa-13B-v1", torch_dtype=torch.float16, device_map="auto")
tokenizer = AutoTokenizer.from_pretrained("IDEA-CCNL/Ziya-Writing-LLaMa-13B-v1", use_fast=False)
inputs = ': ' + query.strip() + '\n:'
# 对输入进行分词和编码
input_ids = tokenizer(inputs, return_tensors="pt").input_ids.to(device)
generate_ids = model.generate(
            input_ids,
            max_new_tokens=2048,
            do_sample = True,
            top_p = 0.85,
            temperature = 0.85,
            repetition_penalty=1.,
            eos_token_id=2,
            bos_token_id=1,
            pad_token_id=0)
# 对生成文本进行解码
output = tokenizer.batch_decode(generate_ids)[0]
print(output)

8. 适合微调的开源项目

四、相关开源大模型排行榜

https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboard
截止20240629的排行榜：
在这里插入图片描述

Reference

[1] 论文：Instruction Tuning for Large Language Models: A Survey
[2] 地址：https://arxiv.org/pdf/2308.10792.pdf
[3] 论文链接：https://arxiv.org/abs/2308.06966
[4] GitHub链接：https://github.com/Alibaba-NLP/EcomGPT
[5] Llama 2：最强开源大模型简单体验及原理分析
[6] 人大综述：https://github.com/RUCAIBox/LLMSurvey
[7] 在大模型下，对于垂直领域 有必要从头训练一个大模型吗，微调方式可以替代训练大模型方式吗？
[8] LLM大模型的fine-tune如何避免过拟合？
[9] https://github.com/RonaldJEN/FinanceChatGLM/
[10] 国产大模型智谱 AI 详解千亿基座问答模型 GLM-130B。准确性指标与 GPT-3 相当
[11] 【报告】从GLM-130B到ChatGLM：大模型预训练与微调
[12] 姜子牙大模型系列 | 写作模型ziya-writing开源！开箱即用，快来认领专属你的写作小助手吧
[13] https://github.com/horseee/Awesome-Efficient-LLM#survey
[14] https://kg-nlp.github.io/Algorithm-Project-Manual/
[15] https://github.com/hiyouga/LLaMA-Efficient-Tuning/
[16] https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboard

山顶夕景
关注
专栏目录
LLM 大模型学习必知必会系列(一)：大模型基础知识篇
丨汀、的博客
05-09 1168
LLM 大模型学习必知必会系列(一)：大模型基础知识篇
LLMs之LLaMA-2：基于云端进行一键部署对LLaMA2模型实现推理(基于text-generation-webui)执行对话聊天问答任务、采用LoRA微调LLaMA-2-7B模型(配置云端环境【
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
07-30 2399
​ LLMs之LLaMA-2：基于云端进行一键部署对LLaMA2模型实现推理(基于text-generation-webui)执行对话聊天问答任务、同时微调LLaMA2模型(配置云端环境【A100】→下载数据集【datasets】→加载模型【transformers】→分词→模型训练【peft+SFTTrainer+wandb】→基于HuggingFace实现云端分享)之图文教程详细攻略 目录 一、基于云端(在Google Colab上)进行一键部署并推理 二、基于云端(在Google Co
LLM大模型
a910247的博客
02-03 359
在预训练阶段，LLM模型通过无监督学习从大规模的文本数据中学习语言的统计特征和语义信息。LLM模型是一种用于自然语言处理的语言模型，它是基于预训练的深度学习模型。LLM代表"Language Learning Model"，它的目标是通过大规模的文本数据来学习语言的表示和语义理解。在应用阶段，LLM模型可以用于各种自然语言处理任务，如文本分类、命名实体识别、情感分析等。LLM模型的优点是能够学习到丰富的语义表示，具有较好的泛化能力。它在自然语言处理任务中取得了很好的效果，并且被广泛应用于各种实际场景中。
使用 LlamaFactory 框架训练 Meta Llama3
大模型
09-15 1177
Amazon SageMaker 是一项机器学习服务，可帮助数据科学家和开发人员快速准备机器学习模型。它提供了全面的工具集，涵盖了从构建、训练到部署机器学习模型的整个过程，其功能涵盖了机器学习全流程，提供了完整的工具集，使数据科学家和开发人员能够快速构建、训练和部署机器学习模型，并持续优化模型性能。模块化设计，最小化了模型、数据集和训练方法之间的依赖，能够灵活地微调 100 多种预训练 LLM。
LLM 大模型
法海你懂不?
06-13 399
https://my.oschina.net/oscpyaqxylk/blog/8727824
LLM模型整理
weixin_50862344的博客
04-29 200
https://github.com/mooler0410/llmspracticalguide
老码农眼中的大模型（LLM）
我相信......
04-24 5299
即便全力奔跑，也不一定能跟上时代的步伐。但如果失去了学习的动力，很可能会被时代淘汰。而且，当时代淘汰我们的时候，往往不会有任何预警。基于大模型的 ChatGPT 给我们带来了极大的震撼，那么什么是大模型呢？1.大型语言模型大型语言模型 (LLM) 被简称为大模型，是一类基础模型。这些模型可以通过微调转移到许多下游任务，因为它们已经在大量无监督和非结构化数据的情况下进行了训练。像 GPT-3 或 B...
About Firefly(流萤): 中文对话式大语言模型(全量微调+QLoRA)，支持微调Llma2、Llama、Qwen、B
08-18
开源firefly-llama-13b，在Hugging Face的Open LLM排行榜上复刻Vicuna-13B，比Vicuna-13b-1.1略高0.2分，比llams-2-13b-chat略低0.5分。 支持训练LLaMA-2、ChatGLM2、Baichuan、通义千问Qwen-7B、书生·浦语...
LLM - 基于 Vicuna-13B 参数计算搭建私有 ChatGPT 在线聊天
Mystra
06-20 1994
LLaMA 和 Vicuna 都是大语言模型LLM，两者的差异如下：LLaMA (Large Language Model Meta AI)：开放和高效的基础语言模型，这是一系列从7B到65B参数的语言模型，使用公开可用的数据集进行训练，没有使用专有和无法获取的数据集。LLaMA-13B在大多数基准测试中超越了GPT-3 (175B)，LLaMA-65B 与最好的模型 Chinchilla-70B 和 PaLM-540B 相当。
LLM大模型综述
热门推荐
zh515858237的专栏
01-10 2万+
LLM其实就是large language model，大语言模型。如果对“最终任务”进一步进行分类，又大致可以分为两大不同类型的任务：自然语言理解类任务和自然语言生成类任务。如果排除掉“中间任务”的话，典型的自然语言理解类任务包括文本分类、句子关系判断、情感倾向判断等，这种任务本质上都是分类任务，就是说输入一个句子（文章），或者两个句子，模型参考所有输入内容，最后给出属于哪个类别的判断。自然语言生成也包含很多NLP研究子方向，比如聊天机器人、机器翻译、文本摘要、问答系统等。
最流行的开源 LLM （大语言模型）整理
互联网架构师笔记
05-19 5220
Large Language Model (LLM) 即大规模语言模型，是一种基于深度学习的自然语言处理模型，它能够学习到自然语言的语法和语义，从而可以生成人类可读的文本。
大模型LLM深入浅出、主打通俗易懂
SmallTenMr的博客
09-20 3090
众所周知，如果想直接训练蓝色的原始模型，将是十分耗费资源，需要8张A100显卡(A100目前市场价格13万一个)，并且训练中耗费大量电力资源(OpenAI的chatGPT-3训练一次的成本约为140万美元)，而为了节省资源，LoRA思想是将右边橘色的两个模型，先分别初始化为高斯分布和0，训练的时候固定预训练语言模型的参数(蓝色部分)，只训练降维矩阵 A 与升维矩阵 B，而模型的输入输出维度不变，输出时将 BA 与预训练语言模型的参数叠加。根据上述已知信息，简洁和专业的来回答用户的问题。
大模型(LLM)总结
AI研究院
06-09 683
九号：总结开源可用的Instruct/Prompt Tuning数据440 赞同 · 4 评论文章**如有本文未提到的大模型，欢迎读者评论区留言。
LLMs之Mixtral：Mixtral 8x7B(高质量的稀疏专家混合模型)的简介、安装、使用方法之详细攻略
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
12-12 6658
​ LLMs之Mixtral：Mixtral 8x7B(高质量的稀疏专家混合模型)的简介、安装、使用方法之详细攻略 目录 Mixtral 8x7B的简介 Mixtral 8x7B的安装 Mixtral 8x7B的使用方法 Mixtral 8x7B的简介 2023年12月11日，Mistral AI团队发布了高质量的稀疏专家混合模型Mixtral 8x7B。Mistral AI继续致力于向开发者社区提供最优秀的开放模型。在人工智能领域取得更大进展需要超越重新利用众所周
通向 AGI 之路：大型语言模型（LLM）技术精要
人工智能学家
01-10 1万+
来源：AI科技评论作者：张俊林本文经授权转载自知乎：https://zhuanlan.zhihu.com/p/597586623?utm_campaign=shareopn&utm_medium=social&utm_oi=37478916423680&utm_psn=1595705313004679168&utm_source=wechat_timeline&am...
一口气搞懂 LLM 大模型！LLM架构小白从入门到精通
最新发布
专注AI大模型,软件混淆,授权
10-14 964
LLM（Large Language Model）是基于大量文本数据训练的大规模深度学习模型，能够理解、生成和操作自然语言。通过大量数据的训练，LLM 学会了语言的规则、模式、上下文关系等，并能够生成连贯、自然的文本。以 OpenAI 的 GPT（Generative Pre-trained Transformer）为例，GPT 系列是最著名的 LLM，它通过在互联网上的海量文本数据上进行预训练，掌握了丰富的语言信息。
LLM（大语言模型）——大模型简介
telescopewang的博客
02-04 2万+
ChatGPT 的巨大成功激发了越来越多的开发者兴趣，他们希望利用 OpenAI 提供的 API 或者私有化模型，来开发基于大型语言模型的应用程序。尽管大型语言模型的调用相对简单，但要创建完整的应用程序，仍然需要大量的定制开发工作，包括API集成、互动逻辑、数据存储等等。为了解决这个问题，从 2022 年开始，许多机构和个人相继推出了多个开源项目，旨在帮助开发者们快速构建基于大型语言模型的端到端应用程序或工作流程。其中一个备受关注的项目就是 LangChain 框架。
大语言模型（LLM）及使用方法
FL1717的博客
06-08 4076
大语言模型（LLM，Large Language Model）是一种基于深度学习的自然语言处理技术，它使用深度神经网络来学习自然语言的统计规律，以便能够自动地生成、理解和处理自然语言。大语言模型（LLM）是指使用大量文本数据训练的深度学习模型，可以生成自然语言文本或理解语言文本的含义。使用大量文本数据训练的深度学习模型，可以生成自然语言文本或理解语言文本的含义。训练数据集：ChatGPT的训练数据集通常是大规模的自然语言文本数据集，例如维基百科、新闻报道、社交媒体帖子等。必应 (bing.com)
重磅首发！大模型LLM学习路线图来了！
xx_nm98的博客
04-16 2132
ChatGPT的出现在全球掀起了AI大模型的浪潮，2023年可以被称为AI元年，AI大模型以一种野蛮的方式，闯入你我的生活之中。从问答对话到辅助编程，从图画解析到自主创作，AI所展现出来的能力，超出了多数人的预料，让不少人惊呼：“未来是属于AI的”。AI大模型——成为互联网从业者必备技能。
如果llama 2是一种LLM模型
09-11
如果Llama 2是一种类似于LLM（Large Language Model，大型语言模型）的模型，它可能是用于自然语言处理的一种工具或库。在实际应用中，我们通常不会直接在C++中“调用”LLM模型，因为这类模型通常是通过API（Application Programming Interface）提供的，例如RESTful服务、gRPC或其他客户端库形式。 在C++中，你可能需要编写一段代码来与这个LLM模型交互，如发送HTTP请求或使用预先封装好的SDK。例如，你可以这样做： ```cpp #include <iostream> #include "llama2_api.h" // 假设这里有LLMA2的C++ API std::string input = "你好，Llama 2"; // 输入问题 auto response = llama2_query(input); // 调用API函数 if (response.success) { std::cout << "模型回答: " << response.answer << std::endl; } else { std::cerr << "查询失败: " << response.error_message << std::endl; } ```
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

山顶夕景

小哥哥给我买个零食可好

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值