大语言模型的百家齐放

最新推荐文章于 2024-04-11 10:06:26 发布
最新推荐文章于 2024-04-11 10:06:26 发布
阅读量1.9k 收藏 1
点赞数
分类专栏： 机器学习 深度学习 Ai 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xzpdxz/article/details/131358920
版权
机器学习 同时被 3 个专栏收录
11 篇文章 0 订阅
订阅专栏
Ai
8 篇文章 0 订阅
订阅专栏
深度学习
3 篇文章 0 订阅
订阅专栏

在这里插入图片描述

基础语言模型

概念

基础语言模型是指只在大规模文本语料中进行了预训练的模型，未经过指令和下游任务微调、以及人类反馈等任何对齐优化。

如何理解

  • 只包含纯粹的语言表示能力,没有指导性或特定目标。

  • 只在大量无标注文本上进行无监督预训练,用于学习语言表示。

  • 仅依靠大量文本中的统计信息来学习语言规律(语法、语义等)。

  • 未进行任何下游任务微调或优化,也没有使用任何人类注释的数据。

举个例子

  • 比如GPT模型,第一代GPT仅仅在大量书籍文本上进行了预训练,学习了语言表示。它只是一个生成模型,未进行下游任务微调。所以它可以看做是一个基础语言模型。

  • 而BERT模型则不同,BERT在预训练的基础上又进行了下游任务的微调,比如分类任务。所以BERT就不仅仅是一个基础语言模型。可以用于分类和检测这类任务。

  • 基础语言模型更偏向于纯粹的语言学习,专注于语言本身的规律,而非特定的应用。而下游任务微调则考虑了特定任务的需求,不再纯粹。

模型结构

Decoder-only

  • 绝大部分的语言模型都是Decoder-only 自回归语言模型的模型结构
  • 为什么？
  • 总结原因：LLM之所以主要都用Decoder-only架构，除了训练效率和工程实现上的优势外，在理论上是因为Encoder的双向注意力会存在低秩问题，这可能会削弱模型表达能力，就生成任务而言，引入双向注意力并无实质好处。而Encoder-Decoder架构之所以能够在某些场景下表现更好，大概只是因为它多了一倍参数。所以，在同等参数量、同等推理成本下，Decoder-only架构就是最优选择了。
  • 典型代表是：GPT系列
  • 理解

    • 通常情况下, Encoder和Decoder是分开训练的。

    • Decoder-only就是只有Decoder部分,而没有Encoder部分。

    • 这意味着:

      • 输入序列不需要编码为fixed-length向量。

      • Decoder直接以序列(如句子)为输入,开始解码。

    • Decoder-only的优点是:

      • 简单直接。只需要训练Decoder部分就可以,不需要单独训练Encoder。

      • 效率高。省去了Encoder的编码过程。

      • 依赖更少。不依赖Encoder提供的上下文。

Encoder-Decoder

  • 典型代表：GOOGLE开源的T5模型
  • 理解
    • 对比decoder-only，该结构需要训练encoder
    • 优点：
      • Encoder和Decoder分开训练,可以复用Encoder,也可以替换Decoder
    • 缺点：
      • 需要单独训练Encoder和Decoder。
      • 依赖Encoder提供的向量表示,效率较低。
      • 因使用固定向量表示,信息损失较多。
    • 用途两种差不多，但是效率decoder-only更高，更简单易用

GLM

典型代表：清华开源模型GLM-130B

  • 理解

    • GLM(General Language Model) 是泛指通用语言模型,包括各种预训练大规模语言模型。

    • 采用Transformer Encoder作为模型主体

    • 通过自上而下的预训练策略,在大量文本数据上进行自 supervised 学习

    • 主要通过Masked LM和第三方信息(如句子顺序)作为预训练任务

    • 主要用途偏句子顺序预测任务

Multi-task

典型代表：百度模型-ERNIE3.0-Titan,未开源

百家大模型

模型名称发布时间发布机构语言参数Tokens规模模型机构是否开源
T5Oct-19Google英13B无T5-style√
GPT-3May-20OpenAI英175B300BGPT-style×
LaMDAMay-21Google英137B2.8TGPT-style×
Jurass1cAug-21AI21英178B300BGPT-style×
MT-NLGOct-21Microsoft.NVIDIA英530B270BGPT-style×
ERNIE 3.0 TitanDec-21Baidu中260B300BMulti-task×
GopherDec-21DeepMMind英280B300BGPT-style×
ChinchillaApr-22DeepMind英70B1.4TGPT-style×
PaLMApr-22Google多语言540B780BGPT-style×
OPTMay-22Meta英125M-175B180BGPT-style√
BLOOMJul-22BigScience多语言176B366BGPT-style√
GLM-130BAug-22Tsinghua中、英130B400BGPT-style√
LLaMAFeb-23Meta多语言7B-65B1.4TGPT-style√

大模型示例

GPT3

  • GPT由OpenAI公司从2018年开始陆续提出的一系列预训练模型，目前一共有三个版本：GPT-1、GPT-2和GPT-3，不同版本的GPT模型结构相差不大，但是模型参数规模却不断变大，比如GPT-3就有1750亿个参数，是GPT-2的100倍，性能也逐渐变得强大，支持few-shot、one-shot和zero-shot等下游任务
GPT1论文
  • 采用“预训练-微调”的模式，在大规模无标记的文本语料上进行无监督的预训练，然后再在特定任务上进行有监督的微调
    在这里插入图片描述
GPT2论文
  • GPT-2模型结构和GPT-1相同是自回归语言模型，仍然使用Transformer的Decoder组成，预训练使用的数据以及模型参数规模但相比GPT-1变得更大，GPT-2模型参数规模大约是GPT-1的10倍左右，同时GPT-2采用多任务学习的预训练，对于下游任务主打zero-shot，不再需要微调即可使用
    在这里插入图片描述
GPT3论文
  • GPT-3延续了GPT-2的单向Transformer的自回归语言模型结构，但将模型参数规模是GPT-2的100倍，1750亿个参数。GPT-3不在追求zero-shot的设定，而是在下游任务中给定少量标注的样本让模型学习再进行推理生成。因此，GPT-3主要展示了超大规模语言模型的小样本学习能力
    在这里插入图片描述
微调方式

在这里插入图片描述

  • 论文通过大量的实验证明，在zero-shot、one-shot 和few-shot设置下，GPT-3 在许多 NLP 任务和基准测试中表现出强大的性能。GPT-3模型不需要任何额外的微调，就能够在只有少量目标任务标注样本的情况下进行很好的泛化，证明大力出奇迹，做大模型的必要性

GLM系列

  • GLM-130B 是清华大学与智谱AI共同研制的一个开放的双语（英汉）双向密集预训练语言模型，拥有 1300亿个参数，使用通用语言模型（General Language Model， GLM）的算法进行预训练。 2022年11月，斯坦福大学大模型中心对全球30个主流大模型进行了全方位的评测，GLM-130B 是亚洲唯一入选的大模型。GLM-130B 在广泛流行的英文基准测试中性能明显优于 GPT-3 175B(davinci)
  • 智谱AI是由清华大学计算机系技术成果转化而来的公司,致力于打造新一代认知智能通用模型。公司合作研发了双语千亿级超大规模预训练模型GLM-130B,并构建了高精度通用知识图谱,形成数据与知识双轮驱动
  • https://github.com/THUDM/GLM-130B
  • 智谱
    在这里插入图片描述
    在这里插入图片描述
与chatGPT对比

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

LLaMA

  • LLaMA 是 Meta AI 发布的包含 7B、13B、33B 和 65B 四种参数规模的基础语言模型集合，LLaMA-13B 仅以 1/10 规模的参数在多数的 benchmarks 上性能优于 GPT-3(175B)，LLaMA-65B 与业内最好的模型 Chinchilla-70B 和 PaLM-540B 比较也具有竞争力
  • 使用比通常更多的 tokens 训练一系列语言模型，在不同的推理预算下实现最佳的性能，也就是说在相对较小的模型上使用大规模数据集训练并达到较好性能。Chinchilla 论文中推荐在 200B 的 tokens 上训练 10B 规模的模型，而 LLaMA 使用了 1.4T tokens 训练 7B的模型，增大 tokens 规模，模型的性能仍在持续上升
  • https://github.com/facebookresearch/llama

指示学习

  • Instruction（指令）是指通过自然语言形式对任务进行描述。对于翻译任务，在对需要翻译的句子 “I Love You.” 前加入任务指令 “Translate the given English utterance to French script.”
    在这里插入图片描述
    在这里插入图片描述
  • 指示微调大模型
模型名称发布时间发布机构语言模态参数规模基础模型是否开源
GPT-3.5Jun-21OpenAI多语言文本175BGPT-3×
FLANSep-21Google英文本137BLaMDA×
T0Oct-21Hugging Face英文本13BT5√
Flan-PaLMOct-22Google多语言文本540BPaLM×
BLOOMZNov-22Hugging Face多语言文本176BBLOOM√
mT0Nov-22Hugging Face多语言文本13BmT5√
ChatGPTNov-22OpenAI多语言文本173BGPT3.5×
Alpaca2023/3/14StandFord英文本7BLLaMA√
ChatGLM2023/3/14Tsinghua中、英文本6B,130BGLM√
GPT-42023/3/14OpenAI多语言文本、图像GPT-4×
ERNIE Bot2023/3/15Baidu中文本、图像ERNIE×
Bard2023/3/21Google英文本137BLaMDA×

在这里插入图片描述

GPT-3.5 & ChatGPT 由来

历史
  • 2020年7月，发布GPT-3，最原始的 GPT-3 基础模型主要有 davinci、curie、ada 和 babbage 四个不同版本，其中 davinci 是功能最强大的，后续也都是基于它来优化的；
  • 2021年7月，发布Codex[25]，在代码数据上对 GPT-3 微调得到，对应着 code-davinci-001 和 code-cushman-001 两个模型版本；
  • 2022年3月，发布 InstructGPT[26] 论文，对 GPT-3 进行指令微调 （supervised fine-tuning on human demonstrations） 得到 davinci-instruct-beta1 模型；在指令数据和经过标注人员评分反馈的模型生成样例数据上进行微调得到 text-davinci-001，InstructGPT 论文中的原始模型对应着 davinci-instruct-beta；
  • 2022年6月，发布 code-davinci-002，是功能最强大的 Codex 型号，在文本和代码数据上进行训练，特别擅长将自然语言翻译成代码和补全代码；
  • 2022年6月，发布 text-davinci-002，它是在code-davinci-002 基础上进行有监督指令微调得到；
  • 2022年11月，发布 text-davinci-003 和 ChatGPT[27]， 它们都是在 text-davinci-002 基础上利用人类反馈强化学习 RLHF 进一步微调优化得到
    在这里插入图片描述
  • ChatGPT 是在 GPT-3.5 基础上进行微调得到的，微调时使用了从人类反馈中进行强化学习的方法（Reinforcement Learning from Human Feedback，RLHF），这里的人类反馈其实就是人工标注数据，来不断微调 LLM，主要目的是让LLM学会理解人类的命令指令的含义（比如文生成类问题、知识回答类问题、头脑风暴类问题等不同类型的命令），以及让LLM学会判断对于给定的prompt输入指令（用户的问题），什么样的答案输出是优质的（富含信息、内容丰富、对用户有帮助、无害、不包含歧视信息等多种标准）

Alpaca

由来
  • Alpaca（羊驼）模型是斯坦福大学基于 Meta 开源的 LLaMA-7B 模型微调得到的指令遵循（instruction-following）的语言模型。在有学术预算限制情况下，训练高质量的指令遵循模型主要面临强大的预训练语言模型和高质量的指令遵循数据两个挑战，作者利用 OpenAI 的 text-davinci-003 模型以 self-instruct 方式生成 52K 的指令遵循样本数据，利用这些数据训练以有监督的方式训练 LLaMA-7B 得到 Alpaca 模型。在测试中，Alpaca 的很多行为表现都与 text-davinci-003 类似，且只有 7B 参数的轻量级模型 Alpaca 性能可与 GPT-3.5 这样的超大规模语言模型性能媲美
  • https://github.com/tatsu-lab/stanford_alpaca
    在这里插入图片描述
  • 演进
    • https://github.com/Facico/Chinese-Vicuna
    • https://github.com/masa3141/japanese-alpaca-lora
    • https://github.com/LC1332/Chinese-alpaca-lora
    • https://github.com/Beomi/KoAlpaca

总结

  • 模型结构
  • 基础模型特点
  • 指示模型演变

参考

  • Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer https://arxiv.org/pdf/1910.10683.pdf
  • mT5: A Massively Multilingual Pre-trained Text-to-Text Transformer https://arxiv.org/pdf/2010.11934.pdf
  • Language Models are Few-Shot Learners https://link.zhihu.com/?target=https%3A//arxiv.org/pdf/2005.14165.pdf
  • LaMDA: Language Models for Dialog Applications https://arxiv.org/pdf/2201.08239.pdf
  • Jurassic-1: Technical Details and Evaluation https://uploads-ssl.webflow.com/60fd4503684b466578c0d307/61138924626a6981ee09caf6_jurassic_tech_paper.pdf
  • Using DeepSpeed and Megatron to Train Megatron-Turing NLG 530B, the World’s Largest and Most Powerful Generative Language Model https://arxiv.org/pdf/2201.11990.pdf
  • Scaling Language Models: Methods, Analysis & Insights from Training Gopher https://storage.googleapis.com/deepmind-media/research/language-research/Training%20Gopher.pdf
  • Training Compute-Optimal Large Language Models https://arxiv.org/pdf/2203.15556.pdf
  • PaLM: Scaling Language Modeling with Pathways https://arxiv.org/pdf/2204.02311.pdf
  • Pathways: Asynchronous Distributed Dataflow for ML https://arxiv.org/pdf/2203.12533.pdf
  • Transcending Scaling Laws with 0.1% Extra Compute https://arxiv.org/pdf/2210.11399.pdf
  • UL2: Unifying Language Learning Paradigms https://arxiv.org/pdf/2205.05131.pdf
  • OPT: Open Pre-trained Transformer Language Models https://arxiv.org/pdf/2205.01068.pdf
  • LLaMA: Open and Efficient Foundation Language Models https://arxiv.org/pdf/2302.13971v1.pdf
  • BLOOM: A 176B-Parameter Open-Access Multilingual Language Model https://arxiv.org/pdf/2211.05100.pdf
  • GLM-130B: An Open Bilingual Pre-Trained Model https://arxiv.org/pdf/2210.02414.pdf
  • ERNIE 3.0 Titan: Exploring Larger-scale Knowledge Enhanced Pre-training for Language Understanding and Generation https://arxiv.org/pdf/2112.12731.pdf
  • ERNIE 3.0: Large-scale Knowledge Enhanced Pre-training for Language Understanding and Generation https://arxiv.org/pdf/2107.02137.pdf
  • Is Prompt All You Need? No. A Comprehensive and Broader View of Instruction Learning https://arxiv.org/pdf/2303.10475v2.pdf
  • T0 Multitask Prompted Training Enables Zero-Shot Task Generalization https://arxiv.org/pdf/2110.08207.pdf
  • Finetuned Language Models Are Zero-shot Learners https://openreview.net/pdf?id=gEZrGCozdqR
  • Scaling Instruction-Finetuned Language Models https://arxiv.org/pdf/2210.11416.pdf
  • Crosslingual Generalization through Multitask Finetuning https://arxiv.org/pdf/2211.01786.pdf
  • GPT-3.5 https://platform.openai.com/docs/models/gpt-3-5
  • Evaluating Large Language Models Trained on Code https://arxiv.org/pdf/2107.03374.pdf
  • Training language models to follow instructions with human feedback https://arxiv.org/pdf/2203.02155.pdf
  • OpenAI Blog: Introducting ChatGPT https://openai.com/blog/chatgpt
  • OpenAI Blog: Introducing ChatGPT https://openai.com/blog/chatgpt
  • OpenAI Blog: GPT-4 https://openai.com/research/gpt-4
  • Alpaca: A Strong, Replicable Instruction-Following Model https://crfm.stanford.edu/2023/03/13/alpaca.html
  • ChatGLM：千亿基座的对话模型开启内测 https://chatglm.cn/blog
Mr.Lee jack
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Is Prompt All You Need? No. A Comprehensive and Broader View of Instruction Learning
c_cpp_csharp的专栏
08-30 89
任务语义可以通过一组输入输出示例或一条文本指令来表达。用于自然语言处理（NLP）的传统机器学习方法主要依赖于大规模任务特定示例集的可用性。出现了两个问题：首先，收集特定于任务的标记示例不适用于任务可能过于复杂或昂贵而无法注释的场景，或者系统需要立即处理新任务的场景；其次，这不是用户友好的，因为最终用户可能更愿意在使用该系统之前提供任务描述，而不是一组示例。因此，社区对NLP的一种新的监督寻求范式越来越感兴趣：从任务指令中学习。尽管取得了令人印象深刻的进展，但社会仍有一些共同的问题需要解决。
大语言模型 Large Language Model | LLM
JasonH2021的博客
07-16 1万+
本文简单介绍了大语言模型的基本概念，发展史，重大事件，主要算法，主要应用和面临的问题及挑战等。
什么是大语言模型？
逍遥壮士
04-02 7871
背景最近chagpt3|4非常火，导致业界很多人都觉得强人工智能很快就要取代我们这些工程师了，根据了解的确大语言模型建设的人工智能在未来的确可以取代一部分岗位，但是这是否意味着可以放慢脚步？什么是大语言模型？大语言模型 (LLM),全称：Large Language Models，LLMs， 代表着 AI 领域的重大进步，并有望通过习得的知识改变该领域。在过去几年中，LLM 的规模每年增加 10 ...
大语言模型（Large Language Model，LLM）简介
l8947943的博客
03-24 811
它是一种基于深度学习的人工智能模型，它从大量来自书籍、文章、网页和图像等来源的数据中学习，以发现语言模式和规则，如处理和生成自然语言文本。通常，大语言模型含数百亿（或更多）参数。
一文读懂大语言模型
残星说梦话
05-21 3603
以ChatGPT为代表的大语言模型被很多人认为是新一轮科技革命的起点，本文旨在通过概念性介绍，让普通人能够尽可能理解人工智能以及大语言模型的基本概念，从而了解这些技术能做以及不能做什么。原文: A Very Gentle Introduction to Large Language Models without the Hype[1] 0. 简介 本文旨在让没有计算机科学背景的人对ChatGPT和类似的人工智能系统(GPT-3、GPT-4、Bing Chat、Bard等)的工作原理有一些了解。ChatG
大语言模型介绍(一)
kissshot13的博客
06-14 3066
由于ChatGPT的火爆把大语言模型这个新名词推到了大众的视野里。那么，什么是大语言模型?什么是GPT？WIKI百科对大语言模型是这样解释的。大语言模型 (英语：large language model，LLM) 是一种语言模型，由具有许多参数（通常数十亿个权重或更多）的神经网络组成，使用自监督学习或半监督学习对大量未标记文本进行训练。大型语言模型在 2018 年左右出现，并在各种任务中表现出色。尽管这个术语没有正式的定义，但它通常指的是参数数量在数十亿或更多数量级的深度学习模型。
大语言模型初学者指南 (2023)
FrenzyTechAI的博客
08-23 2235
简而言之，大语言模型是在巨大数据集上训练以理解人类语言的深度学习模型。其核心目标是准确地学习和理解人类语言。大语言模型使机器能够像我们人类解释语言一样解释语言，彻底改变了计算机理解和生成人类语言的方式。大语言模型学习语言中单词之间的模式和关系。例如，它理解语言的句法和语义结构，如语法、单词顺序以及单词和短语的含义。它获得了掌握整个语言本身的能力。过去，语言处理严重依赖于遵循预定义指令的基于规则的系统。然而，这些系统在捕捉人类语言复杂而细致的方面面临着局限性——深度学习和神经网络的出现带来了重大突破。
百家姓数据库文件（mysql）
03-19
百家姓数据库文件
百家姓数据库
10-16
《百家姓》作品原文共 503 个姓氏,其中单姓:442 个,复姓:61 个
e语言-易语言分割百家姓图片
08-23
易语言分割百家姓图片源码例程程序结合易语言画板，实现百家姓图片的分割。
百家姓带拼音mysql
02-24
带拼音版百家姓，内含建表语句及数据，表中字段有中文姓氏和对应拼音，数据1000+，很全面，含常见姓氏、生僻及复姓，自己整理的，望支持哈
百家号视频搬运项目，通过搬运视频放大收益，可批量起号
09-25
之前分享过百家号微动态矩阵玩法，很多粉丝对MCN这一块反应比较麻烦，那么今天给大家带来的这种最新玩法，就完全没有MCN壁垒，只需要简单的搬运就可以了 废话不说，直接往下看 1，工作室推出了一种全新的百家号...
你知道什么是大语言模型吗
Fsafn的博客
06-25 1411
顾名思义，大语言模型指的是比较“大”的（神经网络）语言模型，它们以自上文推理词语概率为核心任务。随着机器学习和深度学习技术的不断发展，人工智能的应用范围越来越广泛，而大语言模型则成为了自然语言处理、文本生成和对话系统等领域的重要组成部分。例如，GPT-2的参数数量是GPT-1的10倍，为1.5亿个。总的来说，大语言模型的发展让自然语言处理领域取得了巨大的进展，使得我们可以更加高效地处理文本和自然语言相关的任务。这些模型的优势在于可以利用海量的数据进行训练，从而学习到一些常见的语言规律和模式。
一文读懂“大语言模型”
热门推荐
明明如月的技术博客
05-22 1万+
深度学习是机器学习的分支，大语言模型是深度学习的分支。机器学习是人工智能（AI）的一个子领域，它的核心是让计算机系统能够通过对数据的学习来提高性能。在机器学习中，我们不是直接编程告诉计算机如何完成任务，而是提供大量的数据，让机器通过数据找出隐藏的模式或规律，然后用这些规律来预测新的、未知的数据。深度学习是机器学习的一个子领域，它尝试模拟人脑的工作方式，创建所谓的人工神经网络来处理数据。这些神经网络包含多个处理层，因此被称为“深度”学习。
LLM（一）：大语言模型
最新发布
2301_81888214的博客
04-11 981
自2022年，ChatGPT发布之后，大语言模型（Large Language Model），简称LLM掀起了一波狂潮。作为学习理解LLM的开始，先来整体的理解一下大语言模型
大语言模型排行榜 | Vicuna夺冠，清华ChatGLM进前5！（UC伯克利发布）
idol24的博客
05-05 848
本文来源 新智元 编辑：好困【新智元导读】万万没想到，现在大语言模型们也要像王者荣耀/LoL/Dota这些游戏里的玩家一样打排位赛了！据说，那些闭源模型们很快也会被拉出来溜溜。最近，来自LMSYS Org（UC伯克利主导）的研究人员又搞了个大新闻——大语言模型版排位赛！顾名思义，「LLM排位赛」就是让一群大语言模型随机进行battle，并根据它们的Elo得分进行排名。然后，我们就能一眼看出，某...
大语言模型
u013472539的博客
05-20 296
背后，就是GPT这个大模型在发挥作用（Generative Pre-trained Transformer），翻译为“基于Transformer的生成式预训练模型”（引号里的中文值得逐字理解），通俗点讲，这个模型的目的就是理解用户所输入的文字，然后计算答案，然后用用户能懂的语言进行呈现。企业在应用AI能力时，GPT可以定义为一个理解自然语言的初始模型，为更好地应用在业务场景中，可以在GPT的基础上进行微调，理解为一个有监督学习的过程，输入业务数据或领域数据集，让它能读懂业务数据并按需输出。
NLP领域大语言模型汇总
千里之行始于足下
03-28 4513
大语言模型是近年来人工智能领域重要研究方向之一。它们是基于深度学习技术构建的神经网络，可以自动学习和生成自然语言文本，如文章、对话、诗歌、代码等等。本文主要真针对目前比较火热的自然语言大语言模型，进行简单介绍，LLM包括了OpenAI的ChatGPT、百度文心一言、清华的GLM等模型。
百家买百鸡python
01-11
百家买百鸡是一个经典的数学问题，可以用Python来解决。问题的描述是：有100块钱要买100只鸡，其中公鸡5块钱一只，母鸡3块钱一只，小鸡1块钱三只。问公鸡、母鸡和小鸡各有多少只？ 以下是一个解决百家买百鸡问题的...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值