Datawhale AI 夏令营 Task01 学习心得-CSDN博客

本文链接：https://blog.csdn.net/2301_76498656/article/details/141107466

探索大模型应用开发的奇妙之旅

大家好,我是一名大模型应用开发的入门学习者。最近,我参加了一个超棒的学习活动,带我打开了通向大模型世界的神奇大门。虽然在之前的开放原子的职场校园培训课上已经学习过一些大模型开发的知识课程并获得了对应的认证证书。但Datawhale此次的夏令营明显更加充分全面，让我重新系统全面地梳理了大模型四代的前世今生，以及当下最热门的一些工程和对应的基础知识。

初识大模型,惊叹科技魅力

还记得第一次听说"大模型"这个概念时,我的脑海中闪过无数个问号❓❓❓ 它到底是什么?为何如此令人神往?经过一番学习,我逐渐揭开了它神秘的面纱。

原来,大模型是指那些通过海量数据训练而成的强大神经网络。它们往往拥有亿级别的参数,堪比人脑的神经元数量!更令人惊叹的是,这些模型不仅可以理解人类的语言,还能根据上下文生成连贯的文本,甚至完成创作、问答、翻译等高难度任务。科技的魅力,不正体现在这些超乎想象的非凡能力中吗?

让我们一起感受一下大模型的风采吧!下面这段Python代码,展示了如何用几行简单的代码,就能让大模型来当你的"写作助手":

from transformers import pipeline
# 加载预训练的GPT-2模型
generator = pipeline('text-generation', model='gpt2')
# 给定文本提示,让模型续写文章
prompt = "Once upon a time, in a faraway land, there was a brave princess who"
continuation = generator(prompt, max_length=100, num_return_sequences=1)
print(continuation[0]['generated_text'])

瞧,只需给定一个开头,大模型就能自动生成一个童话故事!你是不是也开始对大模型的应用开发跃跃欲试了呢?别急,接下来我们一层层揭开它的神奇面纱。

探究大模型的构建之道

大模型的强大能力,源于其独特的构建方式。记得刚接触这些概念时,我常常被"预训练"、“微调”、"RLHF"等术语搞得一头雾水。但当我亲身实践,跟着教程一步步操作时,才恍然大悟,原来大模型的构建可以被拆解为几个关键阶段:

预训练:就像学习一门外语,大模型首先要打好基础。通过在海量语料上训练,模型掌握了语法、语义、常识等基本能力。这一阶段的秘诀在于"得天下数据者得天下"😝
有监督微调:打好基础后,我们要让模型学会解决具体任务。这时,就需要用带标签的数据集对模型再训练一遍。如果说预训练是在上小学,那微调就是在学专业知识了。
人类反馈对齐:微调后的模型已经很厉害,但在实际应用中,我们还希望它能更懂人心,符合人类的价值观。这就需要收集人类的偏好反馈,再用强化学习的方法调教模型,这个过程有点像是在培养模型的情商😄

# 微调示例代码
from transformers import AutoModelForSequenceClassification, TrainingArguments, Trainer
# 加载预训练模型
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)
# 定义训练参数
training_args = TrainingArguments(
output_dir='./results', # 输出目录
num_train_epochs=3, # 训练轮数
per_device_train_batch_size=16, # 训练批大小
per_device_eval_batch_size=64, # 评估批大小
warmup_steps=500, # 热身步数
learning_rate=5e-5, # 学习率
weight_decay=0.01, # 权重衰减
)
# 创建训练器
trainer = Trainer(
model=model, # 模型
args=training_args, # 训练参数
train_dataset=train_dataset, # 训练集
eval_dataset=eval_dataset # 评估集
)
# 开始微调
trainer.train()

这个微调的代码片段是不是看起来很专业?😎其实背后的原理并不难理解,关键是要多动手实践。

探寻开源模型的宝藏

一路学习下来,我逐渐意识到,开源社区是学习大模型应用开发的富矿。像GPT、BERT、LLaMA等耳熟能详的大模型,很多都有开源版本供我们学习、使用、改进。记得导师曾经告诉我:"站在巨人的肩膀上,你能看得更远。"😉 这句话太有道理了!

让我们一起来探寻这些开源宝藏吧!我最近刚好在学习浪潮信息开源的Yuan模型,它是国内首个百亿级中英文大模型,堪称中文AI的里程碑。下面就让我用Yuan模型的API,搭建一个简单的问答机器人,展示一下大模型应用开发的乐趣:

import requests
# 定义API接口地址和参数
url = "https://mt7trktabc.waimao.ai/"
prompt = "中国的首都是哪里?"
params = {
"prompt": prompt,
"userId": "demo",
"memMax": 16*1024, # 最大内存
"length": 1024, # 生成长度
"repeatPenalty": 0.1, # 重复惩罚
"topP": 0.5, # Top-p采样参数
"topK": 0, # Top-k采样参数
"slotId": "Yuan-Dialog"
}
# 调用API获取模型输出
response = requests.post(url, params=params)
result = response.json()
# 打印对话结果
print("问:", prompt)
print("答:", result["data"]["reply"])

运行一下,看看Yuan模型的回答如何:

问: 中国的首都是哪里?
答: 中国的首都是北京。

哇,回答得真准确!😲看到了吗,有了开源大模型的加持,即使是编程小白,也能快速开发出一个智能对话系统。这就是开源的魅力所在!

应用开发全攻略

光欣赏开源模型的强大还不够,我们更需要掌握大模型应用开发的实战技巧。以下就是我的学习心得分享,帮你打通任督二脉:

Prompt工程:这可是开发大模型应用的看家本领!给模型什么样的指令,它就会给你什么样的输出。学会设计精巧的Prompt,你就能呼风唤雨,让大模型为你所用。
外挂知识库:大模型虽然博学多才,但难免有记不住的东西。这时候,我们就可以给它装上"外挂",把额外的知识存入向量数据库,再通过检索技术输入给模型,让它如虎添翼。
参数高效微调:人无完人,模型亦有不足。当遇到模型不擅长的任务时,我们可以用少量训练数据对其微调,如同针对性补习。但全参数微调成本太高,参数高效微调技术就成了训练提速的秘籍。

除此之外,客户端、服务端的实现也是大模型应用开发的必修课。一个优秀的应用,既要有友好易用的交互界面,又要有高效稳定的后台服务。这需要我们全栈开发的功力。