一 大语言模型及应用场景
1 AIGC
2 ChatGTP
Chat
人工智能应用
GPT
生成型大模型
交互
搜索系统
推荐系统
对话系统
3 GPT关键技术
Transform模型结构
PTM预训练大模型
学习方式
Prompt
CoT 思维链
RL 强化学习
RLHF 基于人类反馈的强化学习
4 应用方向
1 信息抽取
2 文案生成
3 流程优化
实际应用案例
MS Office
AI+数据库软件生成SQL
OpenAI+NovalAI
二 大模型时代下的AI智能体应用
LangChain
1 AI Agents工具使用
任务规划
方式一 任务分解
思维链
思维树 多个思维链的集合
思维图
外挂规划器
① 问题转化为问题PDDL
撰写报告
知识库
领域搜索
文档审核
综合办公
智能翻译
三 大语言模型的基本原理与问答实例
1 大语言模型的基本逻辑
2 Transformer
Attention is all you need
文字->encoder->向量数据->由decoder提取
① 机器翻译极简史
早期 一个汉字对应一个单子,导致翻译没有逻辑
循环神经网络,逻辑是一句话中相近的字关联关系更强
注意力机制
意图->事物的抽象特征->被定位的具体事物
不同的人,对其他人的注意力是不一样的
3 应用
提示工程
任务描述+提示
任务描述+样本示例+要求
精调
4 案例 NL2SQL
自然语言输入->生成SQL语言->执行
四 基于大语言模型基本原理及应用
1 大模型应用落地思路
构建提示词
给定角色:引导模型进入具体场景,赋予其特定角色
描述问题:要解决的问题,可以由背景,示例,以及上下文等
给定目标:要实现什么结果
指令微调 Lora
2 知识库检索问答应用
整体技术路线
五 大模型在智能软件测试的应用
1 需求规格说明书分析
2 自动化测试脚本
3 单元代码注释
了解源码以及源码调用比较困难,通过大模型对源码的标注,注释,可以提高人工可读性
4 搭建本地知识库
5 对比分析
六 大模型微调技术
七 自己的实践
1、生成图片
现在起,当我想要你发送图片、照片时,用Markdown写,不要有反斜钱,不要用代码块用unsplashAPhttp://source.unsplash.com/1280-720/7)
如果听懂了请回复,以后都需要这样。
2、自动生成调用API的代码示例
① 也不知道这句话有没有用,反正我第一次尝试
② 自己把深信服的API文档输入,因为不能上传文档
③自动出结果了
代码如下:
import requests
import json
# 获取token
def get_token(url, username, password):
headers = {'Content-Type': 'application/json'}
data = {
'username': username,
'password': password
}
response = requests.post(url, headers=headers, data=json.dumps(data))
return response.json()['token']
# 查看虚拟服务
def get_virtual_service(url, token, name):
headers = {'Content-Type': 'application/json', 'x-token': token}
response = requests.get(url + '/v2/slb/virtual-service/' + name, headers=headers)
return response.json()
# 编辑虚拟服务
def edit_virtual_service(url, token, name, service, pool, vips, vports):
headers = {'Content-Type': 'application/json', 'x-token': token}
data = {
'name': name,
'service': service,
'pool': pool,
'vips': vips,
'vports': vports
}
response = requests.patch(url + '/v2/slb/virtual-service/' + name, headers=headers, data=json.dumps(data))
return response.json()
# 新建虚拟服务
def create_virtual_service(url, token, name, service, pool, vips, vports):
headers = {'Content-Type': 'application/json', 'x-token': token}
data = {
'name': name,
'service': service,
'pool': pool,
'vips': vips,
'vports': vports
}
response = requests.post(url + '/v2/slb/virtual-service/', headers=headers, data=json.dumps(data))
return response.json()
# 查看节点池
def get_node_pool(url, token, name):
headers = {'Content-Type': 'application/json', 'x-token': token}
response = requests.get(url + '/v2/slb/pool/' + name, headers=headers)
return response.json()
# 编辑节点池
def edit_node_pool(url, token, name, method, persist, alternate_persist, service_monitors, nodes):
headers = {'Content-Type': 'application/json', 'x-token': token}
data = {
'name': name,
'method': method,
'persist': persist,
'alternate_persist': alternate_persist,
'service_monitors': service_monitors,
'nodes': nodes
}
response = requests.patch(url + '/v2/slb/pool/' + name, headers=headers, data=json.dumps(data))
return response.json()
# 新建节点池
def create_node_pool(url, token, name, method, persist, alternate_persist, service_monitors, nodes):
headers = {'Content-Type': 'application/json', 'x-token': token}
data = {
'name': name,
'method': method,
'persist': persist,
'alternate_persist': alternate_persist,
'service_monitors': service_monitors,
'nodes': nodes
}
response = requests.post(url + '/v2/slb/pool/', headers=headers, data=json.dumps(data))
return response.json()