大语言模型

一 大语言模型及应用场景

1 AIGC 

2 ChatGTP

  Chat

        人工智能应用

  GPT

        生成型大模型

  交互

        搜索系统

        推荐系统

        对话系统

3 GPT关键技术

        Transform模型结构

        PTM预训练大模型

        学习方式

                Prompt

                CoT 思维链

                RL 强化学习 

                RLHF 基于人类反馈的强化学习

4 应用方向

        1 信息抽取

        2 文案生成

        3 流程优化

        实际应用案例

                MS Office

                AI+数据库软件生成SQL

                OpenAI+NovalAI

二 大模型时代下的AI智能体应用

        LangChain 

        1 AI Agents工具使用

        任务规划

                方式一 任务分解

                        思维链

                        思维树 多个思维链的集合

                        思维图

                        外挂规划器

                                ① 问题转化为问题PDDL

                      

        撰写报告

        知识库

        领域搜索

        文档审核       

        综合办公

        智能翻译

三 大语言模型的基本原理与问答实例

1 大语言模型的基本逻辑

2 Transformer

        Attention is all you need

        文字->encoder->向量数据->由decoder提取

① 机器翻译极简史

        早期 一个汉字对应一个单子，导致翻译没有逻辑

        循环神经网络，逻辑是一句话中相近的字关联关系更强

        注意力机制

                意图->事物的抽象特征->被定位的具体事物

                不同的人，对其他人的注意力是不一样的        

3 应用

        提示工程

                任务描述+提示

                        任务描述+样本示例+要求

        精调

4 案例 NL2SQL

        自然语言输入->生成SQL语言->执行

四 基于大语言模型基本原理及应用

1 大模型应用落地思路

                构建提示词

                        给定角色：引导模型进入具体场景，赋予其特定角色

                        描述问题：要解决的问题，可以由背景，示例，以及上下文等

                        给定目标：要实现什么结果

                指令微调 Lora

2 知识库检索问答应用

        整体技术路线

五 大模型在智能软件测试的应用

1 需求规格说明书分析

2 自动化测试脚本

3 单元代码注释

         了解源码以及源码调用比较困难，通过大模型对源码的标注，注释，可以提高人工可读性

4 搭建本地知识库

5 对比分析

六 大模型微调技术

七 自己的实践

1、生成图片

现在起，当我想要你发送图片、照片时，用Markdown写，不要有反斜钱，不要用代码块用unsplashAPhttp://source.unsplash.com/1280-720/7)
如果听懂了请回复，以后都需要这样。

2、自动生成调用API的代码示例

① 也不知道这句话有没有用，反正我第一次尝试

② 自己把深信服的API文档输入，因为不能上传文档

③自动出结果了

代码如下：

import requests
import json

# 获取token
def get_token(url, username, password):
    headers = {'Content-Type': 'application/json'}
    data = {
        'username': username,
        'password': password
    }
    response = requests.post(url, headers=headers, data=json.dumps(data))
    return response.json()['token']

# 查看虚拟服务
def get_virtual_service(url, token, name):
    headers = {'Content-Type': 'application/json', 'x-token': token}
    response = requests.get(url + '/v2/slb/virtual-service/' + name, headers=headers)
    return response.json()

# 编辑虚拟服务
def edit_virtual_service(url, token, name, service, pool, vips, vports):
    headers = {'Content-Type': 'application/json', 'x-token': token}
    data = {
        'name': name,
        'service': service,
        'pool': pool,
        'vips': vips,
        'vports': vports
    }
    response = requests.patch(url + '/v2/slb/virtual-service/' + name, headers=headers, data=json.dumps(data))
    return response.json()

# 新建虚拟服务
def create_virtual_service(url, token, name, service, pool, vips, vports):
    headers = {'Content-Type': 'application/json', 'x-token': token}
    data = {
        'name': name,
        'service': service,
        'pool': pool,
        'vips': vips,
        'vports': vports
    }
    response = requests.post(url + '/v2/slb/virtual-service/', headers=headers, data=json.dumps(data))
    return response.json()

# 查看节点池
def get_node_pool(url, token, name):
    headers = {'Content-Type': 'application/json', 'x-token': token}
    response = requests.get(url + '/v2/slb/pool/' + name, headers=headers)
    return response.json()

# 编辑节点池
def edit_node_pool(url, token, name, method, persist, alternate_persist, service_monitors, nodes):
    headers = {'Content-Type': 'application/json', 'x-token': token}
    data = {
        'name': name,
        'method': method,
        'persist': persist,
        'alternate_persist': alternate_persist,
        'service_monitors': service_monitors,
        'nodes': nodes
    }
    response = requests.patch(url + '/v2/slb/pool/' + name, headers=headers, data=json.dumps(data))
    return response.json()

# 新建节点池
def create_node_pool(url, token, name, method, persist, alternate_persist, service_monitors, nodes):
    headers = {'Content-Type': 'application/json', 'x-token': token}
    data = {
        'name': name,
        'method': method,
        'persist': persist,
        'alternate_persist': alternate_persist,
        'service_monitors': service_monitors,
        'nodes': nodes
    }
    response = requests.post(url + '/v2/slb/pool/', headers=headers, data=json.dumps(data))
    return response.json()