智能体开发-8.11

大模型开发背景

1.什么是大模型开发

开放的大模型API、本地部署的开源大模型      开放API如：GPT-40、GLM、Qwen
                                                                         本地部署如：GLM、Qwen、InternLM
外接知识库、外接专业知识       外接搜索引擎、天气查询、代码书写等接口

Prompt工程及流程化      如何控制智能体的交互流程、如何构建Prompt使大模型更好地发挥作用

2.大模型的固有缺陷

不具备知识出现幻觉：使用外接知识库给LLM提供知识

无法解决复杂逻辑任务：多个LLM协同，各司其职

不擅长数学运算：使用外接工具如计算器等

3.如何利用LLM搭建自己的AI智能助手

步骤：
1.获取LLM：国外：GPT4o比较便宜
                     国内：阿里的通义千问、智谱AI的GLM 都是有开源可以自己运行，也可以调用API使                                  用
2.工具包开发：如刚刚提到的网页搜索、代码生成等，在此期间，需要将工具包的描述书写清楚，                           以便于LLM解析，（如：调用工具包需要的参数及描述）
3.提示词设计
4.处理模型的回答：LLM返回的数据中，包含了是否使用工具等信息，如果没有则将LLM返回的消                                 息直接显示给用户如果有，则根据LLM返回的固定格式信息（如json）解析出                                 来,作为参数调用对应的工具包，将工具包返回的信息输入到LLM中并告知这是                                 调用该工具包返回的结果。最后将LLM的输出返回给用户
 

Prompt工程

Few-shot：使用少量例子给LLM作为上提示

Zero-shot：不使用例子输入，仅使用指令

CoT：思维链，让LLM有思考的过程

可控生成：是用Prompt控制LLM生成我们想要的格式方便后期进行解析
 

检所增强生成

检索增强生成是一种结合了信息检索和自然语言生成技术的自然语言处理模型。它旨在通过从外部知识源检索相关信息，辅助大型语言模型（如GPT系列）生成更准确、更丰富的文本内容，从而提高模型在处理复杂任务时的性能和效率。

大模型智能体

利用大规模数据集和先进算法训练得到的大型语言模型，通过构建智能体框架，实现与环境的交互和任务的自动化处理。