“第二课堂“AI实践笔记5---基于大语言模型的智能体入门

1.大模型开发背景

1）大模型工作原理

2）大模型的固有缺陷                

（1）不具备知识出现幻觉     使用外接知识库给LLM提供知识                   

（2）无法解决复杂逻辑任务  多个LLM协同各施其职

（3）不擅长数学运算             使用外接工具，如计算器

3）什么是大模型开发

（1）开放的大模型API（GPT-4o、GLM、Qwen）、本地部署的开源大模型（GLM、Qwen、lnternLM）

（2）外接知识库。外接专业工具

（3）Prompt工程及流程化

4）如何调用OpenAI GPT3&4模型API

（1）用openai库调用

（2）requests原生请求

2.Prompt工程

1）主流Prompt工程

（1）Few-shot(使用少量例子给LLM作为上提示)

（2）Zero-shot(不使用例子输入，仅使用指令)

（3）CoT(思维链，让LLM有思考的过程)

（4）可控生成(是用Prompt控制LLM生成我们想要的格式方便后期进行解析)

3.检索增强生成

1）文本向量方法

（1）one-hot编码

（2）整数编码

（3）word embedding

3）检索

【下载】【切片】【嵌入】【存储】

4）格式化

4.大模型智能体

1）智能体

2）如何利用LLM搭建自己的AI智能助手

（1）获取LLM

（2）工具包开发

（3）提示词设计

（4）处理模型的回答