AI 大模型有哪些实际落地场景

答案是肯定的呀，现在AI大模型已经在很多场景上都落地了。

如果说2023年大家是大模型基座井喷的一年，那么今年就是大模型应用爆发的一年。

并且现在很多大模型应用都已经比较成熟，例如：角色扮演，智能问答、辅助写作、代码编程、生活顾问、论文助手等。AI大模型毫无疑问已经成为了生活上和工作上的利器。

并且随着现在大模型基座模型的效果越来越好，构建下游应用的成本也变得更低，更容易。目前国内的基座大模型发展的也是十分迅速，像智谱 BigModel开放平台的GLM系列大模型就可以快速搭建上面提到应用。

前几天智谱 BigModel开放平台又更新了“-Plus”旗舰模型，有GLM-4-Plus、GLM-4V-Plus和CogView-3-Plus。其中GLM-4-Plus模型在语言理解、指令遵循、长文本处理等方面性能得到全面提升，尤其对复杂的数学或逻辑问题任务。

https://zhipuaishengchan.datasink.sensorsdata.cn/t/vF

并且从各大榜单上来看，GLM-4-Plus模型也是直逼GPT4-o、Claude3.5等模型的效果。

最近大模型市场也是卷的有点离谱，不仅效果要好，价格也要低。GLM-4-Plus模型也是加量不加价，甚至加量还降价，相较于GLM-4-0520模型要便宜一半。

回归正题，在这里就说两个大模型真实落地的场景，一个是设备报修信息收集应用，另一个是个人助手AI应用，并且利用GLM-4-Plus模型来快速构建。

设备报修信息收集应用

我们在公司工作时，当一些设备出现故障时，往往要找专门的人来进行维修，而在前期对话交流过程中，维修人员通常需要收集一些报修的信息，例如：姓名、电话、报修设备、故障描述等。甚至可能存在不同设备有不同维修人员进行维修的情况。

那么如果有个AI机器人，可以自动与用户进行对话，并收集相关信息存入系统中，再根据具体信息情况，后面通知对应的维修人员，就可以节省很大一部分人员交流的成本。

我们就用提示工程在GLM-4-Plus模型基础上搭建一个这样的设备报修信息收集的AI应用。一般提示词可以有多个部分组成，例如：Role（角色），Goals（目标）、Constrains（约束）、Skills（角色技能）、Workflow（工作流）、Example（样例）、Initialization（初始化信息）等。

将提示词进行结构化，不仅可以让提示词更加清晰，也可以让大模型更容易理解。具体编写的提示词如下：

## Role: 设备维修员

## Goals
在与用户对话过程中，准确收集用户的报修信息，包括联系人姓名、联系人电话、报修设备、故障描述。

## Constrains
保持对话中的原文内容，准确提取联系人姓名、联系人电话、报修设备、故障描述四种信息。

## Skills
- 报修设备仅包括：电脑、电话、U盘、打印机，对于不属于这几种的设备，回复样例：“抱歉，您报修的设备不在报修范围内容。”
- 联系人电话必须为11位的手机号码，如果不是11，就要求用户重新提供。回复样例：“您提供的联系电话似乎不符合我们的要求。请您重新提供。”
- 询问用户信息的时候，不要给用户假设，要从用户的对话中提取信息，不要自己给用户设定信息。

## Workflow
1、信息收集阶段：
- 按顺序询问用户以下信息：报修设备、故障描述、联系人姓名、联系电话。
- 当用户提供多个信息时，同时收集多个，并将询问用户剩余的信息，直到所有信息都被收集完毕。
2、信息确认阶段：
- 当所有信息收集完成后，整理并与用户确认信息是否准确，回复样例：“再与您核对一下信息：报修设备为‘{设备}’，故障为‘{故障}’，联系人姓名为‘{姓名}’，联系电话为‘{电话}”。
- 以用户提供的最终信息为准，若修改了信息，需要重新进行信息收集和确认。
- 当用户确认完毕之后，结束对话，回复样例：“好的，感谢您的配合，信息已经收集完成，稍后会派相关人员为您解决问题！”

## Example
你：您好，很高兴为您服务！请告诉我您的报修需求。
用户：我的打印机坏了。
你：好的，您的打印机具体是什么故障呢？
用户：卡纸，一直不出纸。
你：明白了，打印机卡纸了。能告诉我联系人的姓名吗？
用户：李四。
你：好的，联系人是张三，最后，麻烦提供下联系电话。
用户：13867851237。
你：收到，联系电话是13867851237。最后确认一下，报修设备为打印机，故障描述为卡纸，联系人姓名是李四，联系电话是13867851237。这些信息都正确吗？
用户：正确。
你：好的，感谢您的配合，信息已经收集完成，稍后会派相关人员为您解决问题！

## Initialization
开始，需要说开场白，样例：“您好，很高兴为您服务！请告诉我您的报修需求。”

在控制台处的体验中心，模型部分选择glm-4-plus，将上面的提示词，直接输入到对话框中，就可以开始应用体验。

整个对话结果如下图所示，在整个对话过程中，均按照流程进行信息收集，并且当信息确认阶段出现修改信息时，也按照要求重新进行了信息收集。

当同时提供姓名和电话两个信息的时候，会按照要求直接收集，不会多次反问。

当电话号码位数不对的情况下，也可以进行反问确认，符合制定的要求。可以看出GLM-4-Plus模型的指令遵循能力和理解能力都十分强大。

当然，上面提供的场景样例仅收集4个信息，如果需要更复杂的场景，可以丰富提示词，并且如果对大模型流程处理不满意的话，也可以通过增加具体的约束来提升应用的整体效果。

PS：如果大模型效果不理想，要反思一下，是不是自己没有用好，是否真正激发了大模型所有的潜力。

一般在体验中心根据测试效果来逐步调整、优化提示词，当一切结束之后，可以通过代码API的形式进行模型的调用，这样也更方便将应用集成到任意的系统当中。

首先需要从BigModel开放平台获取响应的API Key，点击“API 密钥获取”

然后通过代码进行调用，如下：

from zhipuai import ZhipuAI

client = ZhipuAI(api_key="")
system_prompt = "你是一个乐于解答各种问题的助手，你的任务是为用户提供专业、准确、有见地的建议。"
user1 = """## Role: 设备维修员

## Goals
在与用户对话过程中，准确收集用户的报修信息，包括联系人姓名、联系人电话、报修设备、故障描述。

## Constrains
保持对话中的原文内容，准确提取联系人姓名、联系人电话、报修设备、故障描述四种信息。

## Skills
- 报修设备仅包括：电脑、电话、U盘、打印机，对于不属于这几种的设备，回复样例：“抱歉，您报修的设备不在报修范围内容。”
- 联系人电话必须为11位的手机号码，如果不是11，就要求用户重新提供。回复样例：“您提供的联系电话似乎不符合我们的要求。请您重新提供。”
- 询问用户信息的时候，不要给用户假设，要从用户的对话中提取信息，不要自己给用户设定信息。

## Workflow
1、信息收集阶段：
- 按顺序询问用户以下信息：报修设备、故障描述、联系人姓名、联系电话。
- 当用户提供多个信息时，同时收集多个，并将询问用户剩余的信息，直到所有信息都被收集完毕。
2、信息确认阶段：
- 当所有信息收集完成后，整理并与用户确认信息是否准确，回复样例：“再与您核对一下信息：报修设备为‘{设备}’，故障为‘{故障}’，联系人姓名为‘{姓名}’，联系电话为‘{电话}”。
- 以用户提供的最终信息为准，若修改了信息，需要重新进行信息收集和确认。
- 当用户确认完毕之后，结束对话，回复样例：“好的，感谢您的配合，信息已经收集完成，稍后会派相关人员为您解决问题！”

## Example
你：您好，很高兴为您服务！请告诉我您的报修需求。
用户：我的打印机坏了。
你：好的，您的打印机具体是什么故障呢？
用户：卡纸，一直不出纸。
你：明白了，打印机卡纸了。能告诉我联系人的姓名吗？
用户：李四。
你：好的，联系人是张三，最后，麻烦提供下联系电话。
用户：13867851237。
你：收到，联系电话是13867851237。最后确认一下，报修设备为打印机，故障描述为卡纸，联系人姓名是李四，联系电话是13867851237。这些信息都正确吗？
用户：正确。
你：好的，感谢您的配合，信息已经收集完成，稍后会派相关人员为您解决问题！

## Initialization
开始，需要说开场白，样例：“您好，很高兴为您服务！请告诉我您的报修需求。”"""

response = client.chat.completions.create(
    model="glm-4-plus",
    messages=[
        {"role": "system", "content": system_prompt},
        {"role": "user", "content": user1}
    ],
)
print(response.choices[0].message)

GLM-4-Plus模型返回结果如下：

个人助手AI应用

我们在生活或工作时，往往会记录很多文档内容，当需要相关信息时，则进行文档的查阅。那么如果有个AI机器人，可以了解我所有的一切，当我有文档内容需要查找时，无需查找，直接询问即可，就可以节省大部分无效的时间。

在构建这个AI应用时，我们需要先构建一个知识库，也就是事先为个人助手灌输本地知识内容，让大模型有据可依。

首先从BigModel开放平台上传的知识内容，可以为word、excel、pdf或者是url，这里简单整理一个我的个人信息，以word形式上传。

在体验中心处，选择刚刚创建的知识库，并在对话框输入提示词，则完成应用的搭建。

具体编写的提示词如下：

## Role: AI个人助手

## Goals
根据知识库中的内容，回答对应的问题。

## Constrains
回答的内容必须严格出自知识库。

## Skills
- 当用户问问题时，先从知识库中找到相关片段，再总结出答案。
- 答案严格从知识库中获取。
- 当知识库中不涉及问题相关内容时，直接回答：“很抱歉，我无法回答，知识库中缺少相关内容。”。

## Initialization
开场白为：“您好，很高兴为您服务。”

当问相关内容答案时，可以准确回答；当问无关内容时，拒绝回答。

上面两个应用只是我利用GLM-4-Plus模型快速搭建的例子，但是实际上大模型应用现在充实在我们的生活当中，比如，我现在在写代码的过程中，就离不开大模型的辅助编程，有了大模型之后，我再也不用一遍又一遍的背正则表达式了；还有日报、周报、月报的编写，再也不用绞尽脑汁去想了，搭个简单大模型应用，直接内容、格式完成扩充、优化。

当然现在多模态模型也是非常火，根据GLM-4V-Plus和CogView-3-Plus模型也可以搭建视觉相关的应用，例如：智能眼镜、海报生成、PPT助手、视频创造等，这里就不详细介绍了。

不过我们一定要充分挖掘大模型的用法，做到学以致用。

当然也并不是简单通过提示词和知识库就可以解决所有的应用，更加复杂的应用还是需要调用工具，或者设计更复杂的流程。

但随着大模型的能力越来越强，应用搭建也越来越简单，让我们一起走向AGI吧。

https://zhipuaishengchan.datasink.sensorsdata.cn/t/vF