TiDB Bot：用 Generative AI 构建企业专属的用户助手机器人

导读

本文介绍了 PingCAP 是如何用 Generative AI 构建一个使用企业专属知识库的用户助手机器人。除了使用业界常用的基于知识库的回答方法外，还尝试使用模型在 few shot 方法下判断毒性。最终，该机器人在用户使用后，点踩的比例低于 5%，已经应用到了 TiDB 面向全球客户的各种渠道中。

Generative AI 的魔力已经展现

从 22 年开始，Generative AI （后文称 GenAI）在全球席卷了浪潮。自 MidJourney , DALL-E 带来了文字生成图片的火热，再到 ChatGPT 以自然、流利的对话彻底引爆人们的视线，GenAI 成为再也无法绕过的话题。AI 是否能够在更通用的场景下支持人类更好的生活、工作，成为了 23 年的核心话题之一。

其中， LangChain 等开发工具的崛起，代表着工程师开始批量的创建基于 GenAI 的应用。PingCAP 也做了一些实验，并且陆续完成了一些工作，比如：

• Ossingisht 的 Data Explorer ：一个用自然语言生成 SQL 来探索 Github 开源软件的项目
• TiDB Cloud 的 Chat2Query ：一个利用 Cloud 内数据库通过自然语言生成 SQL 的项目

在构建了这些应用后，笔者开始思考是否可以用 GenAI 的能力构建更通用的应用，带给用户更大的价值。

需求思考

在全球 TiDB 和 TiDB Cloud 逐步成长下，面向全球用户的支持成为越来越重要的事情。而随着用户量的几何增长，面向用户的支持人员数量并不会快速增长，因此，如何承接海量用户就成为急需考虑的事情。

根据实际支持用户的体验，对用户在全球社区的提问以及内部工单系统的调研，用户有 50% 以上的问题其实是可以在官方文档中找到答案，只是因为文档内容太多，难以找到。因此，如果可以提供一个具有 TiDB 所有官方文档的知识的机器人，也许可以帮助用户更好的使用 TiDB。

Generative AI 与需求实现的差距

发掘出需求后，也需要了解 GenAI 的特性和限制，以确认是否 Gen AI 能够用在此需求中。根据已经完成的工作，笔者可以总结出一些 Gen AI 的特性。在这里，Gen AI 主要指 GPT &#