一、前言
GPT,全称Generative Pre-trained Transformer ,中文名可译作生成式预训练Transformer。ChatGPT是由一个叫OpenAI的机构开发的,它使用了一种叫做GPT的技术,这种技术可以让它从互联网上学习大量的文字信息,然后根据文字之间的关联性概率性来生成新的文字。因此,它的局限性是可能会生成不准确或不合适的答案。
相信未来技术发展,GPT的准确性会大幅度提高,会应用到各领域/场景,并且能够与其他技术或平台集成。
目前参与项目就是基于GPT实现智能问答,来为用户返回高精准的回答。下面将介绍基于GPT实现的智能问答架构,同时基于存在的一些问题,提出一些可施行的解决方案。
二、GPT实现智能问答架构
2.1、基本的GPT实现智能问答架构
最基本的基于GPT实现智能问答的架构。将需要的文件同步给GPT,在借助GPT进行智能问答即可。
这种架构是最基本最简单实现。那么也存在一些问题:训练文本较少,回答不精确;受国外对GPT接口限流,支持不了高并发访问;国外GPT接口实际应用是按照请求数收费,目前价值昂贵等等。
2.2、可应用的GPT实现智能问答架构
在一个对客户使用的GPT智能平台,它需要满足高可用。这里可能存在下面三个问题。(1)、稳固的系统不能单独局限于GPT限制—虽然是基于GPT