weixin_43925534的博客

原创 基于openai打造公司内部知识库问答机器人

另外嵌入的搜索提问方式相对于微调有一个缺点就是它每次附带的文本数量是有限制的，因为除了原始的问题，它还需要带上搜索出来的问题，GPT-3.5是4K（大约5页），GPT-4最大是32K（大约40页）。也就是先在本地文档库中Search，拿到本地的数据结果，再去Ask，把搜索结果和问题一起交给GPT，这样GPT可以根据你提供的内容以及它模型中的数据，一起将结果返还给你。目前，公开对外使用的是GPT-3.5模型的API接口，GPT-4模型的接口处于测试阶段，开发者需要申请权限加入等待列表，审核通过的才可以访问。