如何使用GTP4解决垂直领域的知识反馈

最近看到很多关于GTP的一些应用场景,大家关注的比较多的方面我整理一下

  • 如何控制GTP在实际应用场景中“乱说话”

  • 如何把我的专有知识输出到GTP的知识中并提供服务

  • 什么场景适合用“Fine-tuning“,什么场景适合用“Embeddings”

  • 类似GTP大语言模型有本地部署的可能吗

  • 客服场景中如何结合用户的历史信息来进行聊天

  • 通过Prompts来控制一个场景的对话

  • 不会开发如何结合GTP来解决一些线上服务沟通场景

    待完善

现在开始和大家分享一些实际场景的应用案例来回答上述问题,大家比较关注的问题

如何把我的专有知识输出到GTP的知识中并提供服务

  1. 使用Prompts解决绘本推荐推荐咨询服务
    在这里插入图片描述

以上场景通过对Prompts的内容进行约束让GTP的回答限制在这些绘本之内
结合下面的段落来回答问题:“ 小朋友5岁适合看什么类型的绘本呢

  • 段落1: 请基于以下内容来回答用户的咨询问题
  • 段落2: 《看起来很好吃》这本绘本讲述了一个小蚂蚁在寻找食物的过程中,面对各种诱惑和危险的故事。小蚂蚁看到了许多美味的食物,但是它也发现了许多危险和陷阱。在这个过程中,小蚂蚁学会了如何判断食物的好坏,如何避免危险,最终找到了安全的食物。
    这本绘本可以帮助孩子养成以下习惯: 1. 学会判断:通过小蚂蚁在寻找食物的过程中的经历,孩子可以学会如何判断事物的好坏,从而做出正确的选择。
  1. 学会决策:绘本中小蚂蚁需要在各种选择中做出决策,帮助孩子学会如何在不同情境下做出明智的决策。 3. 学会自我保护:在寻找食物的过程中,小蚂蚁学会了如何避免危险,如何保护自己的安全,帮助孩子学会自我保护的能力。 4.
    培养勇气:在面对危险和困难的时候,小蚂蚁需要勇气去面对并解决问题,帮助孩子学会勇敢地面对困难。 5.
    培养团队合作:在绘本的结尾,小蚂蚁和他的朋友一起分享了食物,帮助孩子学会团队合作和分享的精神

可以看到通过Prompts看起来已经有非常好的体验了,这时候会产生一个新的问题,我们知道Openai的Tokens数量是有限制的,如果我的绘本数量是十万本应该怎么实现这个场景呢?

其实还是有很多方法可以解决,从上面的逻辑中可以想到如果我首先找到对应的绘本
再结合Prompts是不是就可以解决这个问题了呢

怎么找到用户咨询的绘本呢?

Openai提供了Embeddings方法

from openai.embeddings_utils import get_embedding, cosine_similarity
 
def search_reviews(df, product_description, n=3, pprint=True):
   embedding = get_embedding(product_description, model='text-embedding-ada-002')
   df['similarities'] = df.ada_embedding.apply(lambda x: cosine_similarity(x, embedding))
   res = df.sort_values('similarities', ascending=False).head(n)
   return res
 
res = search_reviews(df, 'delicious beans', n=3)

大概逻辑就是把一段文本向量化,然后把所有绘本向量化那么为了检索最相关的文档,我们使用查询的嵌入向量和每个文档之间的余弦相似性,并返回得分最高的文档。这样可以返回最相关的几篇绘本是不是就可以解决Prompts数据量太大的问题

当然也可以使用自己的数据库来实现文档检索逻辑,需要注意的是这是自然语言的检索不是关键词的检索你需要理解用户的意图和你知识匹配的最相关性

当然“Fine-tuning“也可以来解决该类场景的问题,这个后续内容会准备。

其实这些场景也可以做的很轻,只需要简单的配置就可以上线我们自己想要的场景

问题咨询欢迎随时交流 +V:baker_yey

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值