DataGemma:谷歌大模型

诸神缄默不语-个人CSDN博文目录

DataGemma是谷歌出的大模型,是gemma 2的升级版,主要亮点是基于检索解决幻觉问题。
在huggingface和kaggle上均可下载模型权重。
检索数据源是Google’s Data Commons知识图谱。

官方博客:https://blog.google/technology/ai/google-datagemma-ai-llm/
官方论文:Knowing When to Ask - Bridging Large Language Models and Data 对论文的讲解,请静待后续推出。

Retrieval-Interleaved Generation (RIG)版:微调gemma2(Gemma2 27B model),识别AI回答中的数据,通过事实验证的思路判断AI回答是否正确,如果不正确就从Google’s Data Commons中找数据来替换。
这个是调用示例代码,必须要付费才能用colab A100,所以我没跑,只看了一遍:https://colab.research.google.com/github/datacommonsorg/llm-tools/blob/main/notebooks/datagemma_rig.ipynb
总之谷歌做了一个调用包,可以直接实现整个问答流程,过程中会自动询问数据库:DataGemma先做出回答,回答中就包括需要向数据库咨询的问题,然后从数据库中检索出数据、数据来源和链接,用以替换数据,得到最终回答。
在这里插入图片描述
更形象的,可以参考官方博客中的视频(我在上传了,正在等CSDN审核)

做出回答(|| 后面的是模型自动生成的数据):
在这里插入图片描述

最后的脚注中会给出数据来源:
在这里插入图片描述

注意colab中的秘钥在这里设置:
在这里插入图片描述

在这里插入图片描述
输入名称和密钥值即可。

Retrieval Augmented Generation (RAG) 版:就是RAG,先检索Google’s Data Commons中的相关信息,再生成回答。
调用示例代码:https://colab.research.google.com/github/datacommonsorg/llm-tools/blob/master/notebooks/datagemma_rag.ipynb

RAG过程:
在这里插入图片描述

官方视频展示(也在上传了)

最终回答:
在这里插入图片描述

后附表:
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

诸神缄默不语

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值