使用大模型只需要像对接数据库一样,你喜欢了么

这里有个误区,大家看到  SQL + 大模型首先想到就是 nlp2sql,这是两件事,nlp2sql 是调用大模型将用户的问题转化为 SQL 查询, 而今天我们提到的 SQL + 大模型 指的是通过 SQL 调用大模型完成实际的业务数据处理,或者利用 SQL 完成大模型的训练,微调。用户使用大模型就和使用数据一样。

为什么把大模型数据库化是最好的选择

SQL 相比 Python 有其巨大的价值,首先是 SQL语法非常简单,对开发环境要求低,其次是 SQL 已经积累了大量的数据生态,更擅长数据处理,比如 Byzer-SQL 几乎可以瞬间让你可以访问你企业里几乎所有的数据,而如果你用 Python 则很难方便的额做到这一点。

拿到数据后,我可以通过一条SQL语句就让大模型对数据做处理,处理完后再用一条语句就可以写回到业务数据库。

最重要的是,只要是做 IT 的同学,应该都熟悉下面这个经典 IT架构,几乎全球所有有IT的公司也应该都有这个架构:

263cddc4db6833456d1ced55cf97c02b.png

如果我想把大模型能力嵌入到这个已有的系统该怎么办呢?完美的架构应该是这样的:

a87495a9cdb7efa8551ae18435c12fbc.png

对于普通业务而言,实际上就是新添加了一个数据库。而不是像当年引入大数据/AI体系一样,各自都是一趴,忍受高昂的IT费用:

e814b2964a9630895121955c512911be.png

硬件很贵?没关系,我们可以像Oracle一样,提供数据库一体机(多台可自由组合集群):

1188faff29155cdb85a140d3125de1d3.png

前面讲了这么多,来点干货

其实我们去年早就写过一篇文章:

用加持了大模型的 Byzer-Notebook 做数据分析是什么体验

这篇文章介绍了如何在 SQL Notebook 里完成一站式的数据处理,从数据分析到在 Notebook里直接调用大模型生成SQL 或者 利用 SQL 调用大模型对加载到的数据进行分析,还是很酷的。

今天我们简单看看我们这个Byzer数据库都提供了哪些能力。首先一个是一个管理控制台,有点类似 SQL Admin界面。对 Byzer Notebook 也是一个 web 产品,打开网址可用。

进入该界面,你就可以选择合适的模型进行连接:

9e6dd5e5ced80e2581f073ce7c2921d3.png

我这里连接了一个已经启动了 kimi_chat 实例,现在我们就可以在 控制台里直接和他进行多轮交互:

216c7a9248d007a8302a9a8509029b28.png

测试模型,验证一些效果。

觉得这个模型不错,现在就可以开始用他对我们已有的数据使用SQL做处理了:

2c34c778d4b8d140429c364534401433.png

利用 Byzer-SQL 的load 数据为表的能力,你几乎可以对接企业里所有的数据源,还包括各种云对象存储。接着就可以select 语句,直接把模型当做一个函数在里面使用。

如果是应用产品想访问数据库,我们提供了JDBC 和 Rest 两种形态,下面是 Rest 调用方式:

c6851b15ac9ae34a18a95f7724b72d99.png

这里我们提供Byzer-SQL 数据库地址,用户就可以通过 Rest 接口发送 SQL语句,和使用传统数据库的方式几乎一致,从而获得大模型的结果。

当然了,Byzer-SQL 数据库也提供了预训练和微调大模型能力,然后再部署成函数的能力。感兴趣的可以看看我们文档:https://docs.byzer.org/#/byzer-lang/zh-cn/

总结

Byzer Data+AI数据库,提供了 Byzer-SQL,实现SQL对大模型的调用,此外还提供完善的控制台使用界面,可以很方便的让用在数据里完成大模型的预训练,微调和部署使用。最后,用户还可以通过Rest 接口访问 Byzer 数据库,方便调用其能力。

把大模型以数据库形态,支持数据存储,数据获取,以及将业务数据和大模型融合,才是最后能让大模型普及到企业业务体系里最重要的一环。

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值