大模型+Agent+指标语义层:赋能某城商行非技术人员实现灵活取数用数|案例研究

银行业迈向“数据驱动”,灵活取数用数的情况愈发多见。银行领导在决策会议上可能需要查看某项指标变动;业务团队在复盘会议上希望寻找业绩下滑的原因;客户经理在撰写月报时需要进行各项指标的同比环比分析。尽管银行经营分析团队拥有BI系统的支持,但在实时、灵活地取数用数方面仍有进一步优化的空间。

2024年,大模型技术在各行各业加速落地,推动了银行业数据分析场景的全面升级。

01.某城商行存在40%的临时性数据分析需求,打造实时分析能力迫在眉睫

某头部城商行的内部统计数据显示,2023年临时性数据分析需求占总需求的40%,每天大约有20多个工单。这一现象揭示了该银行在数据分析领域存在巨大的即时响应潜力和优化空间。

面对这一挑战,银行经营分析团队通过灵活调整工作计划,积极应对数据分析需求的增长。为了进一步提升数据分析的效率和响应速度,银行正在探索如何通过技术创新和流程优化,减少对加班的依赖,确保数据分析工作的可持续性和团队的工作生活平衡,并避免可能出现的工单积压情况。

工单积压的根本原因在于“分析资源供不应求”。该城商行中高层人数众多,业务团队更加庞大,经营分析团队资源供不应求。并且,扩大团队规模并非最优选择,首先是因为经营分析岗位门槛和薪资都较高,其次该团队属于成本类部门,对于银行机构降本增效并无助益,增加人力投入内驱力不足。

日益增加的临时性数据需求和可能出现的工单积压问题,困扰着领导层、业务团队和经营分析团队。他们试图通过各种方式摆脱这一困境,大模型的兴起为其提供新范式。应用大模型是该城商行的战略目标之一,由副行长牵头,大力推动大模型在应用场景的落地。在大模型落地初期,该城商行选择了几个重点场景,数据分析就是其中之一。他们希望通过大模型技术升级数据分析工作,以满足灵活数据分析的需求。

02.指标语义层+Agent架构+反问机制+加速引擎+主流国产模型适配,数势科技脱颖而出

该城商行认为大模型项目具备强创新属性,更倾向与技术型创业公司联合共创,而不是传统银行IT服务商。经过对互联网大厂、大模型企业、数据分析企业等多类供应商的调研,最终选择了数势科技合作。

数势科技是一家数据智能产品提供商,旗下产品包括基于大模型增强的智能指标平台(SwiftMetrics)、智能分析助手(SwiftAgent)、多实体标签平台(SwiftXDP)及智能营销平台(SwiftMKT)。SwiftAgent产品定位与该城商行需求高度契合。该城商行看重SwiftAgent的五项优势:

  • 指标和标签语义层让SwiftAgent输出更精准的结果。许多企业试图通过大模型直接与企业内部数据对话,本质上是Text to SQL,由于大模型可能产生幻觉,反馈的结果往往不够准确。数势科技通过构建企业的标准化语义层,预设数据指标和标签的定义与管理,避免业务理解对不齐,让大模型可以更准确地理解用户需求。

图表1:SwiftAgent通过增加指标和标签语义层帮助企业实现自主取数的工作原理

  • Agent架构让SwiftAgent可以解决复杂任务。SwiftAgent采用Agent架构,具备任务拆解和工具调用能力,能够自动解决复杂问题,无需过多人力介入。用户提问会由Agent基于问题目标,基于此类问题的最佳实践进行任务拆解,然后再去对应到具体的工具,到底是指标查询还是图表生成,还是归因分析。具体来说,某支行长告诉SwiftAgent:“帮我看一下最近7天理财产品销售情况,哪个渠道最多以及为什么,最后再来个总结。”传统方法下,该支行长通常需要先获取数据,核实数据情况,进行归因分析,最后以报告形式呈现结论。这涉及到多方面的技能,包括解释数据、归因分析、报告撰写等。而通过双方合作,他可以直接应用SwiftAgent产品高效、自动应对此类分析场景,为后续决策提供更加精准的分析支持,推动银行数字化进入更为智能、高效的阶段。

图表2:SwiftAgent Agent架构工作原理

  • 反问机制让SwiftAgent生成更可用的结果。人与人之间工作交流时常常出现语义不清的情况,需要“进一步沟通”或“对齐”,人与大模型之间同样需要这个步骤。当前,多数大模型产品不具备反问能力,而是直接回答,答案往往是不可用,很可能答非所问。SwiftAgent在产品设计环节,增加反问模块,让大模型更好地理解用户需求,一步一步把需求“精细化”,提升正确结果概率,生成更可用的结果,而不是先生成一个错误答案,再沟通修改。例如用户提问:“帮我看下资产情况。” SwiftAgent会进行反问:“希望查询哪个时间段的总资产情况?例如,是最近7天、最近1个月,还是今年年初至今的统计数据?您也可以自定义时间窗口。”SwiftAgent的反问问题也不是基于固定模板生成的,而是根据该用户过往的使用习惯,由大模型生成。

  • 加速引擎让SwiftAgent交互体验更好。用户能不能用起来,有一个关键点,就是结果生成的用时。用户问完一个问题,“干等”数十秒必然降低使用体验。数势科技自研指标加速引擎,可以让生成用时降低至10秒左右。又准又快,才能让用户真正用起来。

  • 主流国产模型适配让SwiftAgent更安全。多数银行采用私有化部署大模型,即使采用API调用的方式,也是优先主流国产模型。部分数据分析厂商推出自己的基础模型,或者偏向适配国外模型,不能满足该城商行需求。SwiftAgent已适配主流国产模型,包括智谱GLM、Baichuan、百度文心一言和阿里千问等。

03.数势科技基于SwiftAgent为该城商行打造智能分析解决方案

数势科技为银行提供智能分析解决方案,以SwiftAgent产品为核心,利用行业知识和数据分析模型,理解策略目标,将银行经营矩阵实现从数据到价值的快速转化。解决方案技术架构包含五个部分:

图表3: 银行智能分析解决方案技术架构

  • 基座大模型:数势科技选择了经过实际应用验证的国产大模型,并对其进行了进一步的Prompt微调和模型微调,以确保其在银行数据分析场景中的高效应用。这样的定制化处理不仅满足了银行对数据安全性的高标准要求,还会显著降低大模型可能产生的幻觉问题,提高数据分析结果的准确性。

  • 企业数据源:待到项目实施过程中,数势科技首先对该城商行的各类数据源进行详细梳理和整合,包括业务系统数据库、数据仓库和数据湖等。这一过程可以确保所有数据的规范化和标准化管理,为后续的指标语义层构建和大模型应用奠定坚实基础。

  • 指标语义层:数势科技计划为该城商行构建统一的指标语义层,明确定义各类指标的计算口径和业务含义。这不仅提高数据指标的管理效率,还确保不同业务部门在数据使用上的一致性,避免了因口径不统一而导致的数据分析偏差问题。

  • SwiftAgent产品:作为智能分析解决方案的核心,SwiftAgent通过与用户的交互式问答,能实现数据指标的灵活查询、自动归因分析、可视化报告自动生成以及指标全生命周期的预警分析。用户只需通过自然语言输入需求,SwiftAgent便能智能识别并反馈精准的分析结果,可以明显提升数据分析的效率和准确性。

  • 数据分析应用:在一期建设中,数势科技将重点落地企业经营分析、企业营销复盘和业务团队日常用数三大应用场景,旨在为银行的各级管理层提供高效、精准的数据支持,助力其在决策和运营中更加灵活和敏捷。未来,数势科技将继续扩展更多的数据分析应用场景,进一步满足银行多元化的数据分析需求。

同时,数势科技根据该城商行需求进行定制开发,包括开发移动端、打通SSO 统一登录、集成权限系统等。

04.用户意图识别率>98%,复杂任务规划准确率>95%,好用的智能分析应用让取数用数排队情况成为过去式

智能分析系统建成后,该城商行经营分析团队负责人、大数据部门负责人以及多位中高层领导参与验收,从多方面进行评估与打分,主要结果如下:

1. 准确性:用户意图识别率>98%,复杂任务规划准确率>95%。

2. 效率提升:分析工作处理时长减少80%,每人每周减少10+小时数据处理工作。

3. 用户满意度:使用者满意度9.3+分。

4. 交互友好度:用户界面友好度9.5分。

该城商行各相关方均对智能分析系统高度评价,系统正式上线。如今,基于SwiftAgent打造的智能分析应用,在该城商行中高层领导及业务团队中已常态化使用,取数用数排队情况成为过去式。项目收益具体如下:

1. 降低人工成本:智能分析系统的上线,显著减少了手工数据处理的工作量,降低了对人工的依赖,节省了人力成本。

2. 提高决策效率:系统能够快速响应用户的查询请求,提供准确的分析结果,显著提高了决策和运营效率。

3. 增强数据利用率:通过构建标准化的指标语义层,系统能够充分挖掘和利用银行的数据资产,提升了数据利用率。

4. 优化业务流程:系统的自动化和智能化功能,优化了业务流程,提高了工作效率和质量。

5. 提升员工满意度:系统的易用性和高效性,让员工告别取数用数排队,员工满意度得到提升。

未来,该城商行计划与数势科技深化合作,利用智能分析赋能私人银行理财师,强化用户洞察与营销能力,让数据价值在业务层面得到更多体现。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

  • 26
    点赞
  • 29
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值