金融数智融合,激发数据新活力

近年来,大数据和AI新技术持续蓬勃发展。根据Gartner发布的2022年数据管理技术成熟度曲线,Lakehouse(湖仓一体)、Data Mesh、Data Fabric技术成为数据分析领域的重要趋势,支撑金融机构高效使用数据和业务创新。随着AI技术掀起新一轮的技术浪潮,金融科技作为行业数字化转型的“领头羊”,在金融业大数据和AI深度融合方面将会走向何方?

多年来,金融业持续采用随时代发展而成熟的数据仓库、大数据、AI等技术,以增强企业自身经营和服务能力。以前银行主要提供存款、贷款、外汇、信用卡等传统金融业务,随着移动支付、快捷支付、网络零售等新兴金融业务的涌现,金融机构对数据平台的数据类型、数据分析能力提出更高的要求。早在2020年,华为云CTO张宇昕在华为全球分析师大会上提出“湖仓一体”架构理念,该架构实现全量数据入湖存储,在湖内实现数据分层加工,全局使用一份数据支撑上层多业务工作负载。华为云Stack湖仓一体架构凭借丰富的数据类型和全面的分析引擎,成为多数金融机构的共同选择,已在中国工商银行、招商银行、民生银行、交通银行落地,国有大行、股份制银行中的80%+已经选择华为云湖仓一体方案。基于这些最佳实践,“民生信用卡-华为大数据联合创新实验室”荣获《亚洲银行家》中国最佳AI实验室奖,交通银行基于“湖仓一体的数据中台实践”荣获《亚洲银行家》最佳大数据应用奖,这进一步证明了华为云湖仓一体和数智融合方案的先进性。2023年,金融客户基于湖仓一体,将进一步实现大数据与AI的互联互通和数据共享,开启数智融合新阶段。

然而数据湖、数据仓库、AI技术是相对独立的技术栈,经过多年发展,因为各自曾经独有的特点,导致多年后客户现场系统资源分散,仓-湖-AI各系统平台存在数据孤岛,若采用数据隔离或数据迁移,无法满足全量、敏捷分析需求;而数据工程师和AI模型开发工程师的工作也存在割裂情况,DataOps和MLOps未完全打通,导致协同效率低;AI开发的准备工作复杂度过高,80%时间都花在数据准备环节,导致AI训练用数复杂低效;数据的数量和质量也同样成为制约大数据和AI技术在金融业的深度融合的障碍,当前金融企业大多的数据湖数据规模、种类、质量均无法满足LLMs模型训练的诉求。

3c6bb3771ac5e0d7bc38050eb2e7c10e.png

6月7日,在华为智慧金融峰会2023上,华为云Stack重磅推出数智融合解决方案,通过四大创新,加速金融大数据和AI技术深度融合。

存储-缓存-计算三层分离,提供极致性价比

数智融合提供存储、缓存数据加速、计算资源三层池化方案,解决湖仓智平台资源割裂的问题,整合大数据、数仓、AI计算所需的CPU和GPU资源池,降低运维成本和难度,减少数据和模型开发使用过程中数据来回搬迁,从多套湖仓智平台走向一套数智融合使用的资源池,性价比提高30%,打破分析引擎的资源边界,通过统一计算资源池提升利用率、降低运维成本。

融合数据管理+融合数据加速,用数更敏捷

数智融合提供LakeFormation实现全局统一的元数据、数据访问控制、数据全生命周期管理,让业务数据、元数据、权限策略实现管理中心化,构建统一数据湖;同时具备算子下推和数据缓存与索引加速的能力,实现和底层数据存储的联动权限管理,跨服务/引擎/集群的数据共享;支持百万级表的细粒度数据权限控制和管理策略,让全局统一赋权;通过架构的不断创新,让一份数据在数据湖、数仓、AI之间自由共享,用数更敏捷,存算分离性能逼近存算一体。

数据+AI融合工作台,降低开发、运维门槛

数据分析和AI开发统一工作平台,让DataOps和MLOps无缝衔接,高效协同,在一个平台完成开发、测试、交付上线工作,彻底打通大数据和AI技术的使用边界,让数智融合业务创新提效50%。

AI4Data实现数据智能化,数据治理提效2倍

数智融合平台覆盖主数据管理、元数据管理、数据模型管理、数据质量检查和数据安全,让数据开发、治理全链路智能化。

当前,金融湖仓智多元架构并存,系统烟囱式建设,导致系统建设和运维成本高,数据分析、模型开发、数据治理效率低。在走向数据融合落地新阶段时,要先实现湖仓一体,再向数智融合演进,循序渐进,立而不破。建议分为两个阶段来实现数智融合:

阶段1:先从多元架构演进至湖仓一体。底层数据采用性能直逼存算一体的OBS,全局统一管理数据;通过LakeFormation统一全局元数据和数据安全策略管理;上层采用DataArts Studio统一接入数据,通过AI4Data能力,加速数据接入基于MRS和DWS构建的湖仓一体平台,解决数据治理成本、效率和质量问题。

阶段2:基于湖仓一体方案,通过融合工作台,实现ModelArts与数据平台的无缝衔接,高效协同,为大模型提供多样性、高质量的数据,通过Data4AI能力,解决湖-仓-AI数据形成孤岛的难题,降低AI开发过程的数据准备工作复杂度。

中国工商银行已率先完成第一阶段,建设了全行统一的数据湖;同步启动了传统数仓替换工作,其单体最大的数据湖达2000+节点,支撑300+行内大数据应用,日均承载批量计算作业数达30万+。同时,其数据建模方式从原来范式建模走向数据中台建模,不仅在软件层面,在建模层面也实现了湖仓一体新范式,超越传统数仓范式建模效率。下一步,中国工商银行将携手华为,基于云原生智能底座,实现云数智融合。

未来,华为云继续携手300多家金融客户,推进金融业湖仓一体、数智融合新发展,深化大数据与AI技术在金融业的持续创新,激发数据新活力。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值