阿里云云原生一体化数仓 — 湖仓一体新能力解读

一、基于 MaxCompute 的湖仓一体架构更新

基于MaxCompute 云数据仓库的湖仓一体架构近期进行架构升级。了解 MaxCompute 的同学可能比较清楚,MaxCompute 有两层结构,需要先创建 Project ,在 Project 里面创建表、资源等。传统数据库,在数据库跟表之间有一层 Schema。当前从数据库迁移数据至 MaxCompute 时,有客户对 Schema 这层有诉求。本次架构升级,MaxCompute 升级为三层模型,Table --> Schema --> Project(此功能将在9月上线) 。

对于湖仓一体架构,MaxCompute 是作为仓的存在,使用外部 Schema 对接外部数据源,外部数据源这里称之为Foreign Server,其中包括了 Foreign Data Wrapper 涵盖每一个数据源的连接信息。最早支持的 hadoop 的 hive 数据源,映射 Hive metastore 读写 hdfs 数据。同时可以对接阿里云数据湖构建 Data Lake Formation 产品,DLF 主要的作用是通过扫描 OSS文件,做一个统一的元数据管理和权限管理。我们可以通过 Foreign Server 也就是外部数据源对接 DLF 的元数据,处理 OSS 文件结构。这样就可以对接云上 OSS 数据湖以及开源 Hadoop 生态 hdfs 数据湖。除此之外,也支持阿里云生态内的数仓和数据库,比如 Hologres 、关系型数据库和分析型数据库等。对于外部数据库,是通过 JDBC 协议连接,对于内部生态产品比如 Hologres ,可以做到存储上的直读,从性能是比 JDBC 更快一些。这是利用外部 Schema 对接外部数据源。

对于 OSS 上的一些非结构化数据,可以通过 Mount OSS 路径升级到 MaxCo

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
2021阿里云开发者大会涵盖开发与运维、云原生大数据、人工智能、数据库、低代码等领域,本资料供大家学习参考。 阿里云开发者大会主论坛: 云原生推动全云开发与实践 云上大数据与AI开发范式的演进 AIoT云端一体加速设备智能论坛: 企业物联网设备上云 解决方案 云原生的云边一体化框架和边缘容器 从1到无穷:极致原生安全论坛: 云原生环境下的安全开发 从云上开发角度 思考个人信息保护 安全开发最佳实践 云上容器一体化 云原生网络安全开发应用 基于阿里云可信云产品的高等级安全环境研发 大数据与AI一体化开发平台论坛: 实时计算 Flink 版 和 Hologres 全域实时数仓实践 云原生数据湖构建、分析与开发治理最佳实践 统一召回引擎在搜索推荐场景的应用实践 基于实时深度学习的推荐系统 架构设计和技术演进 基于MaxCompute快速打通数仓和数据湖: 湖仓一体实践 面向云原生可观测性的平台架构实践 云原生技术与最佳实践论坛: 云原生应用边界 基于OpenYurt和EdgeXFoudry的云边端一体化实践 KubeVela:阿里巴巴一代易用可扩展的 应用交付管理引擎 基于消息队列RocketMQ的大型分布式应用 上云最佳实践 Serverless趋势及规模化落地实践 Serverless 开发者工具Serverless Devs介绍 基于ECI的ACK集群高弹性架构 双管齐下: Servicemesh和Dapr的实践与展望 云原生数据库:一站式数据服务: 云原生分布式数据库 PolarDB技术深度解密 阿里巴巴集团数据库最佳实践 数据库大数据一体化: 加速数智化创 科技达摩院Ganos时空数据库与大数据处理 云原生多模数据库Lindorm: 物联网的数据处理平台 云原生演进趋势下传统数据库升级实践 云原生与智能化的RDS 智能开发与高效运维论坛: 智能开发 高效运维 云开发解决方案和代码智能技术 最大化阿里云 OpenAPI 能力的方法和实践 卓越三项:阿里巴巴代码平台技术揭秘 云原生基础设施下的开发、调测及可靠发布的解决方案 基于Terraform的自动化管理云上资源实践 代码即服务-让开发者快速上云 如何保证移动应用的稳定性 应用开发的云基础设施优化论坛: 海量订单系统优化实践 无影办公体验与实现揭秘 云化时代的海量算力成本优化利器 云上资源自动化部署模式 云网络端到端保障应用平滑上云 云网络加速云原生应用交付

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值