直播 | Apache Kylin × Apache Hudi Meetup

千呼万唤始出来,Meetup 直播终于来啦~本次线上 Meetup 由 Apache Kylin 与 Apache Hudi 社区联合举办,将于 3 月 14 日晚进行直播,邀请到来自丁香园、腾讯、柯林布瑞以及 Kyligence 等公司的技术专家,为大家呈现 Kylin 与「由 Uber 开源的数据湖项目」Hudi 的精彩应用案例与实践。感兴趣的小伙伴可以直接拉到文末报名!

 

活动议程

19:00-19:05   开场

19:05-19:35   Talk 1:《丁香园日志量十倍增长引发的运维思考》

19:35-20:05   Talk 2:《使用 Hudi 构建下一代数据湖及其在医疗大数据的应用》

20:05-20:35   Talk 3:《基于 Hudi 和 Kylin 构建准实时高性能数据仓库》

20:35-21:00   Q&A

 

演讲嘉宾

丁香园日志量十倍增长引发的运维思考

周天鹏

丁香园大数据运维工程师

个人简介:花厂的一名平平无奇的运维,Apache Kylin Committer,“2019 最佳 Apache Kylin 社区贡献个人奖”获得者,主要负责 OLAP 平台的开发与维护。

演讲摘要:如果突然一天在线系统的日志量比平时翻了 10 倍,并且恰巧使用了 ELK 这种主流的日志收集分析平台。在不扩容的情况下,Elasticsearch 的写入速率能不能跟得上?存储容量能不能盛得下?统计查询能不能不超时?如果不能,Kylin 3.0 的 Real-time Streaming(实时分析)了解一下?它或许是一种低成本替换 ELK 的极佳方案。

 

使用 Hudi 构建下一代数据湖及其在医疗大数据的应用

Shaofeng Li

李少锋

Apache Hudi Committer & PPMC

个人简介:腾讯大数据开发工程师,从事大数据实时计算及数据湖分析平台研发,热衷于大数据开源技术。

黄靖

柯林布瑞大数据开发经理

个人简介:主要从事 Hadoop 生态医疗大数据产品的研发,实时计算平台建设。热衷于大数据相关技术的研究。

演讲摘要:本次分享将会介绍 Hudi 在医疗大数据的实践和应用,介绍如何基于 Hudi 打造医疗场景下数据湖:

  1. 为什么要选择 Hudi
  2. 数万张表如何快速同步 Hudi
  3. Hudi 查询优化和视图的选择

 

基于 Hudi 和 Kylin 构建准实时高性能数据仓库

史少锋

Apache Kylin PMC Chair

个人简介:Kyligence 首席架构师,负责 Kyligence 解决方案及 Apache Kylin 社区发展。

刘永恒

Kyligence 解决方案工程师

个人简介:主要负责 Kyligence 业务方案和大数据平台相关方案的开发。

演讲摘要:数据从业务库(TP)同步到分析库(AP)是一个繁琐的过程。为了减少对业务库的压力,数据同步通常采用 T+1 离线导出,或 CDC(binlog)流的方式;前者延迟长,后者在 Hadoop 上开销过大。要获得低延迟往往要借助 HBase/Kudu 这类高级存储,运维成本高,Hudi 的出现填补了空缺。本分享将介绍利用 Hudi 构建基于 HDFS/S3 的数据湖,并与 Kylin 结合实现端到端的准实时入库。目前 Kyligence Cloud 3 已支持 Hudi on S3 做为数据源,助力云上大数据快速分析,本次分享将结合 live demo 来展示此方案。

 

 

活动信息

直播时间:2020 年 3 月 14 日(周六)19:00-21:00

报名截止时间:3 月 13 日(周五)24:00

*仅限 500 人在线参与,现在就去报名吧~

 

↓扫描下方二维码报名↓

 

报名前请认真阅读下方报名提示,以免错过直播:

1. 本次活动的所有信息将通过邮件、活动微信群与您同步,务必正确填写邮箱及电话。

2. 活动中参与互动,将有机会 pick 随机掉落的精美社区周边以及书籍哦~

 

合作伙伴

 

了解更多大数据资讯,点击进入Kyligence官网

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
随着互联网的发展,数据的不断膨胀,从刚开始的关系型数据库到非关系型数据库,再到大数据技术,技术的不断演进最终是随着数据膨胀而不断改变,最初的数据仓库能解决我们的问题,但是随着时代发展,企业已经不满足于数据仓库,希望有更强大的技术来支撑数据的存储,包括结构化,非结构化的数据等,希望能够积累企业的数据,从中挖掘出更大的价值。基于这个背景,数据湖的技术应运而生。本课程基于真实的企业数据湖案例进行讲解,结合业务实现数据湖平台,让大家在实践中理解和掌握数据湖技术,未来数据湖的需求也会不断加大,希望同学们抓住这个机遇。项目中将以热门的互联网电商业务场景为案例讲解,具体分析指标包含:流量分析,订单分析,用户行为分析,营销分析,广告分析等,能承载海量数据的实时分析,数据分析涵盖全端(PC、移动、小程序)应用。Apache Hudi代表Hadoop Upserts anD Incrementals,管理大型分析数据集在HDFS上的存储。Hudi的主要目的是高效减少摄取过程中的数据延迟。Hudi的出现解决了现有hadoop体系的几个问题:1、HDFS的可伸缩性限制 2、需要在Hadoop中更快地呈现数据 3、没有直接支持对现有数据的更新和删除 4、快速的ETL和建模 5、要检索所有更新的记录,无论这些更新是添加到最近日期分区的新记录还是对旧数据的更新,Hudi都允许用户使用最后一个检查点时间戳,此过程不用执行扫描整个源表的查询。 本课程包含的技术: 开发工具为:IDEA、WebStorm Flink1.9.0、HudiClickHouseHadoop2.7.5 Hbase2.2.6Kafka2.1.0 Hive2.2.0HDFS、MapReduceSpark、ZookeeperBinlog、Canal、MySQLSpringBoot2.0.2.RELEASE SpringCloud Finchley.RELEASEVue.js、Nodejs、HighchartsLinux Shell编程课程亮点: 1.与企业接轨、真实工业界产品 2.ClickHouse高性能列式存储数据库 3.大数据热门技术Flink4.Flink join 实战 5.Hudi数据湖技术6.集成指标明细查询 7.主流微服务后端系统 8.数据库实时同步解决方案 9.涵盖主流前端技术VUE+jQuery+Ajax+NodeJS 10.集成SpringCloud实现统一整合方案 11.互联网大数据企业热门技术栈 12.支持海量数据的实时分析 13.支持全端实时数据分析 14.全程代码实操,提供全部代码和资料 15.提供答疑和提供企业技术方案咨询企业一线架构师讲授,代码在老师的指导下企业可以复用,提供企业解决方案。  版权归作者所有,盗版将进行法律维权。  

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值