《大数据之路：阿里巴巴大数据实践》-第1篇 数据技术篇 -第6章 数据服务

已于 2022-09-05 19:27:43 修改
阅读量542 收藏
点赞数
分类专栏： 【在线书籍】 文章标签： 大数据 数据库
于 2022-09-02 10:12:07 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_54252387/article/details/126655979
版权
本文介绍了阿里巴巴大数据实践中的数据服务演进历程，从DWSOA、OpenAPI、SmartDQ到统一的数据服务层OneService，强调了服务架构的优化对性能、稳定性和扩展性的影响。SmartDQ通过DSL和SQL增强，实现了接口数量的收敛和维护成本的降低。OneService提供了多种服务类型，满足不同业务需求，走向平台化。技术架构部分详细讲解了SmartDQ的元数据模型、服务层的查询处理和性能优化，以及iPush、Lego和uTiming在实时数据服务、个性化服务和批量任务调度上的应用。最后，文章分享了最佳实践，包括资源分配、缓存优化、查询能力和稳定性保障措施，如发布系统、隔离、安全限制和监控等，以提升系统性能和稳定性。
摘要由CSDN通过智能技术生成

《大数据之路：阿里巴巴大数据实践》系列丛书

 第1章 总述

第1篇 数据技术篇
 第2章 日志釆集
 第3章 数据同步
 第4章 离线数据开发
 第5章 实时技术
 第6章 数据服务
 第7章 数据挖掘
第2篇 数据模型篇
 第8章 大数据领域建模综述
 第9章 阿里巴巴数据整合及管理体系
 第10章 维度设计
 第11章事实表设计
第3篇数据管理篇
 第12章 元数据
 第13章 计算管理
 第14章 存储和成本管理
 第15章 数据质量
第4篇数据应用篇
 第16章 数据应用

文章目录

了解本专栏 订阅专栏 解锁全文 超级会员免费看
《大数据之路：阿里巴巴大数据实践》-第4篇 数据应用篇 -第16章 数据应用
m0_54252387的博客
09-05 1200
大数据建设与管理的方法论 和实践，“生产要素”已经准备好，需要通过合适的方式提供给不同类 型的用户，让数据最大化地发挥价值。阿里巴巴作为一家天然的大数据 公司，对数据的应用表现在各个方面，如搜索、推荐、广告、金融、信 用、保险、文娱、物流等业务。将数据提供给商家，可以用于指导商家 的数据化运营，为商家提供多样化、普惠性的数据赋能；将数据提供给 阿里巴巴内部的搜索、推荐、广告、金融等平台，可以用于实现更好的 搜索体验、更精准的个性化推荐，优化购物体验，更精准地进行广告投 放、更普惠的金融服务等；将数据提供给阿
《大数据之路：阿里巴巴大数据实践》-第1篇 数据技术篇 -第3章数据同步
m0_54252387的博客
09-01 846
我们将数据釆集分为日志采集和数据库数据同步两 部分。数据同步技术更通用的含义是不同系统间的数据流转，有多种不 同的应用场景。主数据库与备份数据库之间的数据备份，以及主系统与 子系统之间的数据更新，属于同类型不同集群数据库之间的数据同步。 另外，还有不同地域、不同数据库类型之间的数据传输交换，比如分布 式业务系统与数据仓库系统之间的数据同步。对于大数据系统来说，包 含数据从业务系统同步进入数据仓库和数据从数据仓库同步进入数据 服务或数据应用两个方面。本章侧重讲解数据从业务系统同步进入数据 仓库这个环节，但其适
《大数据之路：阿里巴巴大数据实践》：看阿里人从IT时代走向DT时代的经验之谈！
云祁QI
05-17 8485
最近一直在看《大数据之路：阿里巴巴大数据实践》一书，读完之后感觉受益良多。第一，对于整个大数据的体系有了更多且清晰的认知；第二，对于不同系统的逻辑处理方式给予了引导；第三，毕竟是阿里多年技术的累计产出，而且都是阿里技术大牛写的，干货相当多；最后，如果对于大数据方向想有更深入的了解，推荐阅读本书。
大数据之路阿里巴巴实践
大数据指北
07-05 3319
大数据平台研发，全局概览导向。
阿里巴巴大数据实践之路.pdf
10-06
阿里巴巴大数据实践之路.pdf
转---大数据之路：阿里巴巴大数据实践
weixin_41598761的博客
08-12 280
转---大数据之路：阿里巴巴大数据实践
《大数据之路：阿里巴巴大数据实践》-第1篇 数据技术篇 -第4章 离线数据开发
m0_54252387的博客
09-01 421
从采集系统中收集了大量的原始数据后，数据只有被整合和计算， 才能被用于洞察商业规律，挖掘潜在信息，从而实现大数据价值，达到 赋能于商业和创造价值的目的。面对海量的数据和复杂的计算，阿里巴 巴的数据计算层包括两大体系：数据存储及计算平台(离线计算平台 MaxCompute和实时计算平台StreamCompute)、数据整合及管理体系 (OneData)。   本章主要介绍MaxCompute和阿里巴巴内部基于MaxCompute的大 数据开发套件，并对在数据开发过程中经常遇到的问题和相关解决方案 进行介绍。.
《大数据之路：阿里巴巴大数据实践》-第3篇 数据管理篇 -第13章 计算管理
m0_54252387的博客
09-05 404
Hadoop等分布式计算系统评估资源的方式，一般是根据输入数据 量进行静态评估，Map任务用于处理输入，对于普通的Map任务，评 估一般符合预期；而对于Reduce任务，其输入来自于Map的输出，但 一般只能根据Map任务的输入进行评估，经常和实际需要的资源数相 差很大，所以在任务稳定的情况下，可以考虑基于任务的历史执行情况 进行资源评估，即采用HBO （History-Based Optimizer,基于历史的优 化器）。
【大数据之路-阿里巴巴大数据实践】第一篇 数据技术篇
u012794553的博客
03-24 5152
第2章 日记采集 阿里巴巴日志采集的两大体系 Web端，基于浏览器日志采集技术方案：Aplus.JS APP端，无线客户端日志采集技术方案：UserTrack 2.1 浏览器的页面日志采集 页面浏览日志的采集，也就是当一个页面被浏览器加载呈现时的日志采集 包含两大最基础的数据：访客数：UV（Unique Visitors）和浏览量PV（Page View） 页面交互日志的采集，就是对用户在浏览器上与网页进行互动行为的数据采集 2.1.1 页面浏览日志采集流程 采集-发送-收集-解析存档 整个过..
阿里巴巴大数据实践之路-陈鹏宇.pdf
07-02
阿里巴巴大数据实践之路-陈鹏宇.pdf
阿里巴巴大数据实践之路-9.pdf
06-26
阿里巴巴大数据实践之路-9.pdf
阿里巴巴大数据之路——数据技术篇.pdf
12-24
阿⾥巴巴⼤数据之路 阿⾥巴巴⼤数据之路——数据技术篇 数据技术篇 ⼀、整体架构 ⼀、整体架构 　　 　　从下⾄上依次分为数据采集层、数据计算层、数据服务层、数据应⽤层 　　 数据采集层：以DataX为代表的数据同步⼯具和同步中⼼ 　　 数据计算层：以MaxComputer为代表的离线数据存储和计算平台 　　 数据服务层：以RDS为代表的数据库服务（接⼝或者视图形式的数据服务） 　　 数据应⽤层：包含流量分析平台等数据应⽤⼯具 ⼆、数据采集（离线数据同步） ⼆、数据采集（离线数据同步） 　　数据采集主要分为⽇志采集和数据库采集。⽇志采集暂略（参考书籍原⽂）。我们主要运⽤的是数据库采集（数据库同步）。 　　通常情况下，我们需要规定原业务系统表增加两个字段：创建时间、更新时间（或者⾄少⼀个字段：更新时间） 　　数据同步主要可以分为三⼤类：直连同步、数据⽂件同步、数据库⽇志解析同步 　　1.直连同步 　　　　通过规范好的接⼝和动态连接库的⽅式直接连接业务库，例如通过ODBC/JDBC进⾏直连 　　　　当然直接连接业务库的话会对业务库产⽣较⼤压⼒，如果有主备策略可以从备库进⾏抽取，此⽅式不适合直接从业务库到数仓的情景 　　2.数据⽂件同步 　　　　从源系统⽣成数据⽂本⽂件，利⽤FTP等传输⽅式传输⾄⽬标系统，完成数据的同步 　　　　为了防⽌丢包等情况，⼀般会附加⼀个校验⽂件 ，校验⽂件包含数据量、⽂件⼤⼩等信息 　　　　为了安全起见还可以加密压缩传输，到⽬标库再解压解密，提⾼安全性 　　3.数据库⽇志同步 　　　　主流数据库都⽀持⽇志⽂件进⾏数据恢复（⽇志信息丰富，格式稳定），例如Oracle的归档⽇志 　　（数据库相关⽇志介绍，参考：） 　　 4.阿⾥数据仓库同步⽅式 　　　　1）批量数据同步 　　　　要实现各种各样数据源与数仓的数据同步，需要实现数据的统⼀，统⼀的⽅式是将所有数据类型都转化为中间状态，也就是字符串类型。以此来实现数据格式的统⼀。 　　　　产品——阿⾥DataX：多⽅向⾼⾃由度异构数据交换服务产品，产品解决的主要问题：实现跨平台的、跨数据库、不同系统之间的数据同步及交互。 　　　　产品简介： 　　　　开源地址： 　　　　更多的介绍将会通过新开随笔进⾏介绍！（当然还有其他主流的数据同步⼯具例如kettle等！） 　　　　2）实时数据同步 　　　　实时数据同步强调的是实时性，基本原理是通过数据库的⽇志（MySQL的bin-log，Oracle的归档⽇志等）实现数据的增量同步传输。 　　　　产品——阿⾥TimeTunnel（简称TT）。TT产品本质是⼀个⽣产者、消费者模型的消息中间件 　　　　3）常见问题 　　　　　　1.增量数据与全量数据的合并 　　　　　　　　主要的场景是数据同步中周期全量同步，对应的解决⽅案是每次只同步变更的数据，然后和上⼀周期合并，形成最新的全量数据（选择此⽅案的原因是绝⼤多 数⼤数据平台不⽀持update操作） 　　　　　　　　具体的⽅案主要有union的联合操作（可以通过⽣成增量中间表detal）与阿⾥主推的全外连接full outer join+全量覆盖insert overwrite的形式。实例参考如下： SQL的Join语法有很多， inner join(等值连接) 只返回两个表中联结字段相等的⾏， left join(左联接) 返回包括左表中的所有记录和右表中联结字段相等的记录， right join(右联接) 返回包括右表中的所有记录和左表中联结字段相等的记录， 假设我们有两张表。Table A 是左边的表。Table B 是右边的表。其各有四条记录，其中有两条记录name是相同的，如下所⽰： A表 id name 1 Pirate 2 Monkey 3 Ninja 4 Spaghetti B表 id name 1 Rutabaga 2 Pirate 3 Darth Vade 4 Ninja 让我们看看不同JOIN的不同。 FULL [OUTER] JOIN (1) SELECT * FROM TableA FULL OUTER JOIN TableB ON TableA.name = TableB.name TableA.name = TableB.name 的情况，A和B的交集有两条数据，那么 FULL OUTER JOIN的结果集， 应该是2+2+2=6条，即上⾯的交集，再加剩下的四条数据，没有匹配，以null补全。 结果集 (TableA.) (TableB.) id name id name 1 Pirate 2 Pirate 2 Monkey null null 3 Ninja 4 Ninja 4 Spaghetti null null null null 1 Rutabag
阿里大数据之路：阿里巴巴大数据实践-339页.zip
09-29
阿里大数据之路：阿里巴巴大数据实践-339页
阿里巴巴 大数据之路
04-29
阿里巴巴，作为距离大数据最近的公司之一，近几年对大数据却鲜有高谈阔论。实际上，阿里巴巴一开始就自然生长在数据的黑洞中，并且被越来越多、越来越密集的数据风暴裹挟。从需求→设计→迭代→升华为理论，在无数次的迭代进化中，阿里巴巴对大数据的理解才逐渐成形，慢慢能够在将数据黑洞为我所用的抗争中扳回一局。《大数据之路：阿里巴巴大数据实践》就是在这个过程中，由阿里巴巴数据技术及产品部沉淀下来的大数据知识与实践，值得每一位与大数据相关的人阅读。
大数据之路：阿里巴巴大数据实践
qq_27639777的博客
08-16 6896
第1章：总述 如果说在IT时代是以自我控制、自我管理为主，那么到了DT（Data Technology）时代，则是以服务大众、激发生产力为主。阿里巴巴大数据系统体系架构主要分为数据采集、数据计算、数据服务和数据应用四大层次。 第2章：日志采集 阿里巴巴的日志采集体系方案包括两大体系：Aplus.JS是Web端（基于浏览器）日志采集技术方案：UserTrack是APP端（无线客户端）日志采集技术方案。 2.1 浏览器的页面日志采集 浏览器的页面型产品／服务的日志采集可分为如下两大类。 页面浏览（展现）日志
《大数据之路：阿里巴巴大数据实践》：看阿里人从IT时代走向DT时代的经验之谈！_大数据之路 阿里巴巴大数据实践 感悟
最新发布
2401_84166536的博客
04-17 971
最近一直在看《大数据之路：阿里巴巴大数据实践》一书，读完之后感觉受益良多。第一，对于整个大数据的体系有了更多且清晰的认知；第二，对于不同系统的逻辑处理方式给予了引导；第三，毕竟是阿里多年技术的累计产出，而且都是阿里技术大牛写的，干货相当多；最后，如果对于大数据方向想有更深入的了解，推荐大家阅读！一直以来，我都对大数据真正的价值有思考。后来才发现，大、快、多样性只是表象，大数据的真正价值在于生命性和生态性。
大数据之路——阿里巴巴大数据实践（小白笔记）
cainiao22222的博客
11-12 786
第一章 总述 1.阿里巴巴大数据系统体系架构分为三大部分数据采集层、数据计算层、数据服务层 2.数据采集层     日志采集系统：Aplus.JS是 web端日志采集技术方案；UserTrack是APP端日志采集方案      数据传输：TimeTunnel（TT）体系进行数据传输，既包括数据库的增量数据传输，也包括日志数据的传输，既支持实时流式计算，也支持时间窗口的批量计算      ...
【读书笔记】大数据之路：阿里巴巴大数据实践
热门推荐
AI天才研究院
09-27 1万+
大数据之路：阿里巴巴大数据实践 简介： 在Alibaba集团内，数据人员面临的现实情况是：集团数据存储已经达到EB级别，部分单张表每天的数据记录数高达几千亿条；在2016年“双11购物狂欢节”的24小时中，支付金额达到了1207亿元人民币，支付峰值高达12万笔/秒，下单峰值达17.5万笔/秒，媒体直播大屏处理的总数据量高达百亿级别且所有数据都需要做到实时、准确地对外披露……巨大的信息量给数据采...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

九层之台起于累土

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值