大数据领域一些值得读的论文(不断更新

一些经典论文

可以参考这位大佬的博客,2020年下半年开始有许多paper阅读笔记
https://fuzhe1989.github.io/

1.大数据Hadoop三辆马车

1.MapReduce-2004:一种计算框架

https://static.googleusercontent.com/media/research.google.com/zh-CN//archive/mapreduce-osdi04.pdf

2.GoogleFileSystem-2003:GFS 谷歌的文件系统

https://static.googleusercontent.com/media/research.google.com/zh-CN//archive/gfs-sosp2003.pdf

3.BigTable-2006:数据存储

https://static.usenix.org/events/osdi06/tech/chang/chang_html/?em_x=22

2.snowflake数据仓库

1.《The Snowflake Elastic Data Warehouse》- 2016

snowflake 面向OLAP的云原生数据仓库

https://dl.acm.org/doi/pdf/10.1145/2882903.2903741

2.《Building An Elastic Query Engine on Disaggregated Storage》-2020

是snowflake第一篇(2016)的后续版本,介绍snowflake架构和实现

https://www.usenix.org/system/files/nsdi20-paper-vuppalapati.pdf

3.一些论文

1.《Impala: A Modern, Open-Source SQL Engine for Hadoop》-2015

impala论文 介绍了架构

http://cidrdb.org/cidr2015/Papers/CIDR15_Paper28.pdf

2.《Kudu: Storage for Fast Analytics on Fast Data 》-2015

impala+kudu,一个是计算引擎,一个是存储

apache kudu:一种支持高效随机读写和扫描的存储系统

https://kudu.apache.org/kudu.pdf

3.《Volcano-An Extensible and Parallel Query Evaluation System》- 1994

火山架构

https://paperhub.s3.amazonaws.com/dace52a42c07f7f8348b08dc2b186061.pdf

4.《Dremel: Interactive Analysis of Web-Scale Datasets》-2010

https://static.googleusercontent.com/media/research.google.com/zh-CN//pubs/archive/36632.pdf

Dremel开启了交互查询的新时代,

另外还有一篇论文Google的Big-query,云原生的数据仓库,也可以看看 链接:https://cloud.google.com/files/BigQueryTechnicalWP.pdf

5.《F1: A distributed SQL database that scales》-2013

https://research.google/pubs/pub41344/

6.《Amazon Aurora: Design Considerations for High Throughput Cloud-Native Relational Databases》

https://web.stanford.edu/class/cs245/readings/aurora.pdf

亚马逊的云原生数据库Aurora

7.《TiDB: A Raft-based HTAP Database》-2020

pingCAP的数据库TiDB

https://dl.acm.org/doi/pdf/10.14778/3415478.3415535

8.《Alibaba hologres: a cloud-native service for hybrid serving/analytical processing》- 2020

hologres是 融合NoSQL写和OLAP读的系统,称为HASP(Hybrid Srerving and Analytical Processing)

https://dl.acm.org/doi/pdf/10.14778/3415478.3415550

9.《AnalyticDB: Real-time OLAP Database System at Alibaba Cloud》-2019

AnalyticDB 阿里的OLAP数据仓库,支持复杂ad-hoc查询的实时分析系统

https://dl.acm.org/doi/abs/10.14778/3352063.3352124

  • 5
    点赞
  • 30
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
要成为大数据领域的专家,您可以采取以下步骤: 1. 学习基础知识:了解大数据的基本概念、技术和工具。学习数据管理、数据分析、数据可视化等相关的基础知识。 2. 提升编程技能:熟练掌握编程语言,如Python、Java或Scala等。学习使用大数据处理框架,如Hadoop和Spark等。 3. 深入学习统计学和机器学习:掌握统计学和机器学习的基本原理和方法。了解常见的数据分析和机器学习算法,如回归、分类、聚类等。 4. 实践项目:参与实际的大数据项目,通过实践来巩固所学知识。可以尝试处理和分析真实的大数据集,解决实际问题。 5. 持续学习和跟进最新技术:大数据领域发展迅速,持续学习和跟进最新技术是成为专家的关键。参加培训、研讨会和行业会议,阅相关书籍和论文等。 6. 构建专业网络:与大数据领域的专业人士建立联系,参与相关社区和论坛,分享经验和获取指导。 7. 获得认证:考取与大数据相关的认证资格,如Cloudera Certified Data Engineer、Google Cloud Certified - Data Engineer等,可以提升自己的专业水平和竞争力。 8. 不断实践和探索:在实践中不断积累经验,尝试新的技术和工具,不断挑战自己并解决实际问题。 请注意,成为大数据领域的专家是一个长期的过程,需要不断学习、实践和积累经验。坚持学习和持续进步是关键!

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值