大数据和云计算技术周报（第37期） - 云+社区 - 腾讯云

最新推荐文章于 2024-07-29 09:10:44 发布

蜜糖果果呀～

最新推荐文章于 2024-07-29 09:10:44 发布

阅读量244

点赞数

文章标签：云计算大数据腾讯云

原文链接：https://cloud.tencent.com/developer/article/1166605?from=article.detail.1166514

版权

写在第37期周报

“大数据” 三个字其实是个marketing语言，从技术角度看，包含范围很广，计算、存储、网络都涉及，知识点广、学习难度高。

本期会给大家奉献上精彩的：Spark Streaming、Spark Sort Based Shuffle、Apache Spark、Apache Kylin、深度学习、K-Means、HBase、Redis。全是干货，希望大家喜欢！！！

#大数据和云计算技术社区#希望通过坚持定期分享能帮助同学在大数据学习道路上尽一份微博之力。相信长期坚持认真阅读周报的同学，在技术的道路上一定会日益精进！感谢编辑们的长期坚持！

以下是正文，限于众编辑水平有限，不保证大家都喜欢。

１

Spark Streaming

自2015年携程实时计算平台搭建以来，经过两年多不断的技术演进，目前实时集群规模已达上百台，平台涵盖各个SBU与公共部门数百个实时应用，全年JStorm集群稳定性达到100%。目前实时平台主要基于JStorm与Spark Streaming构建而成，相信关注携程实时平台的朋友在去年已经看到一篇关于携程实时平台的分享：携程实时大数据平台实践分享。

https://sdk.cn/news/7562

２

Spark Sort Based Shuffle

本来想把这块外排序的算法完全整理清楚，自己写一下，但是最近确实事儿多，这个文章我大概读完了。虽然文章本身比较早，但是大面上基本把这个事儿能说清楚。最近我把乌斯shuffle 看完，争取自己重新总结一下。

https://blog.csdn.net/mt0803/article/details/50405266

Apache Spark

本文将对 Spark 的内存管理模型进行分析主要模块有堆内内存堆外内存以及task内存希望大家能够喜欢

https://mp.weixin.qq.com/s/a4jdjJbFFrak8k0jHUBsOA

Apache Kylin

从 2015 年大数据部门成立至今，集群数据存储量为 9PB，服务器规模为 200+ 台。与此同时，数据需求也随着业务的发展落地不断增长，如统计分析、指标 API、运营报表等，不同业务需求差异较大，维度越来越多，需要定制化开发。面对数十亿行级别的数据，低延迟响应的特性，保障服务稳定、数据准确，

http://mp.weixin.qq.com/s/LhtmXXTnYDDCrxdQWCvvUw

深度学习

深度学习模型凭借其强大的表达能力和灵活的网络结构在诸多领域取得了重大突破，美团平台拥有海量的用户与商家数据，以及丰富的产品使用场景，也为深度学习的应用提供了必要的条件。本文将主要介绍深度学习模型在美团平台推荐排序场景下的应用和探索。

http://mp.weixin.qq.com/s/jdRu-cishwV8qBmGLTFJCA

K-Means

K-means算法具有悠久的历史，并且也是最常用的聚类算法之一。K-means算法实施起来非常简单，因此，它非常适用于机器学习新手爱好者。首先我们来回顾K-Means算法的起源，然后介绍其较为典型的应用场景。

http://mp.weixin.qq.com/s/7hVypJbpqV7t9-Tig5mK_w

HBase

本文基于所给出的样例数据，介绍了将数据从Client写到RegionServer的全流程。

http://mp.weixin.qq.com/s/AORh1vI3L5e7B3MAI8zizg

Redis

搭建任何一个服务，做到“能用”其实是非常简单的，就像我们运行一个单机版的Redis。不过一旦要做到“高可用”，事情就会变得复杂起来。业务中使用了额外的两台服务器，3个Sentinel进程+1个Slave进程，只是为了保证在那小概率的事故中依然做到服务可用。在实际业务中我们还启用了supervisor做进程监控，一旦进程意外退出，会自动尝试重新启动。

https://mp.weixin.qq.com/s/nFreAZJOECjXwFw0HhsAUA

致谢：

魏宏斌、薛述强、刘彬、刘超、廖程鹏、董言、吕西金、朱洁、蓝随、黄文辉