2024年Linux最全【大数据】大数据运维学习前必须知道的几个常识

会话一致性： 任何用户在某次会话中，一旦读到某个数据在某次更新后的值，那么本次会话中就不会再读到比这个值更旧的值。

弱一致性： 用户无法在确定时间内读到最新更新的值

如果我们选择了强一致性，又要满足分区容错性，就势必会牺牲一部分可用性。

注意：

• CAP理论只适用于分布式系统

CAP理论的典型分布式系统

选择CP： HBASE

选择 AP： zookeeper，HDFS

选择CA： elasticsearch

大数据技术栈

1. 数据采集和传输层： flume. logstash, sqoop,kafka,pulsar,HUE

2. 数据存储层： HBase,Kudu, HDFS,

3. 数据分析层： Spark,flink，Storm， MapReduce,HIVE,Tez，pig,mahout,phoenix

4. OLAP引擎： Druid , Kylin，lmpala, presto

5. 资源管理层： yarn,kubernetes, mesos

6. 工作调度器： Oozie ， Azkaban

7. 监测管理： openTSDB ，Ambari，ganglia

8. 其他： zookeeper,chubby

9. 文档存储： mongoDB, CouchDB

大数据：注重海量数据存储与处理，基本处于PaaS ，平台即服务

云计算：侧重于硬件资源虚拟化，基本处于LaaS ,基础设施即服务

不过现在的阿里云，亚马逊云等公有云，以及不单单是卖虚拟化的计算资源了，也会涉及到大数据，图像识别，数据库，云安全等，所以现在的云计算已经涵盖了laaS,PaaS,SaaS等方方面面。

除了按照这种技术栈来区分之外，有时候还会按照数据的实时处理程度分为： 批量计算和实时在线技术。

批量计算就是我们常说的离线计算。一次性处理大量数据，吞吐量大，但延时较高。适合数据ETL等场景。

大数据的适用场景

最近跟一家公司对接，他们做的就是大数据的河海农业数据分析。比如展示某一个地区的2010-2020年，10年的降水量。

最近炒得比较火的是交通大数据，实时采集交通信号灯，二氧化碳传感器，汽车位置和速度传感器，以及来自网上的社交媒体的数据，来进行分析。 帮助乘客重新规划路线，节省时间。

金融行业的智慧金融，可以分析客户的数据，来给用户精准提供贷款或者推荐商品。

人工智能，最火的例子就是google的AlphaGo， 人工智能可以进行自主学习，不断完善。 当然除了下棋，还有人脸识别，语音识别，机器翻译，无人驾驶，智能机器人等领域都有很大的威力。

大数据小故事

某比萨店的电话铃响了，客服人员拿起电话。

客服：XXX比萨店。您好，请问有什么需要我为您服务 ？

顾客：你好，我想要一份披萨

客服：先生，烦请先把您的会员卡号告诉我。

顾客：16846146***。

客服：陈先生，您好！您是住在泉州路一号12楼1205室，您家电话是2646****，您公司电话是4666****，您的手机是1391234****。请问您想用哪一个电话付费？

顾客：你为什么知道我所有的电话号码？

客服：陈先生，因为我们联机到CRM系统。

顾客：我想要一个海鲜比萨……

客服：陈先生，海鲜比萨不适合您。

顾客：为什么？

客服：根据您的医疗记录，你的血压和胆固醇都偏高。

顾客：那你们有什么可以推荐的？

最全的Linux教程，Linux从入门到精通

======================

1. linux从入门到精通(第2版)

2. Linux系统移植

3. Linux驱动开发入门与实战

4. LINUX 系统移植 第2版

5. Linux开源网络全栈详解 从DPDK到OpenFlow

第一份《Linux从入门到精通》466页

====================

内容简介

====

本书是获得了很多读者好评的Linux经典畅销书**《Linux从入门到精通》的第2版**。本书第1版出版后曾经多次印刷，并被51CTO读书频道评为“最受读者喜爱的原创IT技术图书奖”。本书第﹖版以最新的Ubuntu 12.04为版本，循序渐进地向读者介绍了Linux 的基础应用、系统管理、网络应用、娱乐和办公、程序开发、服务器配置、系统安全等。本书附带1张光盘，内容为本书配套多媒体教学视频。另外,本书还为读者提供了大量的Linux学习资料和Ubuntu安装镜像文件，供读者免费下载。

本书适合广大Linux初中级用户、开源软件爱好者和大专院校的学生阅读，同时也非常适合准备从事Linux平台开发的各类人员。

需要《Linux入门到精通》、《linux系统移植》、《Linux驱动开发入门实战》、《Linux开源网络全栈》电子书籍及教程的工程师朋友们劳烦您转发+评论

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以点击这里获取！

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！