智能化运维学习笔记【2】_智能建造与运维笔记(1)，2024Linux运维高级面试题汇总解答

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新Linux运维全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上运维知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024b （备注运维）

正文

其具有高吞吐量、高可用性、适合大规模分布式系统应用的特点。
RocketMQ 在阿里巴巴集团被广泛应用于交易、充值、流计算、消息推送、日志流式处理、 binglog 发等场景。

4.1.4 Kafka

组件概念：

• Broker：缓存代理， Kafka 集群中的一台或多台服务器统称为 Broker
• Topic：区分 Kafka 的消息类型，将不同的消息写到不同的 Kafka Topic中
• Partition：Topic物理上的分组，一个Topic可以分为多个 Partition ，每个Partition 都是一个有序的队列。 Partition中的每条消息都会被分配一个有序的 id（offset）
• Producer：消息的生产者
• Consumer：消息的消费者
• Consume Group：每一组消费者都有相同的 Group id这样可以保证多个消费者不重复消费同一条消息。

基本特性

• 高吞吐量、低延迟：Kafka 每秒可以处理几卡万条消息，它的延迟时间最低只有几毫秒。每个Topic都可以分多个Partition，Comsumer Group对Partition 进行消费操作。
• 可扩展性：Kafka集群支持热扩展，在消费能力不足的情况下可以增加分区。
• 持久性、可靠性：消息被持久化到本地磁盘，并且支持数据备份，防止数据丢失。
• 容错性：允许集群中节点失败，若副本数为n,允许n-1个节点失败
• 高并发性：由于Kafka是顺序读/写磁盘的，使用NIO的网络模型支持数千个客户端同时读/写。

4.2 安装与使用

另外记录安装和使用

4.3 案例分析

4.3.1 曰志采集

投放引擎进行日志的记录，采集工具进行日志的实时采集，然后实时地将日志写入 Kafka。目前微博广告存在多个 Kafka 消息队列集群，针对不同的业务日志划分为不同的集群。日志收集使用了上百个 Kafka Topic。

4.3.2 实时结算

消息队列的作用是：当系统处理消费能力不足时，可以通过增加分区、增加部署节点来提高系统吞吐量。当由于流量增加造成系统故障时，上游的数据可以写入 Kafka 集群，这样即使下游的服务者机也不会造成结算数据的丢失，避免了对公司的收入造成 定的损失。 Kafka 让系统与系统之间大大降低了相合性。 Kafka 支持同步和异步的消息写入，并且可以配置消息写入模式来降低丢失消息的风险，因为对于结算系统来说，消息丢失率高就会造成收入的减少。

4.3.3 实时计算

大量的数据需要实时地通过消息队列传输 实时计算引擎通过实时消费 Kafka的数据进行计算。投放效果评估平台、微博广告实验平台同样需要实时地消费数据，进行投放算法的分析和反馈。

第五章、大数据存储技术

5.1 传统数据存储

2010 年以前的互联网公司的大型论坛、 SNS 、博客等互动产品的技术架构如下图所示：

其主要逻辑是： LVS 负责负载均衡；SquidNamish 承担图片、静态页的缓存功能； Nginx 用来做反向代理；Web 服务器处理业务逻辑：数据库存储业务数据； Cache 服务器主要用作对象缓存和列表缓存。其中存在大 能产生 access 日志的服务器，有效存储这些日志是一个难题。

5.1.2 传统存储的运行机制

日志接收服务器通过网络共享、rsy、网络传输等技术，将日志集中到几台磁盘容很大的大型主机上，大型主机上可能安装有 Oracle 或者 MySQL 关系型数据库，用 Python, Perl,shell 来处理这些日志，然后输出计算结果。

为了解决单点问题，通常的做法是使用 台具有相同配置的机器作为冷备，将两台机器相合在 起，如果其中一台机器发生了故障，则可以快速地使用另 台机器顶替，维持业务的连 性，这就是最简单的集群形式。

5.1.3 传统存储带来的问题

性能问题、成本激增、单点问题、数据准确性等四大问题

5.2 基于HDFS的分布式存储

5.2.1 分布式存储的定义

分布式存储就是指通过网络连接每台机器 使这些分散的存储资源构成一个虚拟的存储设备，数据分散在每台机器上的各个角落。与集中式存储技术不同，分布式存储技术并不是将数据存储在某个或多个特定节点上的。

5.3 HDFS分布式存储原理

请查看之前文章：HDFS技术原理

5.4 大数据环境下的数据仓库和分层存储技术

5.4.1 数据仓库

1. 数据仓库的特点

面向主题、集成、相对稳定、反映历史变化

2.数据仓库的组成

• 数据仓库数据库
• 数据抽取工具
• 元数据
  元数据包括 数据源信息、数据转换的描述、数据仓库 对象 数据结构的定义、数据清理和数据更新使用的规则、源数据到目的数据的映射、用户访问权限、数据备份历史记录、数据导入历史记录、信息发布历史记录等。
  商业元数据从商业业务的角度描述了数据仓库中的数据。商业元数据包括：业务问题的描述，以及所包含的数据、查询、报表。
  元数据为访问数据仓库提供了一个信息目录，这个目录全面描述了数据仓库中都有什么数据、这些数据是怎么得到的，以及怎么访问这些数据 。它是数据 库运行和维护的中心， 数据仓库服务器利用它来存储和更新数据，用户通过它来了解和访问数据
• 访问工具
  访问工具为用户访问数据仓库提供手段 访问工具有数据查询和报表工具、应用开发工具、联机分析处理（ LAP ）工具、数据挖掘工具。
• 数据集市（ Data Market)
  数据集市是为了特定的应用目的或应用范围，而从数据仓库中独立出来的一部分数据 ，也可称为部门数据或主题数据 。

5.4.2 数据仓库分层架构

最全的Linux教程，Linux从入门到精通

======================

1. linux从入门到精通(第2版)

2. Linux系统移植

3. Linux驱动开发入门与实战

4. LINUX 系统移植 第2版

5. Linux开源网络全栈详解 从DPDK到OpenFlow

第一份《Linux从入门到精通》466页

====================

内容简介

====

本书是获得了很多读者好评的Linux经典畅销书**《Linux从入门到精通》的第2版**。本书第1版出版后曾经多次印刷，并被51CTO读书频道评为“最受读者喜爱的原创IT技术图书奖”。本书第﹖版以最新的Ubuntu 12.04为版本，循序渐进地向读者介绍了Linux 的基础应用、系统管理、网络应用、娱乐和办公、程序开发、服务器配置、系统安全等。本书附带1张光盘，内容为本书配套多媒体教学视频。另外,本书还为读者提供了大量的Linux学习资料和Ubuntu安装镜像文件，供读者免费下载。

本书适合广大Linux初中级用户、开源软件爱好者和大专院校的学生阅读，同时也非常适合准备从事Linux平台开发的各类人员。

需要《Linux入门到精通》、《linux系统移植》、《Linux驱动开发入门实战》、《Linux开源网络全栈》电子书籍及教程的工程师朋友们劳烦您转发+评论

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注运维）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
深入研究，那么很难做到真正的技术提升。**

需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注运维）
[外链图片转存中…(img-sShP7gjp-1713251636749)]

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！