智能化运维学习笔记【2】_智能建造与运维笔记,2024年最新海量算法高频面试题精编解析

先自我介绍一下,小编浙江大学毕业,去过华为、字节跳动等大厂,目前阿里P7

深知大多数程序员,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年最新Linux运维全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
img
img
img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上运维知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

如果你需要这些资料,可以添加V获取:vip1024b (备注运维)
img

正文

ActiveMQ 是开源的消息队列,实现了 JMS 1.1 规范的面向消息的中间件 MOM ),为应用程序提供高效的、可扩展的、稳定的和安全的企业级消息通信。 ActiveMQ 设计目的是提供标准的 、面向消息的、能够跨越多语言和多系统的应用集成消息通信中间件。

ActiveMQ 实现了JMS 标准并提供了很多附加特性,包括JMX管理、主从管理、消息通信组、消息有限级、订阅消息的延迟接收、接收者处理过慢、虚拟接收者、成熟的消息持久化技术、支持游标操作、支持消息转换、通过Apache的Camel支持EIP、使用镜像队列的形式轻松地对消息队列进行监控等。

4.1.3 RocketMQ

RocketMQ 是一种纯 Java 的、分布式的、队列模型的开源消息中间件,其前身是MetaQ,MetaQ 3.0发布时, 产品名称改为 RocketMQ,RocketMQ 能够保证严格的消息顺序,提供丰富的消息拉取模式、高效的订阅者水平扩展能力、实时的消息订阅机制、亿级消息堆积能力。
其具有高吞吐量、高可用性、适合大规模分布式系统应用的特点。
RocketMQ 在阿里巴巴集团被广泛应用于交易、充值、流计算、消息推送、日志流式处理、 binglog 发等场景。

4.1.4 Kafka

在这里插入图片描述

组件概念:
  • Broker:缓存代理, Kafka 集群中的一台或多台服务器统称为 Broker
  • Topic:区分 Kafka 的消息类型,将不同的消息写到不同的 Kafka Topic中
  • Partition:Topic物理上的分组,一个Topic可以分为多个 Partition ,每个Partition 都是一个有序的队列。 Partition中的每条消息都会被分配一个有序的 id(offset)
  • Producer:消息的生产者
  • Consumer:消息的消费者
  • Consume Group:每一组消费者都有相同的 Group id这样可以保证多个消费者不重复消费同一条消息。
基本特性
  • 高吞吐量、低延迟:Kafka 每秒可以处理几卡万条消息,它的延迟时间最低只有几毫秒。每个Topic都可以分多个Partition,Comsumer Group对Partition 进行消费操作。
  • 可扩展性:Kafka集群支持热扩展,在消费能力不足的情况下可以增加分区。
  • 持久性、可靠性:消息被持久化到本地磁盘,并且支持数据备份,防止数据丢失。
  • 容错性:允许集群中节点失败,若副本数为n,允许n-1个节点失败
  • 高并发性:由于Kafka是顺序读/写磁盘的,使用NIO的网络模型支持数千个客户端同时读/写。
4.2 安装与使用

另外记录安装和使用

4.3 案例分析

在这里插入图片描述

4.3.1 曰志采集

投放引擎进行日志的记录,采集工具进行日志的实时采集,然后实时地将日志写入 Kafka。目前微博广告存在多个 Kafka 消息队列集群,针对不同的业务日志划分为不同的集群。日志收集使用了上百个 Kafka Topic。

4.3.2 实时结算

消息队列的作用是:当系统处理消费能力不足时,可以通过增加分区、增加部署节点来提高系统吞吐量。当由于流量增加造成系统故障时,上游的数据可以写入 Kafka 集群,这样即使下游的服务者机也不会造成结算数据的丢失,避免了对公司的收入造成 定的损失。 Kafka 让系统与系统之间大大降低了相合性。 Kafka 支持同步和异步的消息写入,并且可以配置消息写入模式来降低丢失消息的风险,因为对于结算系统来说,消息丢失率高就会造成收入的减少。

4.3.3 实时计算

大量的数据需要实时地通过消息队列传输 实时计算引擎通过实时消费 Kafka的数据进行计算。投放效果评估平台、微博广告实验平台同样需要实时地消费数据,进行投放算法的分析和反馈。

第五章、大数据存储技术

5.1 传统数据存储

2010 年以前的互联网公司的大型论坛、 SNS 、博客等互动产品的技术架构如下图所示:
在这里插入图片描述
其主要逻辑是: LVS 负责负载均衡;SquidNamish 承担图片、静态页的缓存功能; Nginx 用来做反向代理;Web 服务器处理业务逻辑:数据库存储业务数据; Cache 服务器主要用作对象缓存和列表缓存。其中存在大 能产生 access 日志的服务器,有效存储这些日志是一个难题。

5.1.2 传统存储的运行机制

在这里插入图片描述
在这里插入图片描述
日志接收服务器通过网络共享、rsy、网络传输等技术,将日志集中到几台磁盘容很大的大型主机上,大型主机上可能安装有 Oracle 或者 MySQL 关系型数据库,用 Python, Perl,shell 来处理这些日志,然后输出计算结果。

为了解决单点问题,通常的做法是使用 台具有相同配置的机器作为冷备,将两台机器相合在 起,如果其中一台机器发生了故障,则可以快速地使用另 台机器顶替,维持业务的连 性,这就是最简单的集群形式。

5.1.3 传统存储带来的问题

性能问题、成本激增、单点问题、数据准确性等四大问题

5.2 基于HDFS的分布式存储
5.2.1 分布式存储的定义

分布式存储就是指通过网络连接每台机器 使这些分散的存储资源构成一个虚拟的存储设备,数据分散在每台机器上的各个角落。与集中式存储技术不同,分布式存储技术并不是将数据存储在某个或多个特定节点上的。
在这里插入图片描述

5.3 HDFS分布式存储原理

请查看之前文章:HDFS技术原理

5.4 大数据环境下的数据仓库和分层存储技术
5.4.1 数据仓库

在这里插入图片描述

1. 数据仓库的特点

面向主题、集成、相对稳定、反映历史变化

2.数据仓库的组成
  • 数据仓库数据库
  • 数据抽取工具
  • 元数据
    元数据包括 数据源信息、数据转换的描述、数据仓库 对象 数据结构的定义、数据清理和数据更新使用的规则、源数据到目的数据的映射、用户访问权限、数据备份历史记录、数据导入历史记录、信息发布历史记录等。
    商业元数据从商业业务的角度描述了数据仓库中的数据。商业元数据包括:业务问题的描述,以及所包含的数据、查询、报表。
    元数据为访问数据仓库提供了一个信息目录,这个目录全面描述了数据仓库中都有什么数据、这些数据是怎么得到的,以及怎么访问这些数据 。它是数据 库运行和维护的中心, 数据仓库服务器利用它来存储和更新数据,用户通过它来了解和访问数据
  • 访问工具

为了做好运维面试路上的助攻手,特整理了上百道 【运维技术栈面试题集锦】 ,让你面试不慌心不跳,高薪offer怀里抱!

这次整理的面试题,小到shell、MySQL,大到K8s等云原生技术栈,不仅适合运维新人入行面试需要,还适用于想提升进阶跳槽加薪的运维朋友。

本份面试集锦涵盖了

  • 174 道运维工程师面试题
  • 128道k8s面试题
  • 108道shell脚本面试题
  • 200道Linux面试题
  • 51道docker面试题
  • 35道Jenkis面试题
  • 78道MongoDB面试题
  • 17道ansible面试题
  • 60道dubbo面试题
  • 53道kafka面试
  • 18道mysql面试题
  • 40道nginx面试题
  • 77道redis面试题
  • 28道zookeeper

总计 1000+ 道面试题, 内容 又全含金量又高

  • 174道运维工程师面试题

1、什么是运维?

2、在工作中,运维人员经常需要跟运营人员打交道,请问运营人员是做什么工作的?

3、现在给你三百台服务器,你怎么对他们进行管理?

4、简述raid0 raid1raid5二种工作模式的工作原理及特点

5、LVS、Nginx、HAproxy有什么区别?工作中你怎么选择?

6、Squid、Varinsh和Nginx有什么区别,工作中你怎么选择?

7、Tomcat和Resin有什么区别,工作中你怎么选择?

8、什么是中间件?什么是jdk?

9、讲述一下Tomcat8005、8009、8080三个端口的含义?

10、什么叫CDN?

11、什么叫网站灰度发布?

12、简述DNS进行域名解析的过程?

13、RabbitMQ是什么东西?

14、讲一下Keepalived的工作原理?

15、讲述一下LVS三种模式的工作过程?

16、mysql的innodb如何定位锁问题,mysql如何减少主从复制延迟?

17、如何重置mysql root密码?

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化的资料的朋友,可以添加V获取:vip1024b (备注运维)
img

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**

需要这份系统化的资料的朋友,可以添加V获取:vip1024b (备注运维)
[外链图片转存中…(img-lq7jRCHn-1713251660732)]

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

  • 5
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值