Kafka是如何实现高性能的?专题解析

本文探讨了Kafka高性能背后的关键技术——Scudo分配器,它提供额外的安全措施防止堆漏洞,同时保持高性能。Scudo包括主分配器、次分配器、本地缓存和隔离区等组件,确保内存安全和效率。此外,文章提到了Scudo在Android和Google生产服务中的应用,并分享了学习方法和Android高级架构师的进阶之路。
摘要由CSDN通过智能技术生成

前言

很多次小伙伴问到学习方法,我也很想写这样的一篇文章来跟大家讨论下关于学习方法这件事情。

其实学习方法这个事情,我没啥发言权,因为我自己本身都是没啥方法可言的,就瞎折腾那种,但是大家想看这样的一篇文章,我就结合身边比较优秀的仔,那就聊一下这个事情吧。

写这个文章的的时候我构思了很多种写法,因为考虑我读者很多大学生,也有很多毕业的仔,想照顾所有的群体,那我整个文章会从读书时候的一些学习方法,还有就是工作之后的工作学习方法去写,这个思路应该也ok。

Scudo是一种用户模式分配器,旨在提供额外的mitigation 来防止堆的漏洞的方法,同时保持良好的性能。它是开源的,是LLVM的editor-rt项目的一部分。

Scudo当前是Fuchsia中的默认分配器,已在Android的某些组件中启用,并在某些Google生产服务中使用。虽然最初是在sanitizer_common的某些组件之上实现的,但现在它被重写为独立的,而无需依赖其他编译器-rt部件,从而易于使用(以及其他性能和安全性优势)。

Scudo由以下组件组成:

Primary 分配器

这是一个快速分配器,用于处理较小的请求(可在编译时配置)。它是“隔离的”,例如:相同大小的块最终位于相同的存储区域中,并与其他区域分隔开(64位的分隔更强,其中专门为主要区域保留了存储区域);主节点分配的块被随机分配以避免可预测的地址序列(请注意,大小越大,地址彼此之间的可预测性就越高)。

Secondary 分配器

包装平台内存分配原语,因此速度较慢,用于服务较大的分配。辅助服务器完成的分配被保护页面包围;

本地缓存

这些是线程专用的存储,持有指向空闲块的指针,以减轻对全局空闲列表的争用。有两种模式:独占模式和共享模式。使用排他性模型,每个线程都有一个唯一的缓存,这会占用更多的内存,但几乎没有争用。使用共享模型,线程可以共享一定数量的缓存,这些缓存可以在运行时根据竞争情况进行动态重新分配-与专用模型相比,它使用的内存更少,通常可以更好地满足最终用户平台的需求。

隔离区

可以等同于heap 范围内的延迟释放列表,在将其释放系统之前,将最近释放的块保留一段时间,直到满足条件(通常达到一定大小)为止。 有线程的隔离区和一个全局隔离区。就内存使用情况和某种程度上的性能而言,这是最有影响力的:即使是较小的隔离区也会对进程RSS产生很大影响。因此,默认情况下它是禁用的,并且可以在每个进程的基础上启用(并根据进程的需要调整大小)。

安全性

强制执行最大大小和对齐值,但还要检查提供的指针是否正确对齐;这些是便宜的检查,以避免整数溢出并捕获较低的挂起分配错误(或滥用);

每个块之前都有一个header,该header存储有关分配的基本信息和校验码,并经过校验和以能够检测到该memory是否损坏。

header的校验和,要处理的指针以及header的内容-这并不意味着密码学上很强。至于存储在头文件中的数据,它保存分配的大小,块的状态(可用,已分配,隔离),其来源(malloc,new,new [])和一些内部数据。头是原子操作的,以检测在同一块上运行的线程之间的竞争尝试。

确保释放函数与返回目标块的分配函数一致(例如:free / malloc,delete / new);我们会随机分配一切,以尽可能降低可预测性;线程缓存的附带好处之一是,如果攻击者利用不同线程中的分配原语,它们会使攻击者更难在所需的状态下获取所需的块。

让我们看一下Google生产服务的一些典型基准,其中涉及许多异步线程,protobuf,RPC和其他优点,所有这些都运行在具有512GB RAM的72核心Xeon机器上(并不是要进行最严格的比较,而是让您了解最新情况。)第一个指标是每秒的查询数,第二个指标是程序的RSS峰值(由/ usr / bin / time报告)。

学习分享,共勉

Android高级架构师进阶之路

题外话,我在阿里工作多年,深知技术改革和创新的方向,Android开发以其美观、快速、高效、开放等优势迅速俘获人心,但很多Android兴趣爱好者所需的进阶学习资料确实不太系统,完整。今天我把我搜集和整理的这份学习资料分享给有需要的人,若有关Android学习进阶可以与我在Android终极开发交流群一起讨论交流。 点击这里前往我的腾讯文档领取资料 的同时,还可以加入一个好的学习交流圈,何乐而不为呢?加入我们和我们一起吧!!

  • Android进阶知识体系学习脑图

  • Android进阶高级工程师学习全套手册

  • 对标Android阿里P7,年薪50w+学习视频

  • 大厂内部Android高频面试题,以及面试经历

(img-jnDiqirG-1620714006114)]

  • 大厂内部Android高频面试题,以及面试经历

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值