淘系面向业务价值的精细化流量管控实战，面试 多线程

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上Java开发知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024b （备注Java）

正文

• 在流量分发场景中，将 有缓存的回退请求 作为一个流量划分精细化管控，最大化保障了用户的体验和业务价值（精细化限流）

• 在各类平台/业务对于按照业务优先级做服务分级流控使用方面，业务以 各自灵活划分方式 来对自身服务进行分级流控（自适应服务分级）

• • 如 直播、互动、我的淘宝、淘金币 进一步提升了用户体验和业务价值

• 其中淘系某个核心服务集群，在高压场景下成功率提升2.5%（单容器最大提升17.8%）

• 在大促会场场景中，根据 业务线 做路由隔离，保障了业务稳定性，提升了业务接入效率 （精细化路由）

• • 通过前置网关精细化路由隔离能力，将集群隔离出独立支撑不同业务会场的分组。

• 分组可由各业务方自行运维流量与资源，大促会场业务接入效率有50%的提升。

• 在大促会场场景中，平台将 主会场页面群 作为一个流量划分，做流控（精细化限流）

• • 会场的流量来源多，引流来源页面群的流量受控，就不再会挤占手淘主要来源的可用资源，也就不会发生不预期的限流。

• 其中某几个渠道来源比其他来源的流量成交转化要高，确保了系统整体稳定、保证了高转化会场页面请求的可用性。

• 另外，会场使用的限流能力直接前置到统一接入网关，今年在稳定性保障方面投入的人员较去年节省100+人日。

解决方案在实战中，各个平台/业务可以根据自身的诉求使用全部能力或部分能力的组合，比如：

按照流量来源/请求类型 来做精细化前置限流

使用网关层的前置限流+路由能力，以及容器层的自适应流控

多个APP来源使用网关层的前置限流，容器层的自适应限流+服务分级流控

---

设计思路

---

---

为了能够解决上述问题，总体思路是建立一组通用能力并与业务契合。使平台与业务能够根据各自的特点，以业务领域的维度灵动的组织流量并进行管控，最终达到系统稳定、业务效果与收益提升、用户体验顺滑的目标。

在这里引入三个基本概念：

• 业务标识

• 管控粒度

• 控制能力

通过业务平台请求上携带的业务标识，基础服务提供精细化的管控粒度，以管控业务平台上任意粒度的业务请求流量。

▐  业务标识

---

业务标识是请求/流量的属性，从业务平台划分流量的方式来看，通常涉及几种类型。

• 来源标识。或称为调用方标识、用户方标识，用于区分业务请求的不同来源。比如大促会场的页面标识。

• 业务平台标识。即是业务平台类型，用于区分处理业务请求的不同业务平台。比如大促会场、手淘首页、直播等。

• 业务运行属性标识。比如手机淘宝首页的请求类型。

业务标识本身是已存在的，并在各个业务中有自己的业务标识结构。这里通过一个一致的、灵活的方式将请求上的各类业务标识解析提取，以便按照业务标识的灵动组合来对请求流量进行任意定制化的划分。

▐  管控粒度

---

有了业务标识之后，业务平台可以通过业务标识配置、定义出管控粒度。一个管控粒度即一组请求流量的划分单元，针对这一单元进行精细化的管控。

管控粒度包含了一个表达式组件和一组有业务语意的配置信息。每一个业务平台下面都可以定义独立与其他平台，有于自身业务紧密相关的管控粒度。在网关接入层面对海量请求流量，会进行流量的识别，看流量属于那一个/一组管控粒度范围。

引入业务标识与管控粒度，比传统的API网关使用API名、参数来做限流的方式，更能贴合业务，可个性化定制，满足各种业务诉求。

▐  控制能力

---

有了管控粒度及其划分出的精细化流量之后，可以在管控粒度（精细化流量）上挂载需要的一组控制能力，以完成业务所需的精细化管控的诉求，比如：

• 手机淘宝首页按请求类型进行精细化的网关前置限流。

• 大促会场按会场页面标识进行精细化的网关前置限流。

• 大促会场等平台型业务按接入的业务进行流量路由调度。

• 直播、互动、淘金币、我的淘宝等业务需按业务定制优先级进行分级流控。

---

解决方案

---

---

结合前文针对平台型业务的问题、解决问题的设计思路，马克尼(Marconi)提供了一套精细化流量管控解决方案。

• 不以传统API名称或参数这类偏技术的视角做流控和路由，而是以大小可灵动调节的管控粒度来贴合业务做精细化流控、路由隔离、服务分级，满足各类平台与业务的个性化流量管控诉求。

• 多架构层次（从接入网关到业务应用集群/容器）管控业务流量并提升业务服务效果。

▐  整体架构

---

马克尼(Marconi)精细化流量管控解决方案

业务标识是请求/流量的属性，每一个请求都可以根据标识划分到不同的管控粒度进行管理。通过管控粒度划分出精细化的流量之后，以管控粒度ID为上下文，可以串联起所需的一组控制能力：

• 网关前置流控能力（管控粒度更加精细化）：

• • 解决 面向业务价值的精细化业务流量管控、突发大流量的稳定性保障。

• 网关路由隔离能力（资源的物理集群隔离）：

• • 解决 面向业务价值的精细化业务流量管控、业务平台自建网关的系统稳定性与成本问题。

• 容器自适应流控能力（容器粒度的负载调节能力）：

• • 解决 由流量变化、业务逻辑迭代、人工评估流程中各种不确定性引发的问题/故障。

• 容器服务分级能力（容器内服务粒度自适应隔离）：

• • 解决 面向业务价值的精细化业务流量管控、突发大流量的稳定性保障。

最终，实现业务请求流量的精细化管控诉求，达成业务服务高质量输出的目标。

限流与隔离通过接入层网关做前置处理，能够更精细化、更高效、更强劲的对背后的业务系统进行保护。

网关前置流控能力在业务流量超过阈值后，快速失败，不让请求在系统链路中如幽灵般的游荡最后才超时失败；

网关常常能承载非常高的流量冲击，是单业务系统请求处理能力的成千上万倍，如同大坝一般。

▐  服务分级

---

诺亚(Noah)自适应流控面向系统主要的CPU资源，基于反馈控制算法，进行自适应系统负载调节。过去一年经过了各类大促考验，非常成熟。而今年在能力上也大力挖掘，面向业务服务等级作出差异化的分级流控（自适应隔离），使得业务系统在面对大流量时，在保障系统稳定性的前提下，服务效果收益有最佳表现。

服务分级保护方案效果

▐  业务效果

---

马克尼(Marconi)在稳定性、成本、效率以及体验均有突出表现，特别业务效果与收益方面有显著提升。

• 精细化前置限流：

• • 会场使用的限流能力直接前置到统一接入网关，今年在稳定性保障方面投入的人员较去年节省100+人日。

• 接入层网关构筑的大坝能防御成千上万倍于业务负载流量（如 由于前端Bug放大请求打了900WQPS的异常流量，而业务本身仅10WQPS量级的流量预估），前置流控保护业务应用未被冲垮，再配合自适应流控能力能提供 绝对防御能力。

• 精细化路由隔离：

• • 会场平台的业务接入效率提升50%。

• 平台型业务将不同业务/场景的流量进行物理资源隔离/分流，避免某个业务/场景出现问题引发整个平台集群整体故障。

• 服务分级：

• • 直播平台主要服务（直播间、查看宝贝口袋列表）的集群成功率提升2.5%（单容器最大提升17.8%）。

• 可避免单个问题服务占满系统资源导致应用全局服务出现问题（如下游接口出RT 增加、写日志过多出问题、甚至其他未知的阻塞/延时增加问题）。

**马克尼(Marconi)**在2020双11中，保障淘系(淘宝、天猫等)核心业务平台 (如 首页、会场、直播、互动、我的淘宝 等) 的稳定性，多架构层次（接入网关，从业务应用集群到容器层面）管控业务流量并提升业务服务效果，给予用户顺滑的体验；提升了淘系(及阿里巴巴集团更多的BU)的稳定性底盘，成为应用稳定性保障的核心能力；推动了业界在大型分布式在线业务系统的高可用/稳定性保障进展；为今年双11创新纪录提供保障！

淘系架构团队

---

总结

互联网大厂比较喜欢的人才特点：对技术有热情，强硬的技术基础实力；主动，善于团队协作，善于总结思考。无论是哪家公司，都很重视高并发高可用技术，重视基础，所以千万别小看任何知识。面试是一个双向选择的过程，不要抱着畏惧的心态去面试，不利于自己的发挥。同时看中的应该不止薪资，还要看你是不是真的喜欢这家公司，是不是能真的得到锻炼。其实我写了这么多，只是我自己的总结，并不一定适用于所有人，相信经过一些面试，大家都会有这些感触。

**另外本人还整理收藏了2021年多家公司面试知识点以及各种技术点整理 **

下面有部分截图希望能对大家有所帮助。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注Java）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
，还要看你是不是真的喜欢这家公司，是不是能真的得到锻炼。其实我写了这么多，只是我自己的总结，并不一定适用于所有人，相信经过一些面试，大家都会有这些感触。

**另外本人还整理收藏了2021年多家公司面试知识点以及各种技术点整理 **

下面有部分截图希望能对大家有所帮助。

[外链图片转存中…(img-kJzVn0dC-1713344250003)]

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注Java）
[外链图片转存中…(img-wli3Qskk-1713344250003)]

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！