案例研究 | 火山引擎边缘云采用基于英特尔®软硬件打造的HDSLB，深度优化四层负载均衡性能...

最新推荐文章于 2024-05-14 22:49:05 发布

weixin_37097605

最新推荐文章于 2024-05-14 22:49:05 发布

阅读量576

点赞数

文章标签：火山引擎负载均衡运维网络

本文链接：https://blog.csdn.net/weixin_37097605/article/details/128945801

版权

概述

为应对实际业务对高并发、大吞吐、低时延的网络性能需求不断增高的要求，火山引擎边缘云选用基于英特尔^®软硬件打造的四层负载均衡方案——高密度可拓展负载均衡器 (HDSLB)优化其四层负载均衡方案。最终，不仅提升了高并发场景中的应用转发质量和转发性能、降低了转发成本，还提高了支撑业务的网络承载能力。

背景

火山引擎边缘云是以云原生技术为基础底座，融合异构算力和边缘网络，构建在边缘大规模基础设施之上的云计算服务，形成以边缘位置的计算、网络、存储、安全和智能为核心能力的新一代分布式云计算解决方案。

火山引擎四层负载均衡作为边缘云的重要基础产品之一，主要在抖音集团基础网络架构中处理来自用户的四层协议(TCP/UDP)访问请求，由负载均衡集群中的服务器根据调度算法转发给后端业务服务器，完成对用户业务请求的处理。

目前火山引擎四层负载均衡已被广泛部署于国内及海外的数据中心，用于支撑抖音、今日头条和西瓜视频等国民级APP的网络流量，满足数亿用户的日常使用以及抖音集团自有业务的网络接入需求。

挑战

抖音集团整体业务体量的迅速增长，使得业务对基础设施性能的要求越来越高，尤其是对高并发、大吞吐、低时延的网络性能需求。因此，火山引擎四层负载均衡面临以下性能挑战：

转发性能瓶颈：四层负载均衡单节点转发PPS性能亟待提升。除需要提升在高并发场景下的单CPU核转发PPS性能之外，还需要进一步提升性能可扩展性，保持转发性能随CPU核数增加而线性增长。
大象流承载能力需要提升：大象流在当前主流四层负载均衡软硬件架构下，仅能由单个CPU核处理，因此在单CPU核性能受限的情况下很容易出现网络丢包问题。尽可能提升单CPU核转发性能可以在一定程度上缓解因大象流导致的业务体验下降的问题。
转发时延抖动需要降低：实时交互类应用对网络时延一致性有极高的要求，因此四层负载均衡需要在流量转发时尽可能降低转发时延，并确保时延的一致性和降低时延抖动。

技术选型与性能验证

为攻克上述挑战，火山引擎边缘云团队须优化既有的四层负载均衡方案，并在进行技术选型时一致认为：四层负载均衡方案在满足当前对性能的需求之外，还应为未来发展留下进一步提升的空间。具体指：

满足当前性能优化需求：方案本身需具备更出色的性能，以满足当前PPS转发性能等业务需求，且在软件架构方面可以和既有方案深度融合。
适应异构计算发展趋势：可以通过持续引入异构加速器方案解决实际业务痛点（例如大象流及网络微突发丢包问题），从而满足业务越来越高的网络需求。
稳定的发展路线图：针对下一代硬件技术的发展：例如新CPU指令集、内存池化、下一代网络通信加速技术等，可以依照硬件发展路线图持续引入，充分享受硬件技术发展红利。

在对多种技术进行了深入了解和评估以及与英特尔工程师充分沟通后，火山引擎边缘云决定选用基于英特尔^®软硬件打造的四层负载均衡方案——高密度可拓展负载均衡器(HDSLB)，并联合英特尔在抖音集团的实际业务场景中，按照表1所示的测试环境对HDSLB的零丢包转发和TCP新建性能进行了测试和评估。

表1：火山引擎 HDSLB 测试环境

测试网络拓扑如图1所示。

图1. 火山引擎 HDSLB 测试网络拓扑

根据图2和图3所示的测试结果，可以看出：在64字节小包零丢包转发性能方面，HDSLB的单核转发性能高达8 Mpps，且多核CPU转发性能满足线性拓展特性1；在TCP流新建性能方面，HDSLB的单核性能为88万CPS，且多核CPU的TCP流新建性能也满足线性拓展特性。

图2. HDSLB 64 字节小包零丢包转发性能测试结果¹

图3. HDSLB TCP 流新建性能测试结果²

总结与规划

火山引擎边缘云与英特尔基于HDSLB的四层负载均衡深度优化合作取得了令人满意的成果。一方面HDSLB本身转发性能优异，而在高并发实际场景中的应用不仅有效提升了转发质量和转发性能，还降低了转发成本；另一方面，HDSLB方案的引入提升了边缘云支撑业务的网络承载能力，为应对新业务挑战做好了准备。同时本次合作也证明了基于第三代英特尔^® 至强^®可扩展处理器的硬件平台在网络应用方面的优势，可为四层负载均衡等应对巨大网络压力的应用负载提供坚实支撑。

未来，火山引擎边缘云还将与英特尔在大象流处理和流量限速等实际业务场景中继续展开交流与合作，共同探索新的业务发展潜力和产品价值，破解更多阻碍业务发展的技术瓶颈。

产品和性能信息

^1 2测试日期为2021年6月，该数据由火山引擎提供。英特尔并不控制或审计第三方数据。请您审查该内容，咨询其他来源，并确认提及数据是否准确。

法律声明

英特尔并不控制或审计第三方数据。请您审查该内容，咨询其他来源，并确认提及数据是否准确。

性能测试结果基于2021年6月进行的测试，且可能并未反映所有公开可用的安全更新。详情请参阅配置信息披露。没有任何产品或组件是绝对安全的。

描述的成本降低情景均旨在在特定情况和配置中举例说明特定英特尔产品如何影响未来成本并提供成本节约。情况均不同。英特尔不保证任何成本或成本降低。

英特尔技术特性和优势取决于系统配置，并可能需要启用硬件、软件或激活服务。产品性能会基于系统配置有所变化。没有任何产品或组件是绝对安全的。更多信息请从原始设备制造商或零售商处获得，或请见 intel.cn 。

英特尔、英特尔标识以及其他英特尔商标是英特尔公司或其子公司在美国和/或其他国家的商标。

关于火山引擎

火山引擎是字节跳动旗下的云服务平台，将字节跳动快速发展过程中积累的增长方法、技术能力和工具开放给外部企业，提供云基础、视频与内容分发、大数据、人工智能、开发与运维等服务，帮助企业在数字化升级中实现持续增长。

关于英特尔

英特尔 (NASDAQ: INTC) 作为行业引领者之一，致力于创造能够改变世界的先进技术，推动全球进步并让生活丰富多彩。在摩尔定律的启迪下，我们不断推进半导体设计与制造，帮助我们的客户应对重大挑战。通过将智能技术融入云、网络、边缘和各种计算设备，我们以全面释放数据潜能为目标，助力商业和社会变得更美好。如需了解英特尔创新的更多信息，请访问英特尔中国新闻中心 newsroom.intel.cn 以及官方网站 intel.cn。