汇量科技使用倚天710云实例 高效处理大流量广告请求

案例速览

行业：互联网广告服务

挑战：支撑业务快速发展、广告模型结构升级，提升技术需求的同时，实现降本增效

解决方案与产品：基于倚天710芯片的g8y倚天云实例、ESS弹性伸缩服务、Spot抢占式实例

成果：通过使用阿里云解决方案，汇量科技顺利承接了大流量接入广告业务请求。性能提升的同时，单机成本降低15-20%，综合性价比提升30%以上。

背景

汇量科技成立于2013 年，是全球领先的第三方技术平台，提供包括用户获取、效果衡量、创意自动化、广告变现等全方位能力的Saas服务矩阵。其中，Mintegral、Nativex、热力引擎等品牌及旗下产品，形成了丰富且互为补充的产品形态。目前已累计服务112个国家的7000多家互联网企业，覆盖247个国家及地区。

随着汇量科技广告业务不断发展的同时，客户重点方向转向提升客户满意度、增强客户忠诚度，从而提高企业的市场竞争力，另外也要通过降本增效提高企业的运营效率，减少企业运营成本，提高经济效益等。

业务挑战

降本&技术需求：广告投放业务每日所需的用云资源量波动巨大，为满足各地业务所需波峰与波谷，希望实现灵活、稳定、成本优化。

广告推理和流量介入性能需求：广告推理服务精排模块，随广告模型结构不断升级，在线推理模型请求参数变多，客户对ECS实例的性能及内网带宽需求更高，部分AI业务算力存在性能不足情况。具体而言，大量用户对效果广告进行点击时，业务系统需要对海量流量进行推理分析等操作，如此大流量介入场景下，原来使用的第六代企业级实例g6的网络带宽等性能无法承载如此大流量，同时性价比不如预期。汇量科技希望在实现业务诉求的基本上实现成本优化。

产品&解决方案

在通用计算方面，早期g6系列整体内网带宽等性能指标不满足需求，通过使用第八代ECS云实例g8y，即倚天云实例，实现了同时提升CPU性能和内网带宽，与g6系列对比单机成本降低15-20%，综合性价比提升30%以上。

搭载倚天710芯片的倚天云实例自设计初就是一款云原生产品，倚天710是平头哥半导体发布的首颗为云而生的 CPU 芯片，单芯片容纳高达600亿晶体管；在芯片架构上，基于ARMv9架构，内含128核CPU，主频2.75GHz，能同时兼顾性能和功耗。在内存和接口方面，集成DDR5、PCIe5.0等技术，能有效提升芯片的传输速率，并且可适配云的不同应用场景。阿里云提供丰富的生态工具，支持全应用生态适配，0代码修改即可完成主流业务迁移。性能方面，倚天710相对于传统CPU架构有三大优势，第一，内部128核为独享物理核，避免了超线程核性能争抢问题；第二，低功耗设计，高规格实例可以实现线性性能增长，避免功耗过高导致降频问题；第三，大Cache设计，提升云场景访存性能。因此，倚天云实例在广告在线推理业务上有很大的性能优势。

随着业务发展与广告模型结构不断升级，在线推理模型请求参数增长速度越来越快，内网带宽要求越来越高，为了适应业务不断增长带宽需求，阿里云推出基于CIPU（Cloud infrastructure Processing Units，云基础设施处理器）与倚天硬件架构的ECS实例，通过将虚拟化与IO转发等任务卸载到专用硬件上进行加速，并在VPC环境下支持弹性RDMA加速能力，相比TCP时延降低70%以上，满足了广告推理业务对带宽和时延的要求。

通过结合ESS弹性伸缩服务与Spot抢占式实例等产品，并采用了按量付费的节省计划计费模式，在线的非数据库依赖模块全采用动态伸缩的形式进行资源调控，在高峰期时及时开放资源，低谷期时缩减资源，保障资源利用率始终在一个合理的水平，从而确保了成本的最优化。

弹性伸缩是阿里云的一种资源管理服务，可以根据用户的业务运行状况和弹性策略，自动创建和释放资源。而抢占式实例是阿里云推出的一种低成本竞价实例，类似于广告竞价模式。企业需要在创建抢占式实例时指定出价价格，当指定实例的市场价格低于企业出价且库存充足时，用户即可按照出价购买并使用该实例1小时。而1小时后，当市场价格高于企业指定价格，实例会自动释放。

关于部分AI业务性能不足的问题，通过升级最新算力提升性价比，基于神龙计算架构的异构计算云实例，同时具备了IO低延时和计算低延时，进一步降低了广告请求的延时，提高了业务效率。

客户收益

通过使用阿里云倚天实例，汇量科技顺利承接了大流量接入广告业务请求。性能提升的同时，单机成本降低15-20%，综合性价比提升30%以上。

汇量科技的在线计算广告平台和大数据平台，总体有72% Spot资源运行，达到成本极致优化的同时，线上稳定性保持在高水平，并通过一系列成本优化手段，成本优化率大幅提升。

使用阿里云各种API和服务，总体效率也得到了极大的提升，综合运维操作和管理的日常效率提高了超过90%。

汇量科技首席人工智能官朱小强表示：“广告推理服务精排模块，随广告模型结构不断升级，在线推理模型请求参数变多，对ECS实例的CPU性能及内网带宽需求更高。早期g6系列整体内网带宽等性能指标不满足需求，通过使用g8y倚天云实例同时提升CPU性能和内网带宽，和g6系列对比单机成本降低15-20%，综合性价比提升30%以上。”

原文链接

本文为阿里云原创内容，未经允许不得转载。