基于Locust、Tsung的百万并发秒杀压测案例

最新推荐文章于 2024-04-12 07:50:09 发布
最新推荐文章于 2024-04-12 07:50:09 发布
阅读量803 收藏 6
点赞数
原文链接：http://doc.shurenyun.com/practice/tsung_dataman.html
版权

编者按：高可用架构分享及传播在架构领域具有典型意义的文章，本文是 3 月 27 日数人云运维负责人庞铮在北京“百万并发”线下活动中的分享记录。


不久前，数人云联合清华大学交叉信息研究院 OCP 实验室通过 10 台 OCP 服务器成功承载了百万并发 HTTP 请求。


此次实验设立的目标是在物理资源最小值的情况下完成 100 万并发处理，通过此次实验，最大化验证了基于 Mesos 和 Docker 技术的数人云 DCOS （数据中心操作系统）承载高压的能力。

百万压测工具与硬件

0?wx_fmt=png

压测工具

本次选择的加压工具是分布式压测工具 Locust + Tsung。


0?wx_fmt=png


Locust （http://locust.io/）是一个简单易用的分布式负载测试工具，主要用来对网站进行负载压力测试。


Locust 官网在比较自己与 Apache JMeter 和 Tsung 的优劣中提到


我们评估过 JMeter 和 Tsung，它们都还不错，我们也曾多次使用过 JMeter，但它的测试场景需要通过点击界面生成比较麻烦，另外它需要给每个测试用户创建一个线程，因此很难模拟海量并发用户。

Tsung 虽然没有上面的线程问题，它使用 Erlang 中的轻量级进程，因此可以发起海量并发请求。但是在定义测试场景方面它面临和 JMeter 同样的不足。它使用 XML 来定义测试用户的行为，你可以想象它有多恐怖。如果要查看任何测试结果，你需要你自己去先去整理一堆测试结果日志文件……


0?wx_fmt=png


Tsung 是基于 Erlang 的一个开源分布式多协议的负载测试工具，支持 HTTP, WebDAV, SOAP, PostgreSQL, MySQL, LDAP 和 Jabber/XMPP。访问 http://tsung.erlang-projects.org/ 可以进一步了解。

硬件配置

OCP 是 Facebook 公司创办的( Open Compute Project )开放计算项目,目的是利用开源硬件技术推动 IT 基础设施不断发展，来满足数据中心的硬件需求。


本次实验 OCP 硬件配置如下：

CPU 类型：主频 2.20


  • 双 CPU 24 核 转发端

  • 双 CPU 20 核 加压端

  • 双 CPU 16 核 承压端

内存：DDR3 1600 / 128G

网络：万兆网络

这次压测使用用开源的容器虚拟化技术，将系统和软件环境打平，把软件层所有的系统依赖软件全都封装在 Docker 中。

服务器基础环境无需配置上面承载服务的复杂依赖环境，而把应用程序和依赖环境都封装在容器里，在需要迁移的时候非常方便，应用程序的可移植性得到大大提高，非常便于迁移和扩展。

如何做百万压测

0?wx_fmt=png

前文已经说到，本次实验的目标是在物理资源最小值的情况下完成 100 万并发处理。遇到了以下几个挑战：

  1. 如何加压到 100 万？也就是说，用什么加压方法？

  2. 最终需要多少物理资源？架构中每种模块的处理能力是怎样的？

 

0?wx_fmt=png

(图1：压测架构图，点击图片可以全屏缩放)

红框内是此次压测实验用到的工作集群，而红框外面的是本次实验的辅助功能集群。需要说明的是，10 台 OCP 服务器承载 100 万 HTTP 请求中的 10 台硬件，指的是转发端加上承压端的机器，不包括加压端的机器，因为在真实场景中加压端是访问用户本身。

下面对这这次压测进行详细说明。

基础环境

0?wx_fmt=png

基础部署

  1. 实验用 OCP 硬件上架、上电、网络构建、系统安装；

  2. 使用的系统是 CentOS 7.1，需要升级内核升级到 3.19；

  3. 使用 Ansible 部署机器其他底层用软件，包括安装 Docker 1.9.1（ext4 + overlay），打开系统默认约束(文件句柄，系统内核和中断优化)等。

部署云集群

装了标准的系统以及 Docker 之后，机器就可以装数人云了。庞铮在现场展示了数人云集群平台的建立步骤，在两分钟之内完成安装。

 0?wx_fmt=png

(图2：承压端，点击图片可以全屏缩放)


承压端设计：秒杀项目

0?wx_fmt=png

云集群安装完之后，就可以发布压测应用了。

首先发布承压端，使用 Nginx + Lua 的组合，它们是高压系统的常用组合，也是数人云秒杀项目原生模组，返回结果是动态无缓存数据，保证压测准确性。由于秒杀模块不是本文重点，下文只做简单描述。

0?wx_fmt=png

(图3：程序返回结果分析)

在秒杀模块中，Time 是自动从服务器取到的时间戳，events 是秒杀服务的数据；event1 是秒杀活动的项目，48 万是秒杀活动需要持续多少时间。

0?wx_fmt=png

(图：nginx + Lua 优化)


上边是 Nginx 优化方案，也取自网络方案。下边第 2 个框是 Lua 自带优化，对 Lua 的处理能力至关重要。


方案 A 压测

0?wx_fmt=png

承压端发布完成后，就可以开始部署加压端。Locust 具有分布式、安装简单以及 Web-UI 界面三个特点。

 0?wx_fmt=png

(图：方案A，点击图片可全屏缩放)


选择 Locust 在进行测试过程中遇到的问题

Locust 不能对多个服务端进行压测，所以在它的上面加了 Mesos-DNS，用来汇聚压力提供统一的接口给 Locust slave。Locust 的压测用力文件是 tasks.py，每个 slave 都需要在启动前先去 config server 拉一下 tasks.py。

紧接着就是转发层 HA，再接下来就是 Nginx。

测试 Locust 步骤


  • 测试单核性能：约等于 500/s 处理

  • 测试单机性能：40 核超线程，约等于1w/s 处理

通过测试，发现 Locust 有三个缺点：

单核加压能力低、支持超线程能力差，以及在大量 slave 节点连接的情况下，Master 端不稳定。

0?wx_fmt=png

(图：Locust-Slave 动用资源)

如上图可以看到，压测资源分为两个组，A 组 20 个物理核机器有 20 台，slave 能压到的能力是 20W/S。B 组 16 个物理核机器有 15 台，可以压到 12W/S，整个加压组的能力为 32W/S。

 0?wx_fmt=png

(图：单机 nginx + Lua HOST)

压测第一步

得到承压单机 Nginx + Lua(HOST) 能力是 19.7 万/s

 

在考虑 HA 的优化，然后是单台测试，最终选择了keepalive。

 

压测第二步

单机非超线程最后测出来的结果是 22.7 万，95% 做到 1 秒之内的响应。测试时候发现，HA 的排队现象非常多，可持续加压能力非常差，几分钟之内就出现严重的堵塞。同时，CPU 有几个是持满的，说明它的分配不均匀，有一些模块是需要有统一的模块调度，导致 HA 无法持续保持高性能处理。

 

单机超线程比非超线程有一些衰减，测出来的结果是 21.9 万，95%可以做到一秒内响应，但 HA 的排队请求少很多，CPU 的压力也平均了很多，测试结果非常稳定。

HA 超线程的非 Docker，测出的结果是 27 万。Docker 情况下确实有一定衰减，可以明显的看到 99% 的请求在 1 秒内处理了，已经可以达到企业级使用的标准。

    

现在，已知加压总能力是 32w/s，单机 Nginx + Lua 是 19w/s，转发层单机 Haproxy 最大能力 27w/s，那么，单机 Nginx + Lua NAT 模式的能力是怎样的呢？

 

可以看出之前单机 Nginx HOST 网络模式下发测试结果是 19.7 万。Nginx 模式加了 HA 再加 NAT 模式，衰减之后是 14.3 万，CPU 压力几乎是100%。

0?wx_fmt=png(图：整体测试结果，点击图片可全屏缩放)

由于之前使用的 Locust 对于超线程支持以及本身性能问题，无法在现有硬件资源基础上达到需求，改用 Tsung 进行测试。

方案 B 压测

0?wx_fmt=png

测试整套文档可参阅：http://doc.shurenyun.com/practice/tsung_dataman.html 

更换成方案 B，继续进军百万并发

0?wx_fmt=png

 (图：方案B，点击图片可全屏缩放)


架构图解释：Tsung maste 通过 ssh 对 slave 操作，集群之间通讯使用的是 erlang 的 epmd.

执行步骤:

  • 首先将 Tsung 进行 Docker Mesos 化

  • 安装 ssh、安装 Tsung

  • 配置文件 Mesos 化

  • 调用数人云 API 将 Tsung 发布

  • API 调用脚本 A

方案 B 压测配置

0?wx_fmt=png

加压端： Tsung 客户端加压机

  • 数量 20

  • cpu 40 核超线程，cpu 消耗 不到瓶颈

  • mem 128G

  • network 万兆网络 

  • docker host模式 、docker 下发20个(每台1个)

Tsung 控制器：本机配置可以缩小很多，测试实体机，随便选了一个


  • 数量 1 

  • cpu 40 核超线程

  • mem 128G

  • network 万兆网络 

  • docker host模式、docker 下发1个

转发端： haproxy


  • 数量 4

  • cpu 48 核超线程、cpu 消耗超高-瓶颈

  • mem 128G，内存消耗接近 20g

  • network 万兆网络 

  • docker host 模式、docker 下发 4 个(每台 1 个)

承压 nginx

  • 数量 6

  • CPU 32 核超线程、cpu 消耗超高-瓶颈

  • mem 128G、内存消接近耗 10g

  • network 万兆网络 

  • docker nat 模式、docker 下发 48 个(每台 8 个,折算 48w 并发连接能力，处理每台 14w 左右，总数量 80 万左右)

方案 B 详细报告下载

0?wx_fmt=png

百万压力测试报告：

http://qinghua.dataman-inc.com/report.html

 

最终，数人云在 Tsung 的基础上顺利的完成了百万压力测试，业内可以充分参考数人云此次的百万并发实践进行高压系统的设计。点击阅读原文可以了解详细测试参数。

「高可用架构」相关文章

640?wx_fmt=png


想讨论更多互联网架构压测技术，请关注公众号获取更多文章。转载请注明来自高可用架构 「ArchNotes」微信公众号及包含以下二维码。


高可用架构

改变互联网的构建方式

640?wx_fmt=jpeg
长按二维码 订阅「高可用架构」公众号

高可用架构
关注
  • 0
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
游戏服务器压测工具locust-支持socket,websocket压测
05-11
python loust压测框架下进行开发支持websocket和socket协议的压测,可分布式测试,通信协议目前用的是skynet的sproto,有需要可以自行更换，游戏开发过程中自己开发工具可用，需懂python,相关库安装已经放到README.md中
基于 locust/boomer 为核心的简单 http 接口分布式性能测试工具
weixin_42686892的博客
02-18 1855
目标 构建一个分布式的 Http 接口的压力测试平台，核心基于开源的 locust，因为 python 的压测能力较低，slaver 端采用开源的用 go 改写的 boomer。 原版需要提供完整的 go 脚本/python 脚本，一次一用，对他人使用难度大。 设想可以提供 postman 类似的界面来构造接口描述信息，由 master 推送给各个 worker。 各个 worker 解析接口描述信息生成满足 boomer 要求的请求并运行。 通过 locust 的 api 获取指标信息，可以绘制实时折线
一键压测工具改造（locust）
weixin_30681615的博客
01-26 279
本文内容来自“天外归云”大神，原文链接http://www.cnblogs.com/LanTianYou/p/5987741.html，目前只对启动脚本做了一些改造，应该说是，不适用powershell脚本，而使用bat批处理文件执行。之所以这么做，是考虑到powershell脚本运行权限默认没有开启，再者，开启了之后存在一定的风险。故做了这个简单的改造。 结构目录如下： 原来使用的是st...
Jmeter 性能 —— 模拟百万高并发压测思路！_百万级并发压测
2301_79099473的博客
04-12 405
吞吐量（接受发送）：>= 5000/S（QueryPS – 查询数据场景（一秒内 处理查询请求数量）-- TransactionPS – 多个操作/设计数据修改的请求）单位时间（s）-- 处理请求的数量并发量：5000/s(相对并发：某一个时间段)（绝对并发：同一个时间）响应时间：接口请求从开始到结束完整时间 – 150ms。生产环境面临并发量100000，服务器20台，平均到每台服务器5000/s，当并发需求=5000/s的时候，并发量要大于等于5000/s才扛得住。可以加入我们一起交流。
python百万并发压测_100W高并发（转载） - 橙子柠檬's Blog
weixin_36256978的博客
01-14 1083
此文章忘记在哪里看到了，作为收藏备用记在这，作者看到可以联系下我著名出处，，本编文章是根据某一个公开课进行整理的，如何在服务端和客户端去实现单机百万的并发。从客户端角度看，单机如果能发出百万并发，那我可以做出一个能发出百万并发的压测工具。从服务端角度看，可以优化现有的服务器支持更多的并发。 服务端支撑百万并发文件句柄设置 设置fd > 100w预估内存 每个连接占用内存3KB ~ 10KB，...
009--【秒杀】进行秒杀压测
weixin_42288943的博客
08-24 303
1、写作背景 在进行秒杀的时候设置了单用户不能进行重复秒杀的规则，所以在进行秒杀的时候要模拟多用户场景 2、学习目的 模拟多用户参数 模拟秒杀场景 避免超卖现象 3、数据准备 多用户模拟，要在数据库创建用户（手机号） 返回对应的token，和手机号进行一对一记录，生成JMeter的参数配置文件 创建一个UserUtils工具类，进行用户创建和模拟登陆 public clas...
Locust压测--带Token
weixin_30877493的博客
03-09 535
前言：Locust是一款类似于Jmeter开源负载测试工具，所不同的是用python语言实现，并支持python脚本。Locust提供web ui界面，能够方便用户实时监控脚本运行状态。Locust作为一个压测工具库，Locust其实解决这个问题：在实际测试过程中，待压的服务经常是一套完整流程，比如查询某登录用户的积分，就得必须得用户必须登录，且成功获取Token，方可进行下一步操作，然后再进行a...
go-locust:golang版的分布式压测系统
05-09
go-locust 参考python的locust压测系统，所实现的golang版的分布式压测系统。 功能特性 支持平台化管理压测任务 支持分布式压测 支持水平扩展服务器节点 基于golang协程并发
Python的Locst压测gRPC协议的脚本
06-02
Python的Locst压测gRPC协议的脚本
基于python locust库实现性能测试
08-19
主要介绍了基于python locust库实现性能测试,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
locust入门及项目实操.pdf
12-06
适合想从事性能压测方面的新人，相对比较友好
使用locust测试百万并发TCP连接
刘一凡的博客
12-15 1601
使用locust测试百万并发TCP连接。jmeter每个htttp user是一个线程。Locust每个http user是一个协程。所以相同的资源条件下locust能模拟的http user数目远超jmeter。
性能测试---locust进行秒杀业务场景测试
weixin_44688529的博客
07-18 684
登录——选择商品——查看商品详情——秒杀商品。
python tcp服务器并发_TCP 百万并发 数据连接测试 python+locust
weixin_39951930的博客
12-19 851
过程笔记和总结尝试一、locust 测试百万Tcp并发另一种方式是使用jmeter基础环境服务端虚拟机：Centos7.2jdk 1.8客户端虚拟机： Centos7.2python : 3.7.3 Anaconda3locust : 0.14.5基础知识：tcp协议：三次握手进行连接，四次挥手断开，稳定长连接，比Http更占用资源，比udp协议更稳定，保证数据不丢失，但速度比较慢。每个tc...
LOCUST性能测试3（高并发、参数关联、集合点）
Song_Lun的博客
11-25 2051
高并发 FastHttpUser类 locust的HTTP客户端默认是使用requests模块实现的，但是在大规模并发http请求时，requests模块并不是最优的实现，为了解决并发资源消耗问题，locust建议使用faster HTTP client的实现，它使用了geventhttpclient代替了requests. 它能提升5-6倍的并发量。 使用方法就是用FastHttpUser代替HttpUser from locust import TaskSet, task, between from l
基于TC72（SPI接口）温度传感器、STM32F103C8T6、LCD1602、FREERTOS的温度采集proteus仿真
05-21
spi
ehcache-core-2.6.9.jar
05-21
javaee/javaweb常用jar包，亲测可用，导入到java工程中即可使用
netty-transport-native-unix-common-4.1.51.Final.jar
05-21
javaEE javaweb常用jar包 ， 亲测可用，下载后导入到java工程中使用。
node-v6.14.4-headers.tar.xz
最新发布
05-21
Node.js，简称Node，是一个开源且跨平台的JavaScript运行时环境，它允许在浏览器外运行JavaScript代码。Node.js于2009年由Ryan Dahl创立，旨在创建高性能的Web服务器和网络应用程序。它基于Google Chrome的V8 JavaScript引擎，可以在Windows、Linux、Unix、Mac OS X等操作系统上运行。 Node.js的特点之一是事件驱动和非阻塞I/O模型，这使得它非常适合处理大量并发连接，从而在构建实时应用程序如在线游戏、聊天应用以及实时通讯服务时表现卓越。此外，Node.js使用了模块化的架构，通过npm（Node package manager，Node包管理器）,社区成员可以共享和复用代码，极大地促进了Node.js生态系统的发展和扩张。 Node.js不仅用于服务器端开发。随着技术的发展，它也被用于构建工具链、开发桌面应用程序、物联网设备等。Node.js能够处理文件系统、操作数据库、处理网络请求等，因此，开发者可以用JavaScript编写全栈应用程序，这一点大大提高了开发效率和便捷性。 在实践中，许多大型企业和组织已经采用Node.js作为其Web应用程序的开发平台，如Netflix、PayPal和Walmart等。它们利用Node.js提高了应用性能，简化了开发流程，并且能更快地响应市场需求。
Locust 执行阶梯式压测 接口案例
06-02
以下是一个使用 Locust API 接口实现阶梯式压测的示例代码： ```python from locust import HttpUser, task, between import random class MyUser(HttpUser): wait_time = between(5, 9) min_users = 10 max_users = 100 step_users = 10 step_time = 5 @task def my_task(self): self.client.get("/") def on_start(self): self.user_count = self.min_users self.set_user_count() def set_user_count(self): self.environment.runner.user_count = self.user_count def on_stop(self): self.user_count = 0 self.set_user_count() def on_step(self, step): if (step + 1) % self.step_time == 0 and self.user_count < self.max_users: self.user_count += self.step_users self.set_user_count() ``` 这个示例代码定义了一个名为 MyUser 的用户类，其中定义了压测任务 my_task，用于模拟用户访问网站的行为。在 on_start 方法中，初始化用户数为最小用户数 min_users，并调用 set_user_count 方法设置 Locust 运行时的用户数。在 on_stop 方法中，停止用户数，并将 Locust 运行时的用户数设置为 0。 在 on_step 方法中，每隔一定时间（由 step_time 参数控制），将用户数增加 step_users（由 step_users 参数控制），并调用 set_user_count 方法，重新设置 Locust 运行时的用户数。 需要注意的是，这个示例代码仅作为演示使用，实际使用时需要根据测试场景和网站实际情况进行调整。同时，需要使用命令行启动 Locust 进行压测，并传递相关参数。具体命令行参数可以参考 Locust 的官方文档。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值