并发|带宽|吞吐量|QPS等概念

带宽🌊

• 概念
  网络带宽是指在一个固定的时间内（1秒），能通过的最大位数据，是个峰值数据， 单位是Mbps。
• 上行带宽/下行带宽
  • 对于服务器来说对外提供服务用的是自己的上行带宽和用户的下行带宽， 而用户上传东西则用的自己的上行带宽和服务器的下行带宽
  • 对于用户来说访问服务器用的是用户的下行带宽和服务器的上行带宽, 而上传文件则用的用户的上行带宽和服务器的下行带宽

  ---

  一般说的 阿里云 10M 带宽则是 服务器上行带宽 10Mb/s，这样独占用户的下载速度一般为 1.25MB/s，当然这个速度和用户自己的下行带宽也有关系,相当于水管的两头 随便哪头小了都影响水流

---

• 流量单位/存储单位
  • 基础单位

    概念	说明
    yte字节
    it比特(位)	1B=8b

  • 带宽单位

    概念	说明
    s	(Million bits per second) 即 Mbit/s(Mb/s)
    s	Kbit/s(Kb/s)
    b/s	比特(位)/s

  • 下载速度

    概念	说明
    s	MB/s
    s	KB/s
    B/s	=8bps

  • 存储单位

    8 bit = 1 Byte 一字节 (1B)
    1024 B = 1 KB （KiloByte） 千字节
    1024 KB = 1 MB （MegaByte） 兆字节 (1M)
    1024 MB = 1 GB （GigaByte） 吉字节(1G)
    1024 GB = 1 TB （TeraByte） 太字节(1T)
    1024 TB = 1 PB （PetaByte） 拍字节
    1024 PB = 1 EB （ExaByte） 艾字节
    1024 EB = 1 ZB （ZetaByte） 泽字节
    1024 ZB = 1 YB （YottaByte） 尧字节
    1024 YB = 1BB（Brontobyte）珀字节
    1024 BB = 1 NB （NonaByte） 诺字节
    1024 NB = 1 DB （DoggaByte）刀字节

  ---

  • 解释

    • 带宽描述
      下行带宽1Mbps的下载速度为:
      1Mbps=1024Kbps=1024/8KBps=128KB/s
    • 存储描述
      1GB=1024MB=1024x1024KB=1024x1024x1024B(1024x1024x1024字节)

  • 日常描述

    • 服务器带宽 100M 即： 100Mbps, 所以他的下载速度为 100x128KB/s 约等于10M/s
    • 手机内存256G即：256GB = 256x1024MB = 256x1024x1024KB 依次类推

---

• 服务器带宽测试python工具
  • speedtest-cli(使用参见官方文档)
    github地址
    如果无法访问移步我的网盘
    网盘链接:
    密码: 6666

速率🌪

• 概念

宽带速率指的技术上所能达到的最大理论速率值，一般是上传和下载的速度，速率越高，上传和下载的越快

• 和带宽的关系

理论上，2Mbps带宽，宽带理论速率是 256KB/s。实际速率大约为103–200kB/s。（其原因是受用户计算机性能、网络设备质量、资源使用情况、网络高峰期、网站服务能力、线路衰耗、信号衰减等多因素的影响而造成的）。4M，即4Mb/s宽带理论速率是 512KB/s 实际速率大约为200—440kB/s。

吞吐量 ⛴

• 概念

吞吐量是指在没有帧丢失的情况下，设备能够接收并转发的最大数据速率实际带宽,单位Mbps， 通常用来描述一个系统的性能.

• 与带宽的关系
  吞吐量即在规定时间、空间及数据在网络中所走的路径（网络路径）的前提下，下载文件时实际获得的带宽值。由于多方面的原因，实际上吞吐量往往比传输介质所标称的最大带宽小得多
  例如： 带宽为10Mbps的链路连接的一对节点可能只达到2Mbps的吞吐量。这样就意味着，一个主机上的应用能够以2Mbps的速度向另外的一个主机发送数据。
• 重要参数
  系统吞吐量几个重要参数：QPS(TPS)、并发数、响应时间

PV🦑

• 概念
  Page View: 接口访问量, 不去重, 接口累计调用次数。

UV🐞

• 概念
  Unique Visitor: 独立访客，一台电脑客户端(cookie为依据)为一个访客,. 去重。

IP🐝

• 概念
  Internet Protocol: 独立ip数，统一局域网下同一个出口ip计数为1，去重。

RT🐊

• 概念
  Response-time: 响应时间-执行一个请求从开始到最后收到响应数据所花费的总体时间， 多个取平均值

QPS🐴

• 概念
  Queries Per Second： 每秒请求数
• 计算公式
  • QPS= 并发量/RT
  • QPS=额定时间PV/额定时间总秒数

TPS🐍

• 概念
  **Transactions Per Second：**每秒事务数
• 与QPS区别
  基本类似， 区别在于 用户请求一个页面当作一个事务的话，那么如果请求这个页面对服务器发起了两次请求 此时计 TPS+, QPS+2
• 计算公式
  TPS= 并发量/RT/事务数

并发量🕸

• 概念
  系统同时处理的请求和事物数量，说白了就是平均响应时间内可以处理的最大请求。
• 计算公式
  并发量=QPS*RT

---

总结🐙

• 一个范例串起来上面的概念
  按照二八定律即：每天 80% 的访问集中在 20% 的时间里，这 20% 的时间就叫做峰值时间。
  • 那我们粗略得业务峰值QPS：
    • 峰值时间的QPS=（当天的PV * 80%）/（每天秒数 * 20%）
      这个数值将作为当前业务承受并发的参考量
    • 问：每天300w PV 的在单台机器上，这台机器需要多少QPS？
      ( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)

  ---

  • 根据单台服务提供出来的QPS能力我们可以粗略得出：
    • 需要部署的机器=（峰值QPS）/单台QPS能力
    • 问：如果一台机器的QPS是58，需要几台机器来支持？
      139 / 58 = 3

  ---

  如果RT为60ms那么此时我们可以估算该系统的并发数为:
  并发数=139*0.06 = 8.34
  这个数字意味着 接口响应时间越小 所需要的并发数就越少， 当接口耗时趋近于0的时候，理论上该系统所需要支持的并发数也趋近于0