关于Linux网卡性能调优之：RPS (Receive Packet Steering)

最新推荐文章于 2024-05-10 18:15:21 发布

weixin_34378767

最新推荐文章于 2024-05-10 18:15:21 发布

阅读量281

点赞数

文章标签：运维

原文链接：https://my.oschina.net/kisops/blog/156561

版权

为什么80%的码农都做不了架构师？>>>

在定位LVS调度均衡性问题时，最终确定是 persistence_timeout 参数会使用IP哈希。目的是为了保证长连接，即一定时间内访问到的是同一台机器。而我们内部系统，由于出口IP相对单一，所以总会被哈希到相同的RealServer。

随后和 @吴佳明_普空八卦LVS压力大的问题，他推荐我使用RPS。小搜一下，瞬间发现这真是个宝贝！

过去使用LVS，遇到过单核CPU被软中断耗尽的问题，然后知道了网卡驱动与多队列。而后知道了淘宝对LVS的优化，然后对生产环境进行了优化，效果显著。

如今单台LVS带宽吃到近500Mb/s，每秒进出包都过40万。此时发现网卡（4队列）对应CPU的软中断消耗已过40%了，倍感压力。按理，空闲CPU如果少于40%，则要新增节点了。关于中断不均衡的问题，听取了普空的意见，效果也非常明显，全均衡了：

原来CentOS 6.1就开始支持RPS了，原生支持需要使用Linux内核2.6.38或以上版本。

简单来讲，RPS就是让网卡使用多核CPU的。传统方法就是网卡多队列（RSS，需要硬件和驱动支持），RPS则是在系统层实现了分发和均衡。献上修改设置的脚本一例：

#!/bin/bash  
# Enable RPS (Receive Packet Steering)  
      
rfc=4096  
cc=$(grep -c processor /proc/cpuinfo)  
rsfe=$(echo $cc*$rfc | bc)  
sysctl -w net.core.rps_sock_flow_entries=$rsfe  
for fileRps in $(ls /sys/class/net/eth*/queues/rx-*/rps_cpus)  
do
    echo fff > $fileRps  
done
      
for fileRfc in $(ls /sys/class/net/eth*/queues/rx-*/rps_flow_cnt)  
do
    echo $rfc > $fileRfc  
done
      
tail /sys/class/net/eth*/queues/rx-*/{rps_cpus,rps_flow_cnt}

分享igi同学对：网卡多队列、网卡RPS支持的详细解释和测试数据！

转载于:https://my.oschina.net/kisops/blog/156561