net服务器硬件改善,改善 Linux 内核性能和可伸缩性

改善 Linux 性能的第一步是对其进行量化。但如何精确地对 Linux 的性能或与它相当的系统性能进行量化呢？在本文中，IBM Linux 技术中心的成员描述了他们在去年底对 Linux 2.4 和 2.5 内核所做的几个基准程序测试，就这些专家经验，以飨读者。目前，Linux 操作系统是最成功的开放源码项目之一。Linux 作为 Web 服务器操作系统，展示了其高可靠性，在 Web 服务器市场，它占据了很大的份额。这些 Web 服务器通常是低端及位于中间档次的系统，带有最多可达 4 路的对称多处理器(SMP)；而企业级系统有更复杂的需求，譬如需要更多的处理器个数和 I/O 配置以及大的内存和带宽。为了使 Linux 为进入企业环境而作好准备，以及能够作为商业性应用进入 SMP 市场，与商业 UNIX 系统相比，它的 SMP 可伸缩性、磁盘和网络 I/O 性能、调度程序和虚拟内存管理器必须得到改善。

Linux 可伸缩性研究计划(Linux Scalability Effort，LSE)(请参阅参考资料中的链接)是一个开放源码项目，解决了用于企业级机器的 Linux 内核问题，这些机器的可伸缩性达到 8 路或更高。

IBM Linux 技术中心(Linux Technology Center，LTC)的 Linux 性能团队(请参阅参考资料的相关链接)积极地参与了 LSE 活动。此外，他们的目标是，通过改进 Linux 内核性能(尤其针对 SMP 可伸缩性)而使 Linux 更优秀。

本文描述了在着重平台无关性问题的同时，该团队在测量、分析与改进 Linux 内核性能和可伸缩性上所采用的策略和方法。该团队使用了一套基准测试程序来完成此项任务。这些基准测试程序考虑到了各种工作负载，其中包括 Web 服务、数据库和文件服务。此外，我们还将向您展示每个基准测试程序所着重的各个内核组件(例如，磁盘 I/O 子系统)。

分析方法这里我们讨论用来量化针对 SMP 可伸缩性的 Linux 性能的分析方法。如果您愿意，可以直接跳到基准测试程序结果这一节。

我们用来改进 Linux 性能和可伸缩性的策略包括：运行几个业界接受的和组件级的基准测试程序，选择合适的硬件和软件，开发基准测试程序运行规则，设定性能和可伸缩性目标，以及测量、分析和改进性能和可伸缩性。在这一节中将详细讲述这些过程。

性能被定义为单处理器(UP)或 SMP 上的原始吞吐量。我们将SMP 可伸缩性(CPU)和资源可伸缩性(例如，网络连接数目)区别开来。

硬件和软件这项工作的大部分都使用 IA-32(即 x86)体系结构，从 1 个到 8 个处理器。我们还研究了与为将来之用的非一致内存访问(NUMA)IA-32 和 NUMA IA-64 体系结构相关的问题。硬件的选择通常是根据基准测试程序和相关工作负载的选择。软件的选择要与 IBM 的 Linux 中间件策略和／或开放源码中间件相结合。例如：数据库我们采用查询数据库基准测试程序，而在硬件上，采用带大磁盘配置的 8 路 SMP 系统。数据库软件采用 IBM DB2 for Linux，SCSI 控制器是 IBM ServeRAID 4H。这个数据库是针对 8 路 SMP。

SMB 文件服务基准测试程序是 NetBench，硬件是 4 路 SMP 系统，驱动 SMP 服务器的客户机可多达 48 个。中间件是 Samba(开放源码)。SMB 文件服务是针对 4 路 SMP。

Web 服务基准测试程序是 SPECweb99，硬件是 8 路 SMP，并带有大内存配置，客户机可达 32 个。这个基准测试仅用于研究目的，不做它用(有关这方面的更多细节，请参阅基准测试程序这一节)。Web 服务器是 Apache，它是 IBM HTTP 服务器的基础。我们选择 8 路 SMP 是为了研究可伸缩性，而选择 Apache 是因为它支持对下一代 posix 线程(NGPT)的测量和分析(请参阅参考资料)。此外，它是开放源码，而且是最流行的 Web 服务器。

Linux 内核版本采用哪个版本的 Linux kernel.org 内核(2.2.x、2.4.x 或 2.5.x)取决于基准测试程序；这将在基准测试程序一节做进一步讨论。为了简化管理，所选的 Linux 分发版是 Red Hat 7.1 或 7.2。我们的重点是内核性能，不是分发版的性能：我们用要评估的 kernel.org 内核和补丁替代了 Red Hat 内核。运行规则在设置基准测试程序期间，我们开发了运行规则以详细地指出如何安装、配置和运行基准测试程序，以及如何解释结果。这些运行规则的目的如下：

定义度量，使用此度量来测量基准测试程序的性能和可伸缩性(例如，消息／秒)。

确保基准测试程序的结果适合于测量工作负载和内核组件的性能和可伸缩性。

提供文档化的说明，这将使其他人可以重复该性能测试。

定义所收集的数据集，以便可以分析被测系统(System Under Tes，SUT)的性能和可伸缩性，从而确定瓶颈在哪里。设定目标针对某个基准测试程序的性能及可伸缩性与具体的 SUT(硬件和软件配置)有关。设定性能和可伸缩性目标需要：

基线测量，用来确定针对基线内核版本的基准测试程序的性能。然后计算基线可伸缩性。

最初的性能分析，用来确定增强性能的可行方向(例如，显示调度程序非常忙的概要文件可能会建议尝试 O(1) 调度程序)。

将基线结果与类似的已公布结果进行比较(例如，在 spec.org 上查找类似 8 路 SMP 上相同 Web 服务器上的 SPECweb99 公开结果)。如果没有可用的外部公开结果，则可以尝试使用内部结果。还可以尝试与其它操作系统进行比较。给定具有竞争性的数据和基线，然后选择 UP 和 SMP 机器的性能目标。

最后，可以声明应用程序变更了目标。例如，如果知道某个应用程序采用异步 I/O 方式效率不高，则可以通过假定改变 I/O 方法，公布该性能目标。

调优、测量和分析在做任何测量之前，需要调优硬件和软件配置。调优和测量是一个不断循环的调优和测量过程。它涉及了系统组件(譬如 CPU 利用率和内存使用率)的测量，还可能涉及系统硬件参数、系统资源参数和中间件参数的调整。调优是性能分析的第一步中的环节。没有调优，测量出的结果可能会使人产生误解；即，这些结果可能不会指出内核的限制，而显示出别的问题。

根据运行规则来运行基准测试程序，从而可以根据已定义的性能度量来测量性能和可伸缩性。对给定机器计算 SMP 可伸缩性时，可以选择根据 UP 内核的性能来计算此度量值，也可以选择根据 SMP 内核(其中处理器数目设为 1 — 一个处理器)的性能来计算它。我们决定使用 UP 测量来计算 SMP 可伸缩性，这样可以更精确地反映 SMP 内核性能的改进。

使用前面确定下来的 Linux 内核版本来测量基线。对于大多数基准测试程序，需要测量 UP 和 SMP 基线。对于少数基准测试程序，只需测量 8 路 SMP 性能，因为收集 UP 性能信息受到时间限制。大多数其它基准测试程序测量在特定时间段内完成的工作量，在 UP 上的测量时间不超过在 8 路 SMP 上的测量时间。

分析 SUT(被测系统)的性能和可伸缩性所需的第一步是理解被测试的基准测试程序和工作负载。最初的性能分析是针对经过调优的系统而作出的。有时，分析揭示了对调优参数的其它修改。

对 SUT 性能和可伸缩性的分析需要一组性能工具。我们的策略是尽可能地使用开放源码社区(Open Source community，OSC)的工具。这使我们可以将分析数据在 OSC 上公布，以说明性能和可伸缩性上的瓶颈。这也使 OSC 中的成员可以用工具重复我们的结果，或者在用该工具对另一个应用程序做完试验之后，能够理解这些结果。如果开发出专门的性能工具来更好地理解某个具体性能瓶颈，则随后通常会将此专门的性能工具在 QSC 上共享。这些专门的性能工具通常是一些简单工具，它们为特定的 Linux 内核组件提供了测试手段。我们所使用的性能工具包括：/proc 文件系统meminfo、slabinfo、中断、网络状态、I/O 状态等。

SGI 的 lockmeter来自 SMP 锁分析

SGI 的内核概要分析器(kernprof)基于时间的概要分析、基于性能计数器概要分析、仅关于内核空间的带注释的调用图(annotated call graph，ACG)

IBM 跟踪工具针对用户空间和系统空间的单步(mtrace)并同时基于时间和基于性能计数器的概要分析开发专门的性能工具，以进一步理解系统具体某个方面。

例如：sstat收集调度程序统计信息

schedret确定哪些内核功能因调查空闲时间而阻塞了

acgparse后处理 kernprof ACG

复制进／出工具确定缓冲区的调整、复制大小和复制进／出算法的 CPU 利用率然后使用性能分析数据来确定性能和可伸缩性的瓶颈。需要对 SUT 有宽泛的理解，并要对基准测试程序所着重的 Linux 内核组件有更具体的理解，从而理解性能瓶颈存在于何处。还必须理解造成瓶颈的 Linux 内核源代码。此外，我们需要与 LTC Linux 内核开发团队和 OSC(开放源码社区)紧密合作，以便开发补丁来修正瓶颈。

退出策略对 Linux 内核性能的评估可能需要运行基准测试程序，然后分析结果来确定性能和可伸缩性的瓶颈，接着将补丁集成进 Linux 内核来解决所有这些瓶颈，最后再次运行该基准测试程序，这是一个周而复始的过程。作为一名性能团队成员，要与 Linux 内核开发团队或 OSC 通力合作，通过在 OSC 查找现有的补丁或者开发新的补丁来获取补丁。有一组用来确定何时 Linux 已经“足够好了”和可以结束该过程的标准。

首先，如果我们已经达到了目标，并且，针对某个具体基准测试程序，不存在需要解决的任何突出的 Linux 内核问题(解决这些问题可以很大程度地改善 Linux 内核性能)，则我们可以声称 Linux 已经“足够好了”，可以转至其它问题了。其次，如果我们经历了几次性能分析循环之后，仍然有突出的瓶颈问题，则我们需要考虑继续该过程所需开发成本和任何其它性能上改进所获得的好处之间的权衡。如果相对于任何可能获得的性能改进而言，开发成本过高，则我们不要继续分析下去，并清楚地说明相应的根本原因。

在这两种情形中，接着我们复查所有其它与 Linux 内核相关的突出问题(我们希望解决这些问题)，评价可以用来解决这些内核组件问题的相应的基准测试程序，检查任何可能与该问题相关的数据，然后决定根据收集来的信息来进行对内核组件(或组件集合)的分析。

基准测试程序这一节将描述分析出的瓶颈和我们这一套基准测试程序所着重的相关内核组件。此外，对于 Linux 性能团队所使用的一些基准测试程序，还将描述性能结果和分析。

表 1. Linux 内核性能基准测试程序Linux 内核组件

数据库查询

VolanoMark

SPECweb99 Apache2

NetBench

Netperf

LMBench

TioBench IOZone

调度程序

X

X

X

磁盘 I/O

X

X

块 I/O

X

原始的、直接和异步 I/O

X

文件系统(ext2 和日志)

X

X

X

X

TCP/IP

X

X

X

X

X

以太网驱动程序

X

X

X

X

信号

X

X

管道

X

发送文件

X

X

pThreads

X

X

X

虚拟内存

X

X

X

SMP 可伸缩性

X

X

X

X

X

X

基准测试程序描述根据以下标准来挑选所使用的基准测试程序：业界所采用的基准测试程序，对于复杂的工作负载，这些基准测试程序是可靠的指示器；组件级的基准测试程序，它们指出了特定的内核性能问题。业界基准测试程序是通常为业界所接受，用来测量特定工作负载的性能和可伸缩性。这些基准测试程序常常需要复杂的或代价昂贵的设置，大多数 OSC(开放源码社区)大都没有这样的设置。这些复杂的设置是我们对 OSC 所做出的贡献之一。例如：SPECweb99代表 Web 服务性能

SPECsfs代表 NFS 性能

数据库查询代表数据库查询性能

NetBench代表 SMB 文件服务性能组件级的基准测试程序测量特定 Linux 内核组件的性能和可伸缩性，对于各种工作负载，这些基准测试程序被认为是至关重要的。例如：

Netperf3测量网络堆栈的性能，包括 TCP、IP 和网络设备驱动程序

VolanoMark测量调度程序、信号、TCP 发送／接收和回送的性能

块 I/O 测试测量 VFS、原始和直接 I/O、块设备层、SCSI 层和低级的 SCSI／光纤设备驱动程序的性能OSC 一般会使用一些基准测试程序。由于 OSC 已经认识到了基准测试程序的重要性，因此愿意用它们。从而很容易让 OSC 确信基准测试程序所显示的性能和可伸缩性方面的瓶颈。此外，通常没有阻止我们公布原始数据的许可证问题。由于设置这些基准测试程序通常很简单，而且所需硬件也最少，因此 OSC 可以运行这些基准测试程序。而另一方面，它们常常不能够满足我们对企业系统的需求。例如：

LMBench用于测量 Linux API 的性能

IOZone用于测量本机文件系统吞吐量

DBench用于测量 NetBench 的文件系统组件

SMB Torture用于测量 SMB 文件服务性能针对目标工作负载，可以选择使用许多基准测试程序。我们之所以选择上述基准测试程序是因为在给定资源的情形下，它们最适合我们的任务。同样道理，我们没有选择一些重要的基准测试程序。此外，我们没有选择运行一些已经由 IBM 中其它性能团队已经在研究的基准测试程序(例如，IBM Solution Technologies System Performance Team 已经发现 Linux 上的 SPECjbb“足够好了”)。表 1 中所显示的是 Linux 性能团队目前所使用的基准测试程序，以及所要测试的内核组件。

基准测试程序结果这里所提供的内容描述了在我们这一套测试中所挑选的三个基准测试程序，用它们来量化 Linux 内核性能：数据库查询、VolanoMark 和 SPECweb99。对于所有这些基准测试程序，我们使用 8 路的机器，在下图中详细显示了基准测试程序结果。

图 1. 数据库查询基准测试程序结果

图 1 显示了数据库查询基准测试程序结果。另外还描述了所使用的硬件和软件配置。该图以图形方式展示了在完成目标过程中所取得的进展。我们已经解决的一些问题在以下方面取得了改善：添加了避免弹性缓冲区、ips、io_request_lock、readv、kiobuf 和 O(1) 调度程序内核补丁以及几个 DB2 优化。

VolanoMark 基准测试程序(请参阅参考资料)创建了 10 个(每个)可容纳 20 个客户机的聊天室。每个聊天室可以将一个客户机的消息回应给同一聊天室中的其他 19 个客户机。该基准测试程序(目前还不是开放源码基准测试程序)包含 VolanoChat 服务器和另外一个用于模拟聊天室中客户机的程序。用它来测量原始服务器性能和网络可伸缩性性能。VolanoMark 可在两种模式下运行：回送和网络模式。回送模式测试原始服务器性能，网络模式测试网络可伸缩性性能。VolanoMark 使用两个参数来控制聊天室的大小和数目。

VolanoMark 基准测试程序在由 20 人组成的小组中创建客户机连接，测量服务器向组依次轮流广播所有客户机的消息需花多长时间。在回送测试最后，它会以平均每秒发送的消息数作为一个分数形成报告。在网络模式中，用客户机和服务器之间的连接数来度量。该基准测试程序所着重的 Linux 内核组件包括调度程序、信号和 TCP/IP。

图 2. VolanoMark 基准测试程序结果：回送模式

图 2 中所显示的是回送模式下的 VolanoMark 基准测试程序结果。另外还描述了所使用的硬件和软件配置以及该基准测试程序的目标。在实现这个目标的过程中，我们与 Linux 内核开发团队建立了紧密的协作关系。我们已经解决的一些问题在以下方面取得了改善：添加了 O(1) 调度程序、SMP 可伸缩计时器、可调整优先级的优先权和软亲缘性内核补丁。正如图中所示，对于这个基准测试程序，我们超出了目标；然而有一些与 Linux 内核组件相关以及与 Java 相关的突出问题，我们正在解决这些问题，我们相信会进一步改进该基准测试程序的性能。

请注意，SPECweb99 基准测试程序只用作研究，不作它用，它的规则有些变化：1. 运行它的硬件不符合 SPEC 公共可用性准则。该机器是一台工程样机。

2. access_log 不会保存所有日志。虽然会写日志，但每 200 秒会删除一次日志。

该基准测试程序显示了对 Web 服务器所要求的工作负载。这个工作负载请求 70% 的静态页面和 30% 的简单动态页面。Web 页面的大小从 102 字节到 921,000 字节不等。动态内容模拟了循环播放的 GIF 广告。没有 SSL 内容。SPECweb99 的意义重大，因为 Web 服务(尤其是使用 Apache 的服务)是 LINUX 服务器最常使用的服务之一。Apache 的功能很丰富，但不是针对高性能而设计的。然而，对于这个基准测试程序，我们选择 Apache 作为 Web 服务器，是因为当前位于因特网上的网站选用 Apache 作为 Web 服务器的情况多于选用任何其它 Web 服务器的情况。对于 Web 服务，SPECweb99 是人们公认的标准基准测试程序。SPECweb99 着重以下内核组件：调度程序、TCP/IP、各种线程模型、发送文件、零复制和网络驱动程序。

图 3. 使用 Apache Web 服务器的 SPECweb99 基准测试程序结果

图 3 中显示了 SPECweb99 结果。另外还描述了所使用的硬件和软件配置以及该基准测试程序的目标。在该基准测试程序性能方面取得进展的同时，我们与 Linux 内核开发团队和 IBM Apache 团队保持着紧密的协作关系。我们已经解决的一些问题在以下方面取得了改善：添加了 O(1) 和读复制更新(RCU)数据缓存内核补丁以及向 Apache 添加了新的动态 API mod_specweb 模块。正如图 3 所示，对于这个基准测试程序，我们已经超出了目标；然而有几个与 Linux 内核组件相关的突出问题，我们正在解决这些问题，我们相信这会极大地改进该基准测试程序的性能。

结束语Linux 广受大家喜爱，尤其在低端和位于中间档次的系统。事实上，Linux 被广泛地认为是一个稳定的和具有高可靠性的操作系统，常用于作为 Web 服务器的这些机器。然而，高端的企业级系统往往需要访问 GB、PB 甚至 EB 的数据。这些系统除需要更多的处理器外，还需要具有高内存和带宽需求的不同应用程序和解决方案(请参阅参考资料中的developerWorks文章“Open source in the biosciences”，这篇文章描述了这类应用程序)。

这类系统应用程序引入了与众不同的问题，这些问题可能比较小安装中所产生问题的复杂程度超过几个数量级。针对企业市场，为了使 Linux 更具竞争力，则必须改善其性能和可伸缩性。

而迄今为止，我们的经验说明，可以显著地改善 Linux 内核的性能。通过在开放源码社区内的工作来量化 Linux 内核性能，从而为这个目标奉献自己的微薄之力，开发补丁来解决性能下降问题，使 Linux 工作得更好，为将来 Linux 在企业中的应用而做好准备，我们为所做的一切而感到自豪。