《Linux从小白到高手》综合应用篇：详解Linux系统调优之深入理解Huge Pages和Transparent Huge Pages

小小不董

于 2024-10-11 21:30:51 发布

阅读量603

点赞数 8

分类专栏： Linux从小白到高手文章标签： linux 性能优化数据库运维 dba 服务器

本文链接：https://blog.csdn.net/qq_45732829/article/details/142851654

版权

Linux从小白到高手专栏收录该内容

21 篇文章 3 订阅

订阅专栏

本篇深入介绍Linux Huge Pages和Transparent Huge Pages.
我在前一篇博文（《Linux从小白到高手》综合应用篇：详解Linux系统调优之内存优化）中说过，很多人可能对大页内存（Huge Pages）和透明大页（Transparent Huge Pages）存在很多迷糊。本篇就来详细深入讨论下。

大页内存（Huge Pages）

1. 大页内存（Huge Pages）概述及配置

大页内存是Linux内核提供的一种内存管理机制，允许分配连续的物理内存页面，每个页面大小通常为2MB（在x86_64架构上）。这种机制可以减少大内存访问时的页面表条目数量，从而减少TLB（Translation Lookaside Buffer）缺失，提升性能。

配置方法
检查系统是否支持：

cat /proc/meminfo | grep HugePages

在这里插入图片描述
e2aff2644a2ba212774787fb895.png)

–如果输出结果中包含“HugePages_Total”和“HugePages_Free”字段，（如上图演示）则表示系统支持HugePages。
确定所需数量：
–根据应用需求和大页大小来确定所需的HugePages数量。例如，如果需要分配2GB的内存，并且大页大小为2MB，则所需的HugePages数量为1024。
配置HugePages：
–通过修改内核参数来配置HugePages。
–编辑/etc/sysctl.conf文件，并添加如下行（其中“1024”是所需的HugePages数量）：vm.nr_hugepages=1024；
–然后执行sysctl -p命令来加载新的内核参数配置。
为应用程序分配：
–在应用程序启动脚本中设置HUGETLB_MORECORE=yes环境变量来启用HugePages支持。

2.Linux设置大页的目的

提高内存访问效率：
减少页表大小：
–大页内存使用更大的内存页面，相比传统的 4KB 小页，页表项数量大大减少。这降低了内存管理单元（MMU）在进行地址转换时查找页表的开销，提高了内存访问的速度。
–降低 TLB（Translation Lookaside Buffer）未命中次数：TLB 是一种缓存，用于存储最近使用的虚拟地址到物理地址的映射。大页内存可以增加 TLB 的覆盖范围，减少 TLB 未命中的概率，从而加快内存地址转换速度。
–对于内存密集型应用，如数据库服务器、高性能计算等，大页内存可以显著提高内存访问性能，减少 CPU 等待时间，提高系统的整体吞吐量。
优化内存管理：
–减少内存碎片：大页内存的分配通常需要连续的物理内存区域。通过使用大页内存，可以减少内存碎片的产生，提高内存分配的成功率。这对于长期运行的服务器系统尤为重要，因为内存碎片可能会导致系统在运行一段时间后无法分配足够的连续内存，从而影响系统的稳定性和性能。
简化内存管理：
–大页内存的管理相对简单，减少了内核在内存分配和回收过程中的复杂性。可以降低内核的开销，提高系统的响应速度。
提高应用程序性能：
–一些应用程序，特别是那些对内存访问性能要求极高的应用，如数据库系统、科学计算软件等，可以通过显式地使用大页内存来提高性能。这些应用程序可以在启动时指定使用大页内存，或者通过特定的 API 来分配大页内存。
–大页内存可以提高应用程序的缓存命中率，减少内存访问延迟，从而提高应用程序的执行速度。
HugePages需要手动配置，且对应用程序透明度较低,适用于对内存布局敏感或需要严格控制内存分配的应用。

3. 大页内存的优缺点

优点：
性能提升显著：
–减少页表大小，降低内存管理开销。由于大页使用更大的页面尺寸，页表中的条目数量大幅减少，这使得内存管理单元（MMU）在进行地址转换时的查找速度更快，从而提高了内存访问效率。
–降低 TLB（Translation Lookaside Buffer）未命中次数。TLB 是一种高速缓存，用于存储最近使用的虚拟地址到物理地址的映射。大页能够增加 TLB 的覆盖范围，减少 TLB 未命中的概率，进而加快内存地址转换速度，提高系统性能。
–对于内存密集型应用，如数据库服务器、科学计算等，大页内存可以显著提高应用程序的执行速度和响应时间。
减少内存碎片：
–大页内存的分配通常需要连续的物理内存区域。这有助于减少内存碎片的产生，提高内存分配的成功率。在长期运行的服务器系统中，内存碎片可能会导致系统无法分配足够的连续内存，从而影响系统的稳定性和性能。大页内存可以降低这种风险，提高系统的可靠性。
缺点：
管理复杂性：
–需要手动配置。管理员需要明确指定系统中使用的大页数量，这需要对系统的内存需求有较为准确的了解。如果配置不当，可能会导致内存浪费或不足的情况。
–应用程序兼容性问题。一些应用程序可能需要特殊的配置才能使用大页内存，否则可能会出现性能下降或错误。与某些内存管理特性（如Oracle的AMM）可能存在冲突。
资源占用：
–大页内存一旦分配，通常会一直占用物理内存，即使应用程序暂时不需要使用全部的大页内存。这可能会导致在某些情况下内存资源的浪费，特别是当系统中有多个应用程序同时运行时，可能会出现大页内存分配不均的情况。

透明大页（Transparent HugePages，THP）

1. 透明大页概述及配置

透明大页是Linux内核的一个更高级的特性，旨在自动且透明地为大内存分配提供大页支持，无需应用程序做特殊改动。它在运行时自动将小页聚合为大页，或者将大页拆分为小页，以满足不同场景的需求。

配置方法
全局配置：在Linux系统中，透明大页的配置文件通常位于/sys/kernel/mm/transparent_hugepage/enabled:

可以通过echo命令来启用、禁用或按需启用透明大页。例如：
启用透明大页：

echo always > /sys/kernel/mm/transparent_hugepage/enabled

禁用透明大页：

echo never > /sys/kernel/mm/transparent_hugepage/enabled

按需启用透明大页：

echo madvise > /sys/kernel/mm/transparent_hugepage/enabled

碎片整理配置：透明大页的碎片整理可以合并系统中分散的小页面以创建更大的页面，减少内存碎片化并提高性能。可以通过/sys/kernel/mm/transparent_hugepage/defrag文件来配置碎片整理行为。

2.Linux设置透明大页的目的

自动优化内存使用：
–透明大页允许内核自动管理大页的分配和使用，无需管理员手动配置大页内存的数量。这使得系统可以根据实际的内存需求动态地调整大页的使用，提高内存的利用率。
–对于那些无法或不方便显式使用大页内存的应用程序，透明大页可以在不修改应用程序代码的情况下潜在地提高性能。
简化系统管理：
–透明大页减少了管理员手动配置大页内存的工作量。管理员无需预先确定大页的数量，也无需为每个应用程序进行特殊的配置。这降低了系统管理的复杂性，提高了管理效率。
适应不同的应用场景：
–透明大页可以根据系统的负载和内存使用情况自动调整大页的分配策略。在不同的应用场景下，系统可以自动优化内存使用，提高性能。例如，在内存密集型应用运行时，透明大页可以自动分配更多的大页内存，以满足应用程序的需求；而在内存需求较低时，系统可以回收大页内存，以释放资源。

3. 透明大页内存的优缺点

优点：
自动管理：
–透明大页由内核自动管理，无需管理员手动配置大页数量。这大大降低了系统管理的复杂性，提高了管理效率。内核会根据系统的内存使用情况动态地分配和回收大页内存，以优化系统性能。
应用程序兼容性好：
–对应用程序透明，无需应用程序进行特殊的配置即可潜在地受益于大页内存。这使得透明大页在各种应用场景下都能发挥作用，而不会对应用程序的开发和部署造成额外的负担。
缺点：
性能不确定性：
–由于透明大页是自动管理的，其性能可能会受到系统负载和内存使用情况的影响。在某些情况下，透明大页的分配可能会导致延迟，特别是当系统内存紧张时，内核可能需要进行内存整理来分配大页，这可能会影响应用程序的响应时间。
–兼容性问题：
尽管透明大页对大多数应用程序是透明的，但在一些特殊情况下，某些应用程序可能与透明大页的机制不完全兼容。例如，一些对内存访问模式有严格要求的应用程序可能会受到透明大页的影响，导致性能下降或出现错误。在某些特定环境下（如RAC环境）可能导致异常节点重启或性能问题。
管理难度：
–虽然透明大页自动管理，但在某些情况下，管理员可能需要对透明大页的行为进行监控和调整。例如，如果发现透明大页导致性能问题，管理员可能需要禁用透明大页或调整相关的内核参数。然而，由于透明大页的自动管理特性，这种调整可能会比较复杂。