LInux性能优化--内存(1基础篇幅)

平常买电脑的时候都会关注一个指标–内存。
内存的作用是什么呢？
平常我们使用的程序都是安装的硬盘上的，CPU要运行程序必须要先载入到内存里面。这是因为CPU的速度是远远高于硬盘的存取速度，为了效率使用了内存，存储层次架构如下图：

内存都是内核来管理的，那么应用程序是怎么使用内存的？
内存映射
Linux 内核给每个进程都提供了一个独立的虚拟地址空间，并且这个地址空间是连续的。那么应用程序就可以很方便的使用了内存了，这一段内存叫做虚拟内存。虚拟内存意思就是不是真实的物理内存，那么内核就要负责把虚拟内存映射到真实的物理内存。
虚拟内存也是有格式的：

可以看出，32 位系统的内核空间占用 1G，位于最高处，剩下的 3G 是用户空间。而 64 位系统的内核空间和用户空间都是 128T，分别占据整个内存空间的最高和最低处，剩下的中间部分是未定义的。应用程序是不能直接访问内核空间的，否则会出现段错误，必须要切换到内核态。内核空间都会映射到同一块物理内存上，这样就方便应用程序切换到内核态。
那么内存映射是怎么实现的呢？

内核通过页表实现了虚拟内存到物理内存的映射。当操作系统在页表找不到虚拟内存的时候，就会产生一个缺页异常，进入内核空间分配物理内存、更新进程页表，最后再返回用户空间，恢复进程的运行。页表存储在MMU中，页表的单位是4KB或者4KB整数倍为单位的。还有一个TLB（后备缓冲区），速度高于MMU的。所以频繁进行进程上下文切换的时候，TLB的缓存会失效，通过减少进程的上下文切换，减少 TLB 的刷新次数，就可以提高 TLB 缓存的使用率，进而提高 CPU 的内存访问性能。
这里有一个问题，比如在32位的系统上，系统就需要 100 多万个页表项（4GB/4KB）才可以实现整个地址空间的映射。这个页表会变得非常巨大。为了解决这一个问题，LINUX使用了两种机制，多级页表和大页。
多级页表：
多级页表就是把内存分成区块来管理，将原来的映射关系改成区块索引和区块内的偏移。由于虚拟内存空间通常只用了很少一部分，那么，多级页表就只保存这些使用中的区块，这样就可以大大地减少页表的项数。
LINUX使用的是4级页表。

虚拟地址被分为 5 个部分，前 4 个表项用于选择页，而最后一个索引表示页内偏移。
大页
常见的大小有 2MB 和 1GB。大页通常用在使用大量内存的进程上，比如 Oracle、DPDK 等。
内存分布

32位系统的内存分布如上图
从下到上分别分为：
1 只读段，包括代码和常量等。
2 数据段，包括全局变量等。
3 堆，包括动态分配的内存，从低地址开始向上增长。
4 文件映射段，包括动态库、共享内存等，从高地址开始向下增长。
5 栈，包括局部变量和函数调用的上下文等。栈的大小是固定的，一般是 8 MB。
其中呢，需要自己管理内存的语言，比如C/C++使用内存分配函数分配的都是堆和文件映射的空间，需要程序员自己管理申请和回收，不回收一直申请就产生了内存泄漏。
内存分配和回收
两种分配方式
1 brk 当使用内存小于128K的时候，通过移动堆顶的位置来分配内存，回收并不立即还给系统，缓存起来，下次在用，提高效率
优点: 可以减少缺页异常的发生，提高内存访问效率
缺点: 内存工作繁忙时，频繁的内存分配和释放会造成内存碎片
2 mmap 大块内存（大于 128K），则直接使用内存映射 mmap() 来分配，也就是在文件映射段找一块空闲内存分配出去。
优点： 释放时直接归还系统,系统可以利用伙伴系统，减少内存碎片的数量
缺点：每次都会发生缺页异常。在内存工作繁忙时，频繁的内存分配会导致大量的缺页异常，使内核的管理负担增大。
更小的内存，比如1K，直接也分配单独的页，那就太浪费内存了。所以使用brk缓存起来，重复利用，在内核空间则使用slab管理小内存。
系统发现内存紧张的时候就会用下面三种方式回收内存：
1 回收缓存，比如使用 LRU（Least Recently Used）算法，回收最近使用最少的内存页面；
2 回收不常访问的内存，把不常用的内存通过交换分区直接写到磁盘中；(SWAP)
3 杀死进程，内存紧张时系统还会通过 OOM（Out of Memory），直接杀掉占用大量内存的进程。
其中，第三种，OOM是保护内存的一种方式，系统监控内存的使用情况，并根据oom_score 为每个进程的内存使用情况进行评分：
1 一个进程消耗的内存越大，oom_score 就越大；
2 一个进程运行占用的 CPU 越多，oom_score 就越小。
oom_score越大，越容易被系统杀死。
可以设置进程的 oom_adj ，从而调整进程的 oom_score。
oom_adj 的范围是 [-17, 15]，数值越大，表示进程越容易被 OOM 杀死；数值越小，表示进程越不容易被 OOM 杀死，其中 -17 表示禁止 OOM。
比如:
echo -16 > /proc/$(pidof sshd)/oom_adj
如何查看内存使用情况
free工具
$ free
total used free shared buff/cache available
Mem: 8169348 263524 6875352 668 1030472 7611064
Swap: 0 0 0
详细解释:
第一列，total 是总内存大小；
第二列，used 是已使用内存的大小，包含了共享内存；
第三列，free 是未使用内存的大小；
第四列，shared 是共享内存的大小；
第五列，buff/cache 是缓存和缓冲区的大小；
最后一列，available 是新进程可用内存的大小。
available 不仅包含未使用内存，还包括了可回收的缓存，所以一般会比未使用内存更大
top 工具
$ top
…
KiB Mem : 8169348 total, 6871440 free, 267096 used, 1030812 buff/cache
KiB Swap: 0 total, 0 free, 0 used. 7607492 avail Mem

PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
430 root 19 -1 122360 35588 23748 S 0.0 0.4 0:32.17 systemd-journal
1075 root 20 0 771860 22744 11368 S 0.0 0.3 0:38.89 snapd
1048 root 20 0 170904 17292 9488 S 0.0 0.2 0:00.24 networkd-dispat
1 root 20 0 78020 9156 6644 S 0.0 0.1 0:22.92 systemd
12376 azure 20 0 76632 7456 6420 S 0.0 0.1 0:00.01 systemd
12374 root 20 0 107984 7312 6304 S 0.0 0.1 0:00.00 sshd
…
VIRT 是进程虚拟内存的大小，只要是进程申请过的内存，即便还没有真正分配物理内存，也会计算在内。
RES 是常驻内存的大小，也就是进程实际使用的物理内存大小，但不包括 Swap 和共享内存。SHR 是共享内存的大小，比如与其他进程共同使用的共享内存、加载的动态链接库以及程序的代码段等。
%MEM 是进程使用物理内存占系统总内存的百分比。
第一，虚拟内存通常并不会全部分配物理内存。从上面的输出，你可以发现每个进程的虚拟内存都比常驻内存大得多。
第二，共享内存 SHR 并不一定是共享的，比方说，程序的代码段、非共享的动态链接库，也都算在 SHR 里。当然，SHR 也包括了进程间真正共享的内存。所以在计算多个进程的内存使用时，不要把所有进程的 SHR 直接相加得出结果。