Odoo 环境下Ubuntu服务器性能优化–参数调整 (转老邓的)

使用Odoo进行内部信息化管理，随着业务增长，服务器性能问题变成了瓶颈，为了解决这些问题，最近的工作重点将移到性能调整上来，同时也会在此记录整个处理过程，以便日后回顾。

1.根据相关资料建议，在linux文件系统有一个预读的参数，可以通过如下命令查看：

blockdev --getra /dev/sda

一般的默认值为256，我们可以将此数据改大一点，建议的范围是在4096-16384之间，预读不足的常见问题是写磁盘的速度要比读取的速度要高。

改变参数的命令格式是：blockdev --setra 4096 /dev/sda

需要根据每块磁盘单独进行设置，通常可以将调整命令写入rc.local启动脚本中。

2.在linux中，用户每访问一个文件，系统都会更新文件的其中一个属性（上次访问时间），当用户在访问数据时，系统会需要不断的进行写操作，这个在系统中也是一笔不小的开销，我们可以在/etc/fstab文件中，对挂载的卷加上noatime选项来禁用此行为：

/dev/sda1 / ext3 noatime,errors=remount-ro 0 1

修改完以后，执行sudo mount -a 命令生效即可。

3.在linux中有关读缓存与交换的参数如下有两个，可以在/etc/sysctl.conf中加上两行：

vm.swappiness=0

vm.overcommit_memory=2

这些参数可以在/proc/sys/vm/中查看

4.共享内存的设定，ubuntu中共享内存的默认值都很低，为了更好的利用服务器资源，我们将对其进行调整，网上有一个调整的脚本。

#!/bin/bash  
      
    page_size=`getconf PAGE_SIZE`  
    phys_pages=`getconf _PHYS_PAGES`  
    shmall=`expr $phys_pages / 2`  
    shmmax=`expr $shmall \* $page_size`  
    echo kernel.shmmax = $shmmax  
    echo kernel.shmall = $shmall

直接以root身份运行 ./shmsetup >> /etc/sysctl.conf

sysctl -p

  一、首先我们要分析影响odoo 服务器 性能的因素

       CPU

       目前大部分CPU在同一时间只能运行一个线程，超线程的处理器可以在同一时间处理多个线程，因此可以利用超线程特性提高系统性能。

       在linux系统下只有运行SMP内核才能支持超线程，但是安装的CPu数量越多，从超线程获得的性能提升越少。

       odoo单进程模式下对 CPU 要求并不高，但是为了支持多并发，需要开启 workers，一般 CPU(核)的数量和

       work 数量为 works = 2 * cpu(核) + 1

       内存

       内存太小，系统进程将被阻塞，应用也将变得缓慢，甚至失去响应；内存太大，导致资源浪费。

       虚拟内存可以缓解物理内存的不足，但是虚拟内存的过多占用会导致应用程序的性能明显下降。

       在一个32位处理器的linux系统中超过8GB的物理内存都将被浪费，因此要使用更大的内存，建议安装64位的操作系统，同时开启linux的大内存内核支持。

       由于处理器寻址范围的限制，在32位linux操作系统上，应用程序单个进程最大只能使用2GB的内存。

       oodo 一般建议部署在 64 位环境中，内存数量和 odoo 开启的 worker 数量成正比，odoo 有个稍微复杂的估算，一般建议简单用下列方法核算：

       ​works * 500M

       磁盘I/O性能

       磁盘RAID技术，Redundant Array of Independent Disk，即独立磁盘冗余阵列，简称磁盘阵列。

       RAID通过将多块独立的磁盘（物理硬盘）按不同的方式组合起来形成一个磁盘组（逻辑硬盘），从而提供比单个磁盘更高的IO性能和数据冗余。

       根据磁盘组合方式不同，分为RAID0、RAID1、RAID2、RAID3、RAID4、RAID5、RAID6、RAID7、RAID0+1、RAID10等，常用的有RAID0、RAID1、RAID5、RAID0+1。

       RAID0：通过把多块硬盘粘合成一个容量更大的硬盘组，提高磁盘的性能和吞吐量，成本低，至少两块磁盘，但是没有容错和数据修复功能，只能用在对数据安全性要求不高的环境中。

       RAID1：也就是磁盘镜像，通过把一个磁盘的数据镜像到另外一个磁盘上，最大限度的保证磁盘数据的可靠性和可修改性，具有很高的数据冗余能力，但是磁盘利用率只有50%，成本较高，多用在保存重要数据的场合。

       RAID5：磁盘分段加奇偶校验技术，提高了系统的可靠性。读出效率很高，写效率一般，至少需要3块磁盘，允许一块磁盘故障，不影响数据的可用性。

       RAID0+1：把RAID0和RAID1技术结合起来，至少需要4块硬盘，每个盘都有其镜像盘，提高全冗余能力，并具有快速读写能力。

       网络带宽​ Odoo 对带宽要求较高，一般建议 10用户 /M 带宽。

       

       二、系统性能评估

       找到影响 Odoo 性能的关键原因，才能对症下药，工欲善其事，必先利其器，需要数量使用一下命令：

       常用系统命令

       Vmstat、sar、iostat、netstat、free、ps、top等

       常用组合方式

       l 用vmstat、sar、iostat检测是否是CPU瓶颈

       l 用free、vmstat检测是否是内存瓶颈

       l 用iostat检测是否是磁盘I/O瓶颈

       l 用netstat检测是否是网络带宽瓶颈

       

       1：系统整体性能评估（uptime命令）

       [root@web1 ~]# uptime

       16:38:00 up 118 days, 3:01, 5 users, load average: 1.22, 1.02, 0.91

       这里需要注意的是：load average这个输出值，这三个值的大小一般不能大于系统CPU的个数，例如，本输出中系统有8个CPU,如果load average的三个值长期大于8时，说明CPU很繁忙，负载很高，可能会影响系统性能，但是偶尔大于8时，倒不用担心，一般不会影响系统性能。相反，如果load average的输出值小于CPU的个数，则表示CPU还有空闲的时间片，比如本例中的输出，CPU是非常空闲的。

       

       2：cpu性能评估

       （1）利用vmstat命令监控系统CPU

       该命令可以显示关于系统各种资源之间相关性能的简要信息，这里我们主要用它来看CPU一个负载情况。

       下面是vmstat命令在某个系统的输出结果：

       [root@node1 ~]# vmstat 2 3 #每2秒更新信息，统计3次

       procs -----------memory---------- ---swap-- -----io---- --system-- -----cpu------

       r b swpd free buff cache si so bi bo in cs us sy id wa st

       0 0 0 162240 8304 67032 0 0 13 21 1007 23 0 1 98 0 0

       0 0 0 162240 8304 67032 0 0 1 0 1010 20 0 1 100 0 0

       0 0 0 162240 8304 67032 0 0 1 1 1009 18 0 1 99 0 0

       Procs

       r列表示运行和等待cpu时间片的进程数，这个值如果长期大于系统CPU的个数，说明CPU不足，需要增加CPU。

       b列表示在等待资源的进程数，比如正在等待I/O、或者内存交换等。

       Cpu

       us列显示了用户进程消耗的CPU 时间百分比。us的值比较高时，说明用户进程消耗的cpu时间多，但是如果长期大于50%，就需要考虑优化程序或算法。

       根据经验，us+sy的参考值为80%，如果us+sy大于 80%说明可能存在CPU资源不足。

       （2） 利用sar命令监控系统CPU

       sar功能很强大，可以对系统的每个方面进行单独的统计，但是使用sar命令会增加系统开销，不过这些开销是可以评估的，对系统的统计结果不会有很大影响。

       下面是sar命令对某个系统的CPU统计输出：

       [root@webserver ~]# sar -u 3 5 #u显示系统所有cpu在采样时间内的负载状态

       Linux 2.6.9-42.ELsmp (webserver) 11/28/2008 _i686_ (8 CPU)

       11:41:24 AM CPU %user %nice %system %iowait %steal %idle

       11:41:27 AM all 0.88 0.00 0.29 0.00 0.00 98.83

       11:41:30 AM all 0.13 0.00 0.17 0.21 0.00 99.50

       11:41:33 AM all 0.04 0.00 0.04 0.00 0.00 99.92

       11:41:36 AM all 90.08 0.00 0.13 0.16 0.00 9.63

       11:41:39 AM all 0.38 0.00 0.17 0.04 0.00 99.41

       Average: all 0.34 0.00 0.16 0.05 0.00 99.45

       对上面每项的输出解释如下：

       l %user列显示了用户进程消耗的CPU 时间百分比。

       l %nice列显示了运行正常进程所消耗的CPU 时间百分比。

       l %system列显示了系统进程消耗的CPU时间百分比。

       l %iowait列显示了IO等待所占用的CPU时间百分比。

       l %steal列显示了在内存相对紧张的环境下pagein强制对不同的页面进行的steal操作 。

       l %idle列显示了CPU处在空闲状态的时间百分比。

       

       3：内存性能评估

       （1）利用free指令监控内存

       free是监控linux内存使用状况最常用的指令，看下面的一个输出：

       [root@webserver ~]# free -m #查看以M为单位的内存使用情况

        total used free shared buffers cached

       Mem: 8111 7185 926 0 243 6299

       -/+ buffers/cache: 643 7468

       Swap: 8189 0 8189

        一般有这样一个经验公式：应用程序可用内存/系统物理内存>70%时，表示系统内存资源非常充足，不影响系统性能，应用程序可用内存/系统物理内存<20%时，表示系统内存资源紧缺，需要增加系统内存，20%<应用程序可用内存/系统物理内存<70%时，表示系统内存资源基本能满足应用需求，暂时不影响系统性能。

       （2） 利用vmstat命令监控内存

       [root@node1 ~]# vmstat 2 3

       procs -----------memory---------- ---swap-- -----io---- --system-- -----cpu------

       r b swpd free buff cache si so bi bo in cs us sy id wa st

       0 0 0 162240 8304 67032 0 0 13 21 1007 23 0 1 98 0 0

       0 0 0 162240 8304 67032 0 0 1 0 1010 20 0 1 100 0 0

       0 0 0 162240 8304 67032 0 0 1 1 1009 18 0 1 99 0 0

       memory

       swpd列表示切换到内存交换区的内存数量（以k为单位）。如果swpd的值不为0，或者比较大，只要si、so的值长期为0，这种情况下一般不用担心，不会影响系统性能。

       free列表示当前空闲的物理内存数量（以k为单位）

       buff列表示buffers cache的内存数量，一般对块设备的读写才需要缓冲。

       cache列表示page cached的内存数量，一般作为文件系统cached，频繁访问的文件都会被cached，如果cache值较大，说明cached的文件数较多，如果此时IO中bi比较小，说明文件系统效率比较好。

       swap

       si列表示由磁盘调入内存，也就是内存进入内存交换区的数量。

       so列表示由内存调入磁盘，也就是内存交换区进入内存的数量。

       一般情况下，si、so的值都为0，如果si、so的值长期不为0，则表示系统内存不足。需要增加系统内存。

       

       4：磁盘I/O性能评估

       （1）磁盘存储基础

       l 熟悉RAID存储方式，可以根据应用的不同，选择不同的RAID方式。

       l 尽可能用内存的读写代替直接磁盘I/O，使频繁访问的文件或数据放入内存中进行操作处理，因为内存读写操作比直接磁盘读写的效率要高千倍。

       l 将经常进行读写的文件与长期不变的文件独立出来，分别放置到不同的磁盘设备上。

       l 对于写操作频繁的数据，可以考虑使用裸设备代替文件系统。

       使用裸设备的优点有：

       ü 数据可以直接读写，不需要经过操作系统级的缓存，节省了内存资源，避免了 内存资源争用。

       ü 避免了文件系统级的维护开销，比如文件系统需要维护超级块、I-node等。

       ü 避免了操作系统的cache预读功能，减少了I/O请求。

       ü 使用裸设备的缺点是：

       ü 数据管理、空间管理不灵活，需要很专业的人来操作。

       （2）利用iostat评估磁盘性能

       [root@webserver ~]# iostat -d 2 3 #-d 显示磁盘的使用情况

       Linux 2.6.9-42.ELsmp (webserver) 12/01/2008 _i686_ (8 CPU)

       Device: tps Blk_read/s Blk_wrtn/s Blk_read Blk_wrtn

       sda 1.87 2.58 114.12 6479462 286537372

       Device: tps Blk_read/s Blk_wrtn/s Blk_read Blk_wrtn

       sda 0.00 0.00 0.00 0 0

       Device: tps Blk_read/s Blk_wrtn/s Blk_read Blk_wrtn

       sda 1.00 0.00 12.00 0 24

       对上面每项的输出解释如下：

       Blk_read/s表示每秒读取的数据块数。

       Blk_wrtn/s表示每秒写入的数据块数。

       Blk_read表示读取的所有块数。

       Blk_wrtn表示写入的所有块数。

       可以通过Blk_read/s和Blk_wrtn/s的值对磁盘的读写性能有一个基本的了解，如果Blk_wrtn/s值很大，表示磁盘的写操作很频繁，可以考虑优化磁盘或者优化程序，如果Blk_read/s值很大，表示磁盘直接读取操作很多，可以将读取的数据放入内存中进行操作。

       对于这两个选项的值没有一个固定的大小，根据系统应用的不同，会有不同的值，但是有一个规则还是可以遵循的：长期的、超大的数据读写，肯定是不正常的，这种情况一定会影响系统性能。

       （3）利用sar评估磁盘性能

       通过“sar –d”组合，可以对系统的磁盘IO做一个基本的统计，请看下面的一个输出：

       [root@webserver ~]# sar -d 2 3

       Linux 2.6.9-42.ELsmp (webserver) 11/30/2008 _i686_ (8 CPU)

       11:09:33 PM DEV tps rd_sec/s wr_sec/s avgrq-sz avgqu-sz await svctm %util

       11:09:35 PM dev8-0 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00

       11:09:35 PM DEV tps rd_sec/s wr_sec/s avgrq-sz avgqu-sz await svctm %util

       11:09:37 PM dev8-0 1.00 0.00 12.00 12.00 0.00 0.00 0.00 0.00

       11:09:37 PM DEV tps rd_sec/s wr_sec/s avgrq-sz avgqu-sz await svctm %util

       11:09:39 PM dev8-0 1.99 0.00 47.76 24.00 0.00 0.50 0.25 0.05

       Average: DEV tps rd_sec/s wr_sec/s avgrq-sz avgqu-sz await svctm %util

       Average: dev8-0 1.00 0.00 19.97 20.00 0.00 0.33 0.17 0.02

       需要关注的几个参数含义：

       await表示平均每次设备I/O操作的等待时间（以毫秒为单位）。

       svctm表示平均每次设备I/O操作的服务时间（以毫秒为单位）。

       %util表示一秒中有百分之几的时间用于I/O操作。

       对以磁盘IO性能，一般有如下评判标准：

       正常情况下svctm应该是小于await值的，而svctm的大小和磁盘性能有关，CPU、内存的负荷也会对svctm值造成影响，过多的请求也会间接的导致svctm值的增加。

       await值的大小一般取决与svctm的值和I/O队列长度以及I/O请求模式，如果svctm的值与await很接近，表示几乎没有I/O等待，磁盘性能很好，如果await的值远高于svctm的值，则表示I/O队列等待太长，系统上运行的应用程序将变慢，此时可以通过更换更快的硬盘来解决问题。

       %util项的值也是衡量磁盘I/O的一个重要指标，如果%util接近100%，表示磁盘产生的I/O请求太多，I/O系统已经满负荷的在工作，该磁盘可能存在瓶颈。长期下去，势必影响系统的性能，可以通过优化程序或者通过更换更高、更快的磁盘来解决此问题。

       

       5：网络性能评估.

       （1）通过ping命令检测网络的连通性

       （2）通过netstat –i组合检测网络接口状况

       （3）通过netstat –r组合检测系统的路由表信息

       （4）通过sar –n组合显示系统的网络运行状态 sar -n DEV 5 3

       （5）常用分析

       netstat -an|awk '/^tcp/{++S[$NF]}END{for (a in S)print a,S[a]}' 查看tcp链接数

       netstat -pant |grep ":80"|awk '{print $5}' | awk -F: '{print $1}'|sort|uniq -c|sort -nr 查看连接数最多的ip

       cat access.log|awk '{print $1}'|sort|uniq -c|sort -nr|head -n10

       提取日志 分别是访问URL和URL访问来源 排序

       awk '{print $7}' access.log | sort | uniq -c |sort -nr | head -n10 > test.txt

       （6）shell分析nginx日志

       178.255.215.86 - - [04/Jul/2013:00:00:31 +0800] "GET /tag/316/PostgreSQL HTTP/1.1" 200 4779 "-" "Mozilla/5.0 (compatible; Exabot/3.0 (BiggerBetter); +http://www.exabot.com/go/robot)" "-"- 178.255.215.86 - - [04/Jul/2013:00:00:34 +0800] "GET /tag/317/edit HTTP/1.1" 303 5 "-" "Mozilla/5.0 (compatible; Exabot/3.0 (BiggerBetter); +http://www.exabot.com/go/robot)" "-"- 103.29.134.200 - - [04/Jul/2013:00:00:34 +0800] "GET /code-snippet/2022/edit HTTP/1.0" 303 0 "-" "Mozilla/5.0 (Windows NT 6.1; rv:17.0) Gecko/17.0 Firefox/17.0" "-"- 103.29.134.200 - - [04/Jul/2013:00:00:35 +0800] "GET /user/login?url=http://outofmemory.cn/code-snippet/2022/edit HTTP/1.0" 200 4748 "-" "Mozilla/5.0 (Windows NT 6.1; rv:17.0) Gecko/17.0 Firefox/17.0" "-"-

       以下脚本都是基于上面日志格式的，如果你的日志格式不同需要调整awk后面的参数。

       分析日志中的UserAgent

       cat access_20130704.log | awk -F "\"" '{print $(NF-3)}' | sort | uniq -c | sort -nr | head -20

       上面的脚本将分析出日志文件中最多的20个UserAgent

       分析日志中那些IP访问最多

       cat access_20130704.log | awk '{print $1}' | sort | uniq -c | sort -nr | head -20

       分析日志中那些Url请求访问次数最多

       cat access_20130704.log | awk -F "\"" '{print $(NF-5)}' | sort | uniq -c | sort -nr | head -20

       

       三、针对发现问题的常用改进措施

       1、为磁盘I/O调整Linux内核电梯算法

       在选择文件系统后，有一些内核和挂载选项可能会影响到它的性能表现，其中一个内核设置是电梯算法，通过调整电梯算法，系统可以平衡低延迟需求，收集足够的数据，以有效地组织对磁盘的读和写请求。

       2、禁用不必要的守护进程，节省内存和CPU资源

       每台服务器上都运行着许多守护进程或服务，而具有讽刺意味的是，有很多通常不是必需的，这些服务没有发挥作用，但却消耗了宝贵的内存和CPU时间。此外，它们可能将服务器置于危险境地，多运行一个服务就等于多向黑客打开一扇长驱直入的门，因此，你应该将它们从服务器移除，禁用它们最大的好处是可以加快启动时间，释放内存。另外，你可以减少CPU需要处理的进程数，禁用它们的另一个好处是增强服务器的安全性，因为越少的守护进程意味着可被攻击和利用的漏洞越少。

       下面是一些应该被禁用的Linux守护进程，默认情况下，它们都是自动运行的：

       3、关掉GUI

       一般说来，Linux服务器是不需要GUI的，所有管理任务都可以在命令行下完成，因此最好关掉GUI，重定向X显示或通过一个Web浏览器界面显示。为了禁用GUI，“init level(启动级别)”应该被设置为3(命令行登录)，而不是5(图形登录)，如果需要GUI，可以随时运行startx进入图形用户界面。

       4、清理不需要的模块或功能

       在服务器软件包中有太多被启动的功能或模块实际上是不需要的(如Apache中的许多功能模块)，仔细查看Apache配置文件，确定FrontPage支持或其它额外的模块是否真的要用到，如果不需要，应该毫不犹豫地从服务器禁用掉，这样有助于提高系统内存可用量，腾出更多资源给那些真正需要的软件，让它们运行得更快。

       5.修改磁盘缓存：Odoo 有大量的小文件，修改磁盘预读缓存可以显著 提高 odoo 访问速度

       blockdev 工具允许从命令行调用区块设备控制程序。

       –setro 设置设备为只读

       –getro 读取设备是否为只读（成功为1，0则为可读写）

       –setrw 设置设别为可读写

       –getss 打印设备的扇区大小，通常是512

       –getsize 打印设别的容量，按照一个扇区512个字节计算

       –setra N 设置预读扇区（512字节）为N个.Set readahead to N 512-byte sectors.

       –getra 打印readahead（预读扇区）

       –flushbufs 刷新缓冲

       –rereadpt 重读分区表。

       blockdev --getra /dev/sda

       默认值为256，建议的范围是在4096-16384之间，预读不足的常见问题是写磁盘的速度要比读取的速度要高。

       改变参数的命令格式是：blockdev --setra 4096 /dev/xdva1

       需要根据每块磁盘单独进行设置，通常可以将调整命令写入rc.local启动脚本中。

       6.在linux中，用户每访问一个文件，系统都会更新文件的其中一个属性（上次访问时间），当用户在访问数据时，系统会需要不断的进行写操作，这个在系统中也是一笔不小的开销，我们可以在/etc/fstab文件中，对挂载的卷加上noatime选项来禁用此行为：

       /dev/sda1 / ext3 noatime,errors=remount-ro 0 1

       修改完以后，执行sudo mount -a 命令生效即可。

       7.在linux中有关读缓存与交换的参数如下有两个，可以在/etc/sysctl.conf中加上两行：

       vm.swappiness=0

       vm.overcommit_memory=2

       这些参数可以在/proc/sys/vm/中查看

       8.共享内存的设定，ubuntu中共享内存的默认值都很低，为了更好的利用服务器资源，我们将对其进行调整，网上有一个调整的脚本。

       #!/bin/bash

       page_size=`getconf PAGE_SIZE`

       phys_pages=`getconf _PHYS_PAGES`

       shmall=`expr $phys_pages / 2`

       shmmax=`expr $shmall \* $page_size`

       echo kernel.shmmax = $shmmax

       echo kernel.shmall = $shmall

       直接以root身份运行 ./shmsetup >> /etc/sysctl.conf

       sysctl -p

       9、将日志文件转移到内存中

       当一台机器处于运行中时，最好是将系统日志放在内存中，当系统关闭时再将其复制到硬盘，当你运行一台开启了syslog功能的笔记本电脑或移动设备时，ramlog可以帮助你提高系统电池或移动设备闪存驱动器的寿命，使用ramlog的一个好处是，不用再担心某个守护进程每隔30秒向syslog发送一条消息，放在以前，硬盘必须随时保持运转，这样对硬盘和电池都不好。

       10、先打包，后写入

       在内存中划分出固定大小的空间保存日志文件，这意味着笔记本电脑硬盘不用一直保持运转，只有当某个守护进程需要写入日志时才运转，注意ramlog使用的内存空间大小是固定的，否则系统内存会很快被用光，如果笔记本使用固态硬盘，可以分配50-80MB内存给ramlog使用，ramlog可以减少许多写入周期，极大地提高固态硬盘的使用寿命。

       持续更新中