内存:
free、ps-aux;
IO设备(磁盘、网络):
iostat、ss、netstat、iptraf、iftop、lsof;
vmstat命令说明:
1)Procs:r显示有多少进程正在等待CPU时间。b显示处于不可中断的休眠的进程数量。在等待I/O。
2)Memory:swpd显示被交换到磁盘的数据块的数量。未被使用的数据块,用户缓冲数据块,用于操作系统的数据块的数量。
3)Swap:操作系统每秒从磁盘上交换到内存和从内存交换到磁盘的数据块的数量。s1和s0最好是0。
4)Io:每秒从设备中读入b1的写入到设备b0的数据块的数量。反映了磁盘I/O。
5)System:显示了每秒发生中断的数量(in)和上下文交换(cs)的数量。
6)Cpu:显示用于运行用户代码,系统代码,空闲,等待I/O的Cpu时间。
iostat命令说明:
实例命令:iostat -dk 1 5
iostat -d -k -x 5 (查看设备使用率(%util)和响应时间(await))
1)tps:该设备每秒的传输次数。“一次传输”意思是“一次I/O请求”。多个逻辑请求可能会被合并为“一次I/O请求”。
2)iops :硬件出厂的时候,厂家定义的一个每秒最大的IO次数
3)"一次传输"请求的大小是未知的。
4)kB_read/s:每秒从设备(drive expressed)读取的数据量;
5)KB_wrtn/s:每秒向设备(drive expressed)写入的数据量;
6)kB_read:读取的总数据量;
7)kB_wrtn:写入的总数量数据量;这些单位都为Kilobytes。
4、系统层面问题解决办法
你认为到底负载高好,还是低好呢?在实际的生产中,一般认为Cpu只要不超过90%都没什么问题。
当然不排除下面这些特殊情况:
Cpu负载高,IO负载低:
1)内存不够;
2)磁盘性能差;
3)SQL问题—>去数据库层,进一步排查SQL 问题;
4)IO出问题了(磁盘到临界了、raid设计不好、raid降级、锁、在单位时间内tps过高);
5)tps过高:大量的小数据IO、大量的全表扫描。
IO负载高,Cpu负载低:
1)大量小的IO写操作:
autocommit,产生大量小IO;IO/PS,磁盘的一个定值,硬件出厂的时候,厂家定义的一个每秒最大的IO次数。
2)大量大的IO 写操作:SQL问题的几率比较大
IO和cpu负载都很高:
硬件不够了或SQL存在问题。
四、基础优化
======
1、优化思路
定位问题点吮吸:硬件–>系统–>应用–>数据库–>架构(高可用、读写分离、分库分表)。
处理方向:明确优化目标、性能和安全的折中、防患未然。
2、硬件优化
主机方面:
根据数据库类型,主机CPU选择、内存容量选择、磁盘选择:
1)平衡内存和磁盘资源;
2)随机的I/O和顺序的I/O;
3)主机 RAID卡的BBU(Battery Backup Unit)关闭。
CPU的选择:
CPU的两个关键因素:核数、主频
根据不同的业务类型进行选择:
1)CPU密集型:计算比较多,OLTP - 主频很高的cpu、核数还要多
2)IO密集型:查询比较,OLAP - 核数要多,主频不一定高的
内存的选择:
OLAP类型数据库,需要更多内存,和数据获取量级有关。
OLTP类型数据一般内存是Cpu核心数量的2倍到4倍,没有最佳实践。
存储方面:
1)根据存储数据种类的不同,选择不同的存储设备;
2)配置合理的RAID级别(raid5、raid10、热备盘);
3)对与操作系统来讲,不需要太特殊的选择,最好做好冗余(raid1)(ssd、sas、sata)。
4)raid卡:
主机raid卡选择:
实现操作系统磁盘的冗余(raid1);
平衡内存和磁盘资源;
随机的I/O和顺序的I/O;
主机raid卡的BBU(Battery Backup Unit)要关闭。
网络设备方面:
使用流量支持更高的网络设备(交换机、路由器、网线、网卡、HBA卡)
注意:以上这些规划应该在初始设计系统时就应该考虑好。
3、服务器硬件优化
1)物理状态灯
2)自带管理设备:远程控制卡(FENCE设备:ipmi ilo idarc)、开关机、硬件监控。
3)第三方的监控软件、设备(snmp、agent)对物理设施进行监控。
4)存储设备:自带的监控平台。EMC2(hp收购了)、 日立(hds)、IBM低端OEM hds、高端存储是自己技术,华为存储。
4、系统优化
Cpu:
基本不需要调整,在硬件选择方面下功夫即可。
内存:
基本不需要调整,在硬件选择方面下功夫即可。
SWAP:
MySQL尽量避免使用swap。
阿里云的服务器中默认swap为0。
IO:
raid、no lvm、ext4或xfs、ssd、IO调度策略。
Swap调整(不使用swap分区)
/proc/sys/vm/swappiness的内容改成0(临时),/etc/sysctl. conf上添加vm.swappiness=0(永久)
这个参数决定了Linux是倾向于使用swap,还是倾向于释放文件系统cache。在内存紧张的情况下,数值越低越倾向于释放文件系统cache。
当然,这个参数只能减少使用swap的概率,并不能避免Linux使用swap。
修改MySQL的配置参数innodb_flush_ method,开启O_DIRECT模式:
这种情况下,InnoDB的buffer pool会直接绕过文件系统cache来访问磁盘,但是redo log依旧会使用文件系统cache。
值得注意的是,Redo log是覆写模式的,即使使用了文件系统的cache,也不会占用太多。
IO调度策略:
#echo deadline>/sys/block/sda/queue/scheduler 临时修改为deadline
永久修改
vi /boot/grub/grub.conf
更改到如下内容:
kernel /boot/vmlinuz-2.6.18-8.el5 ro root=LABEL=/ elevator=deadline rhgb quiet
5、系统参数调整
Linux系统内核参数优化:
vim/etc/sysctl.conf
net.ipv4.ip_local_port_range = 1024 65535:# 用户端口范围
net.ipv4.tcp_max_syn_backlog = 4096
net.ipv4.tcp_fin_timeout = 30
fs.file-max=65535:# 系统最大文件句柄,控制的是能打开文件最大数量
用户限制参数(MySQL可以不设置以下配置):
vim/etc/security/limits.conf
-
soft nproc 65535
-
hard nproc 65535
-
soft nofile 65535
-
hard nofile 65535
6、应用优化
业务应用和数据库应用独立;
防火墙:iptables、selinux等其他无用服务(关闭):
chkconfig --level 23456 acpid off
chkconfig --level 23456 anacron off
chkconfig --level 23456 autofs off
chkconfig --level 23456 avahi-daemon off
chkconfig --level 23456 bluetooth off
chkconfig --level 23456 cups off
chkconfig --level 23456 firstboot off
chkconfig --level 23456 haldaemon off
chkconfig --level 23456 hplip off
chkconfig --level 23456 ip6tables off
chkconfig --level 23456 iptables off
chkconfig --level 23456 isdn off
chkconfig --level 23456 pcscd off
chkconfig --level 23456 sendmail off
chkconfig --level 23456 yum-updatesd off
安装图形界面的服务器不要启动图形界面runlevel 3。
另外,思考将来我们的业务是否真的需要MySQL,还是使用其他种类的数据库。用数据库的最高境界就是不用数据库。
五、数据库优化
=======
SQL优化方向:执行计划、索引、SQL改写。
架构优化方向:高可用架构、高性能架构、分库分表。
1、数据库参数优化
调整
实例整体(高级优化,扩展):
thread_concurrency:# 并发线程数量个数
sort_buffer_size:# 排序缓存
read_buffer_size:# 顺序读取缓存
read_rnd_buffer_size:# 随机读取缓存
key_buffer_size:# 索引缓存
thread_cache_size:# (1G—>8, 2G—>16, 3G—>32, >3G—>64)
连接层(基础优化)
设置合理的连接客户和连接方式:
max_connections # 最大连接数,看交易笔数设置
max_connect_errors # 最大错误连接数,能大则大
connect_timeout # 连接超时
最后
由于细节内容实在太多了,为了不影响文章的观赏性,只截出了一部分知识点大致的介绍一下,每个小节点里面都有更细化的内容!
小编准备了一份Java进阶学习路线图(Xmind)以及来年金三银四必备的一份《Java面试必备指南》
read_buffer_size:# 顺序读取缓存
read_rnd_buffer_size:# 随机读取缓存
key_buffer_size:# 索引缓存
thread_cache_size:# (1G—>8, 2G—>16, 3G—>32, >3G—>64)
连接层(基础优化)
设置合理的连接客户和连接方式:
max_connections # 最大连接数,看交易笔数设置
max_connect_errors # 最大错误连接数,能大则大
connect_timeout # 连接超时
最后
由于细节内容实在太多了,为了不影响文章的观赏性,只截出了一部分知识点大致的介绍一下,每个小节点里面都有更细化的内容!
[外链图片转存中…(img-USifZ7bQ-1719194731672)]
小编准备了一份Java进阶学习路线图(Xmind)以及来年金三银四必备的一份《Java面试必备指南》
[外链图片转存中…(img-KKVxO7N8-1719194731672)]