Linux iowait到底是什么含义

最新推荐文章于 2024-04-28 13:16:41 发布
最新推荐文章于 2024-04-28 13:16:41 发布
阅读量590 收藏 1
点赞数
分类专栏： 文件系统与存储 文章标签： linux linux操作系统 内核
原文链接：https://www.cxyzjd.com/article/qq_32740107/105567793
版权

%IOwait 一个迷之参数，top/iostat/mpstat/sar 都会统计的关键数据，字面理解是系统等待IO的时间，经常用于反映系统IO压力。 IOwait时候CPU在干什么？什么时间才算IOwait，到底在wait什么？

数据含义及来源

man mpstat 查看下官方定义

%iowait
           Percentage  of  time that the CPU or CPUs were idle during which the system
           had an outstanding disk I/O request.

统计工具对IOwait的定义是CPU idle时系统有IO请求的时间百分比，也就是说要满足两个条件才会被记录为IOwait

1.CPU idle

2.有IO请求在处理

%iowait 数据来自/proc/stat 第5个参数，这里的数据又是怎么来的？ 

内核IOwait时间统计（kernel 5.3）

1. /proc/stat 数据来源

fs/proc/stat.c show_stat() 中找到/proc/stat 获取 iowait的路径 get_iowait_time()->get_cpu_iowait_time_us()。

根据CPU当前状态 online/offline，选择从cpustat.iowait 或者get_cpu_iowait_time_us() 获取iowait

static u64 get_iowait_time(struct kernel_cpustat *kcs, int cpu)
{
	u64 iowait, iowait_usecs = -1ULL;

	if (cpu_online(cpu))
		iowait_usecs = get_cpu_iowait_time_us(cpu, NULL);

	if (iowait_usecs == -1ULL)
		/* !NO_HZ or cpu offline so we can rely on cpustat.iowait */
		iowait = kcs->cpustat[CPUTIME_IOWAIT];
	else
		iowait = iowait_usecs * NSEC_PER_USEC;

	return iowait;
}

get_cpu_iowait_time_us()数据来源于每个CPU 的 ts->iowait_sleeptime

u64 get_cpu_iowait_time_us(int cpu, u64 *last_update_time)
{
	struct tick_sched *ts = &per_cpu(tick_cpu_sched, cpu);
	ktime_t now, iowait;

	if (!tick_nohz_active)
		return -1;

	now = ktime_get();
	if (last_update_time) {
		update_ts_time_stats(cpu, ts, now, last_update_time);
		iowait = ts->iowait_sleeptime;
	} else {
		if (ts->idle_active && nr_iowait_cpu(cpu) > 0) {
			ktime_t delta = ktime_sub(now, ts->idle_entrytime);

			iowait = ktime_add(ts->iowait_sleeptime, delta);
		} else {
			iowait = ts->iowait_sleeptime;
		}
	}
	return ktime_to_us(iowait);
}

即iowait 来源为 cpustat.iowait  或者 CPU 相关的 ts->iowait_sleeptime 。

2. cpustat.iowait/iowait_sleeptime 统计

这两个参数的累加函数为

void account_idle_time(u64 cputime)
{
	u64 *cpustat = kcpustat_this_cpu->cpustat;
	struct rq *rq = this_rq();

	if (atomic_read(&rq->nr_iowait) > 0)
		cpustat[CPUTIME_IOWAIT] += cputime;
	else
		cpustat[CPUTIME_IDLE] += cputime;
}
static void
update_ts_time_stats(int cpu, struct tick_sched *ts, ktime_t now, u64 *last_update_time)
{
	ktime_t delta;

	if (ts->idle_active) {
		delta = ktime_sub(now, ts->idle_entrytime);
		if (nr_iowait_cpu(cpu) > 0)
			ts->iowait_sleeptime = ktime_add(ts->iowait_sleeptime, delta);
		else
			ts->idle_sleeptime = ktime_add(ts->idle_sleeptime, delta);
		ts->idle_entrytime = now;
	}

	if (last_update_time)
		*last_update_time = ktime_to_us(now);
}

调用栈为:

do_idle()->tick_nohz_idle_exit()->__tick_nohz_idle_restart_tick()->tick_nohz_account_idle_ticks()->account_idle_ticks()->account_idle_time()

do_idle()->tick_nohz_idle_exit()->tick_nohz_stop_idle()->update_ts_time_stats()

即CPU idle时会触发计数，具体计数哪个根据cpu状态判断。

两个数据的计数逻辑一样，都是根据当前cpu runqueue的nr_iowait 判断时间要累加在idle 或者 iowait 。

3.nr_iowait 哪里统计

调度时若当前task是in_iowait，则当前CPU runqueue 的nr_iowait 加1，表示当前有task在等待IO，参考__schedule() 。

	if (!preempt && prev->state) {
		if (signal_pending_state(prev->state, prev)) {
			prev->state = TASK_RUNNING;
		} else {
			deactivate_task(rq, prev, DEQUEUE_SLEEP | DEQUEUE_NOCLOCK);

			if (prev->in_iowait) {
				atomic_inc(&rq->nr_iowait);
				delayacct_blkio_start();
			}
		}
		switch_count = &prev->nvcsw;
	}

task的in_iowait 在 io_schedule_prepare()中设置，调用io_schedule_prepare()的相关函数有io_schedule()， io_schedule_time() , mutex_lock_io() , mutex_lock_io_nested() 等。 即当因这些调用产生调度则标记当前CPU有iowait的task，task重新wakeup时in_iowait恢复，cpu runqueu 的nr_iowait减1。

int io_schedule_prepare(void)
{
	int old_iowait = current->in_iowait;

	current->in_iowait = 1;
	blk_schedule_flush_plug(current);

	return old_iowait;
}

总的来说当有task因为IO而被调度出CPU时，标识该CPU有在等待IO的task，当CPU进入idle时如果仍有等待IO的task，就标记这段时间为IOwait，否则标记为idle, 与man mpstat中的定义一致。

IO在哪里阻塞

系统中执行IO的流程非常的多，其阻塞点也很多，这里列出两个通常IO操作中最常见的阻塞点。

1. io提交至驱动后，等待数据返回。

2. 有并发IO请求时争抢IO软/硬队列等资源。

用 kprobe 观察两种测试场景，单线程IO/多线程IO，的io_schedule调用栈

单线程read，仅有一种调用栈

             fio-7834  [001] d... 875382.127151: io_schedule: (io_schedule+0x0/0x40)
             fio-7834  [001] d... 875382.127163: <stack trace>
 => io_schedule
 => ext4_file_read_iter
 => new_sync_read
 => __vfs_read
 => vfs_read
 => ksys_pread64
 => sys_pread64
 => ret_fast_syscall

多线程read，多了因争抢IO资源产生的io调度

            fio-9800  [001] d... 875471.769845: io_schedule: (io_schedule+0x0/0x40)
             fio-9800  [001] d... 875471.769858: <stack trace>
 => io_schedule
 => ext4_file_read_iter
 => new_sync_read
 => __vfs_read
 => vfs_read
 => ksys_pread64
 => sys_pread64
 => ret_fast_syscall
 => 0xbe9445a8
             fio-9801  [003] d... 875471.770153: io_schedule: (io_schedule+0x0/0x40)
             fio-9801  [003] d... 875471.770164: <stack trace>
 => io_schedule
 => blk_mq_get_request
 => blk_mq_make_request
 => generic_make_request
 => submit_bio
 => ext4_mpage_readpages
 => ext4_readpages
 => read_pages
 => __do_page_cache_readahead
 => force_page_cache_readahead
 => page_cache_sync_readahead
 => generic_file_read_iter
 => ext4_file_read_iter
 => new_sync_read
 => __vfs_read
 => vfs_read
 => ksys_pread64
 => sys_pread64
 => ret_fast_syscall
 => 0xbe9445a8

结论

IOwait 是指CPU空闲时，且当前有task在等待IO的时间。

因IO阻塞而调度主要出现在 1.等待数据返回； 2.并发IO时竞争资源

影响该时间的因素很多，不只有IO负载，CPU负载也会严重影响该参数，不可一味根据IOwait判断系统的IO压力，还需要结合iostat 等数据综合判断。

参考文章：

朱辉(茶水)： Linux Kernel iowait 时间的代码原理

nginux
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
漫谈linux文件IO
03-20
在Linux 开发中，有几个关系到性能的东西，技术人员非常关注：进程，CPU，MEM，网络IO，磁盘IO。本篇文件打算详细全面，深入浅出。剖析文件IO的细节。从多个角度探索如何提高IO性能。本文尽量用通俗易懂的视角去阐述。不copy内核代码。 阐述之前，要先有个大视角，让我们站在万米高空，鸟瞰我们的文件IO，它们设计是分层的，分层有2个好处，一是架构清晰，二是解耦。
linux查看磁盘io负载
深海微澜
12-21 8062
iowait 命令：sar -u 可以看到有一项为iowait %iowait 表示在一个采样周期内有百分之几的时间属于以下情况：CPU空闲、并且有仍未完成的I/O请求。 即： %iowait = (cpu idle time)/(all cpu time) 注意： %iowait 不表示CPU不能工作的时间， %iowait 不表示I/O有瓶颈。 所以说%iowait 所含的信息量非常少的原因，它是一个非常模糊的指标，如果看到 %iowait 升高，并不一定说明磁盘io负载过大。 那么我们怎么查看磁盘的
linux下看io等待时间,Linux下用iostat探测IO使用情况
weixin_42556143的博客
05-01 769
常用参数-d：表示，显示设备(磁盘)使用状态；-k：某些使用block为单位的列强制使用Kilobytes为单位；-x： 可以获得更多统计信息；-c：还可以用来获取cpu部分状态值；1 3：表示，数据显示每隔1秒刷新一次，共显示3次.[wangdj@~]$ iostat -d -k 1 3Device:tpskB_read/skB_wrtn/skB_readkB_wrtnsda43.8...
LINUX_PPT.rar_Linux IO_linux ppt
09-19
LINUX学习PPT（进程与信号，IO编程）
linux io接口函数整理
06-07
io接口函数整理
如何理解 iowait
fengye_csdn的博客
04-16 8955
Linux中，%iowait 过高可能是个问题，严重的时候，它能使服务停止， 但问题是，多高才算高？ 什么时候应该担心呢？ 本文将讨论 iowait 的含义、相关的统计数据、原理以及 iowait的瓶颈问题 什么是 iowait Linux 中的解释 Show the percentage of time that the CPU or CPUs were idle during which the system had an outstanding disk I/O request. iowait .
理解 %IOWAIT (%WIO)
永远在学习Linux之路上
05-11 8910
%iowait 是 “sar -u” 等工具检查CPU使用率时显示的一个指标，在Linux上显示为 %iowait，在有的Unix版本上显示为 %wio，含义都是一样的,这个指标常常被误读，很多人把它当作I/O问题的征兆，我自己每隔一段时间就会遇到对 %iowait 紧张兮兮的客户，不得不费尽唇舌反复解释，事实上这个指标所含的信息量非常少，不能单独用来判断系统有没有I/O问题，在此我们详细探讨一下
CPU平均负载过高检查（iowait负载高）
settng style
06-23 8997
简单介绍了怎么测试CPU负载和CPU负载过高好如何检测
iowait过高问题查找及解决方案
因上努力，果上随缘。但行好事，莫问前程。
11-10 1675
如果 await 远大于 svctm，说明 I/O 队列太长，应用得到的响应时间变慢，如果响应时间超过了用户可以容许的范围，这时可以考虑更换更快的磁盘，调整内核 elevator 算法，优化应用，或者升级 CPU。另外，时机也很重要，可能 5 分钟前还人满为患的收款台，现在已是人去楼空，这时候交款可是很爽啊，当然，前提是那过去的 5 分钟里所做的事情比排队要有意义 (不过我还没发现什么事情比排队还无聊的)。确认是否是I/O导致的系统缓慢我们可以使用多个命令，最简单的是unix的命令 top。
linux IO 字符形操作
05-13
LINUX IO的操作文档，能直接下载到嵌入式开发板 上，直接字符型操作
Iowait 的成因、对系统影响及对策
09-21
什么是 iowait？ 顾名思义，就是系统因为 io 导致的进程 wait。再深一点讲就是：这时候系统在做 io ，导致 没有进程在干活，cpu 在执行 idle 进程空转，所以说 iowait 的产生要满足两个条件，一是进 程在等 io ，二是等 io 时没有进程可运行
Linux IO模型.emmx
05-06
详细描述了linux io模型（NIO、BIO、select、poll、epoll）的特点以及应用场景
Linux｜Awk 变量、数字表达式和赋值运算符
冷冻工厂
04-25 589
同样，数字 22 被赋予了变量 port_no，还可以把一个变量的值赋给另一个变量，就像最后一个例子中，将变量 computer_name 的值赋给了变量 server。例如，假设有一个名为 names.txt 的文件，该文件列出了一个应用程序的用户的名单，包括他们的名、姓和性别。要理解在 Awk 中数值表达式的运用，来看下面的例子，这个例子中用到了一个名为 domains.txt 的文件，这个文件列出了 Tecmint 所持有的所有域名。接下来，将探讨 Awk 的最后一个特性——赋值运算符。
linux 系统文件目录颜色及特殊权限对应的颜色
持 开源思想，撰 必胜所学，望 勤学者，无难处
04-25 294
特殊权限Set User ID,占属主的x位,仅对可执行的程序有意义,当其他用户执行带SUID标记的程序是,所有用户具有此程序的属主的身份和相应权限，例如:其user在此（若属主为root）创建文件或目录，属主依然是root，而不是user。特殊权限Set Group ID,占属组的x位,对可执行的程序和目录有效，例如:其user2在此目录（若属组为user1）创建文件或目录，属组依然是user1，而不是user2。可以用字符表示文件的类型（权限中的首字符）学识浅薄，有错还望纠正！那蓝色背景的又是什么？
Linux：浏览器访问网站的基本流程（优先级从先到后）
最新发布
fox_kang的博客
04-28 653
浏览器访问网站的基本流程（优先级从先到后） 首先查找浏览器是否存在该网站的访问缓存 其次查找本机的域名解析服务器 windows：C:\Windows\System32\drivers\etc\hosts Linux：/etc/hosts 使用外部的域名解析服务器解析（例如：114.114.114.114） 第一步：浏览器使用域名访问www.bilibili.com.网站 第二步：首先去访问根域名解析服务器查询，根服务器返回.com域名解析服务器地址==（这里的根域名解析服务器不会直接给出域名对应的
linux kernel内存泄漏检测工具之kmemleak
yanghao23的专栏
04-27 1057
3.1 原理简介kmemleak实现方法是一个插桩加扫描过程, 它提供一个kmemleak_alloc桩函数，这个函数会在内核slab、vmalloc、alloc_bootmem、pcpu_alloc等函数分配接口中被调用，每次调用时该函数均会创建一个kmemleak object记录分配内存的相关信息比如内存地址，大小，调用栈等，并将这个object加入到一个rbtree里面;当内核释放内存时，也会调用kmemleak_free删除对应object。
linux 编译binutil 遇到问题
123
04-26 206
linux 编译binutil
linux 信号
l2894的博客
04-27 750
设定闹钟是再OS内部，OS内可能有很多进程使用闹钟，所以OS要管理所有的闹钟，先描述，再组织，所以内核中一定要有描述闹钟属性的结构体，并用特定的数据结构组织起来，这里可以使用小根堆来对闹钟进行管理。)，并保存在指定寄存器中，当中断发生时，CPU会暂停当前正在执行的程序，并保存当前进程的上下文数据，然后查找中断向量表，找到与中断号对应的处理函数的地址，回调方法。同时CPU有很多针脚，和外设物理连接，每个针脚有自己的编号，键盘按下按键会给特定的针脚发送高电平，触发硬件中断，CPU会识别到针脚的编号(
写一个能引起iowait偏高的linux内核程序
05-25
以下是一个简单的能够引起iowait偏高的Linux内核程序，它会不断地向磁盘写入数据： ```c #include <stdio.h> #include <stdlib.h> #include <string.h> #include <fcntl.h> #include <unistd.h> int main(int argc, char *argv[]) { if (argc != 2) { fprintf(stderr, "Usage: %s <file>\n", argv[0]); exit(EXIT_FAILURE); } int fd = open(argv[1], O_WRONLY | O_CREAT | O_TRUNC, 0644); if (fd == -1) { perror("open"); exit(EXIT_FAILURE); } char data[1024]; memset(data, 'A', sizeof(data)); while (1) { if (write(fd, data, sizeof(data)) != sizeof(data)) { perror("write"); exit(EXIT_FAILURE); } sleep(1); } close(fd); return 0; } ``` 这个程序会不断地向指定的文件中写入一些数据，每次写入数据后会休眠1秒钟。当该程序运行时，磁盘会不断地被占用，导致iowait偏高。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值