抢占阈值调度的功率优化

抢占阈值调度的功率优化

0 原文

贺小川,贾焰.抢占阈值调度的功耗优化[J].计算机学报,2008(11):2060-2071.

1 背景

1. 动态电压调整(Dynamic Voltage Scaling, DVS)机制

   程序运行时动态调节处理器的电压和频率。
   对于CMOS电路，功耗正比于时钟频率，正比于电压的平方。每个时钟周期能耗正比于电压平方。
   对于任务，工作的总时钟周期固定，降低电压意味着降低时钟频率降低，任务执行所需总时钟周期不变，但总执行时间增加。

2. CMOS泄露电流会导致静态能耗

   降低电压可以有效降低功耗，但延长任务时间会导致静态能耗增加

3. 其他：

   Yun Wang and M. Saksena, “Scheduling fixed-priority tasks with preemption threshold,” Proceedings Sixth International Conference on Real-Time Computing Systems and Applications. RTCSA’99 (Cat. No.PR00306), Hong Kong, China, 1999, pp. 328-335, doi: 10.1109/RTCSA.1999.811269.

   Scheduling fixed-priority tasks with preemption threshold 翻译

2 创新点

1. 提出一种基于时间响应分析(Response Time Analysis)的任务可调度性判定方法。
2. 证明了系统在最大阈值分配情况下功耗最低。
3. 提出一种两阶段节能调度算法。
4. 理论上算法所带来的能耗最多为最优调度的$\max \left\{1/{\left(U_{bd}\right)}^2,2\right\}$倍，其中$U_{bd}$是FPPT(Fixed-Priority tasks with Preemption Thresholds scheduling)调度策略的任务集合临界过载利用率(breakdown utilization)。

3 模型

1. 周期性任务模型

   任务集合 T = { τ 1 , τ 2 , . . . , τ n } T=\{\tau_1,\tau_2,...,\tau _n\} T={τ1​,τ2​,...,τn​}。${\tau }_i$表示任务，使用三元组$(C_i,T_i,D_i)$表示，其中$C_i$表示任务所需时钟周期个数，$T_i$表示任务${\tau }_i$两个实例之间的最小间隔，$D_i$表示任务截止时限。
   $L$表示任务的超周期，即所有任务的公倍数。
   每个任务分配优先级${\pi }_i$和抢占阈值${\gamma }_i$，满足${\pi }_i,{\gamma }_i\in [1,n],{\gamma }_i⩾{\pi }_i$，任务优先级确定了竞争处理器或其他资源的能力，任务抢占阈值决定了被更高优先级任务抢占可能性的高低。

2. 功耗模型

   可变电压处理器动态功耗：
   $$P_d=C_{eff}{V}_{DD}^{2}f$$
   $$f=\alpha k^{\prime }\frac{{\left(V_{DD}-V_{TH}\right)}^2}{V_{DD}}$$
   静态功耗来自于处理器，IO和RAM的泄漏电流，表示为$P_s$。
   总功耗$P=P_s+P_d$。单个时钟周期的能耗$P(f)/f$。
   频率集合 { F L K 1 , F L K 2 , . . . , F L K s } \{FLK_1, FLK_2, ..., FLK_s\} {FLK1​,FLK2​,...,FLKs​}分别对应电压集合 { v 1 , v 2 , . . . , v s } \{v_1, v_2, ..., v_s\} {v1​,v2​,...,vs​}。
   休眠模式功耗为0，睡眠进入活跃能耗为$E_{sw}$。
   空闲状态(醒着但没任务)功耗为$P_I$，每个频率有固定的值

4 问题描述

4.1 泄露敏感的FPPT节能调度，简称LAEES-FPPT

由$n$个在时刻０释放的任务组成的任务集合$T$，$T$内每个任务${\tau }_i$的执行需要$C_i$个时钟周期，每个${\tau }_i$实例的最小释放间隔时间为$T_i$，${\tau }_i$实例自释放时刻起必须在$D_i$之前完成．同时$T$内每个任务${\tau }_i$都分配了任务优先级${\pi }_i$和抢占阈值${\gamma }_i$，${\pi }_i$用于竞争处理器而${\gamma }_i$用于${\tau }_i$开始执行后保护${\tau }_i$避免过多不必要的任务抢占．处理器功耗$P(f)$是非递减的凸函数，而$P(f)/f$只是凸函数．处理器具有一系列离散的频率／电压设置， { F L K 1 , F L K 2 , . . . , F L K s } \{FLK_1, FLK_2,...,FLK_s\} {FLK1​,FLK2​,...,FLKs​}和 { v 1 , v 2 , . . . , v s } \{v_1,v_2,...,v_s\} {v1​,v2​,...,vs​}．处理器从睡眠模式进入活跃模式的额外能耗为$E_{sw}$，而处理器处于活跃模式和空闲状态时的功耗为$P_I$．问题在于如何在保证$T$可调度性的前提下使得超周期$L$内的系统功耗最小。

4.2 节能调度的可能性

任务集合$T$要保证每个任务在截止日期内为每个任务${\tau }_i$分配频率$f_i$，如果其没有影响每个任务的可调度性(不超过deadline)，则这种节能调度是可行的。用$S^{\ast }$表示最优调度。

4.3 空闲时段阈值

$t_{\theta }=E_{sw}/P_I$。其中$E_{sw}$表示空闲能耗，就是说CPU闲置但是其在running，这个时候如果闲置能耗大于休眠+重启能耗，那么让CPU休眠就是有意义的，这个阈值就是$t_{\theta }$。

4.4 超周期能耗

能耗$E(S)$包含两部分，即执行能耗$\Phi (S)$和空闲能耗$ϵ(S)$
执行能耗$\Phi (S)$：
$$\varphi \left(S\right)=\underset{0}{\overset{L}{\int }}P\left(v\left(t,s\right)\right)dt$$
其中$v\left(t,s\right)$表示调度$S$在$t$时刻的处理器频率。

空闲能耗$ϵ(S)$：
$E_{sw}$乘以超周期$L$内处理器重新开启次数和$P_I$乘以$L$内处理器处于空闲状态的长度。

5 可调度性分析

$\stackrel{\wedge }{f}$是处理器功耗最低时的处理器频率。由于$P(f)/f$是凸函数，其表示单位时钟周期内的能耗，为了其取得最小值，要使得$d(P(f^{\ast })/f^{\ast })/d{f}^{\ast }=0$, 最低频率$\stackrel{\wedge }{f}$只要调整为$f\ast$即可。

受平台限制，频率可以设为 f ∗ ∈ { F L K 1 , F L K 2 , . . . , F L K s } f^*\in \left\{ FLK_1,FLK_2,...,FLK_s \right\} f∗∈{FLK1​,FLK2​,...,FLKs​}，但分情况。

可调度性分析可以根据以往研究进行，根据level-i忙周期分析进行扩展，如论文Scheduling fixed-priority tasks with preemption threshold(翻译在此)，具体这里不阐述了。

6 功耗最优的抢占阈值分配

用$\gamma \left(T,\Pi \right)$表示已经使用$\Pi$来分配优先级的任务集合$T$，其可行的所有抢占阈值的集合。

最小阈值分配(Identity Preemption Threshold Assignment, IPTA)

在IPTA内，任务抢占阈值等于任务优先级。IPTA表示为${\Gamma }^I\in \gamma \left(T,\Pi \right)$

若存在任意两个阈值分配，$\Gamma ,{\Gamma }^{\prime }\in \gamma (T,\Pi )$，有$\forall i,{\gamma }_i⩾{\gamma }_i^{\prime }$，则认为$\Gamma$比${\Gamma }^{\prime }$更大，即$\Gamma \succcurlyeq {\Gamma }^{\prime }$

最大阈值分配(Maximal Preemption Threshold Assignment, MPTA)

最大阈值分配是使得每一个分配阈值最大化，满足${\Gamma }^{\max }\succ \Gamma \in \gamma (T,\Pi )$

定理1：给定实时系统$(T,\Gamma ,\Pi )$和$(T,{\Gamma }^{\prime },\Pi )$，其中$\Gamma ,{\Gamma }^{\prime }\in \gamma (T,\Pi )$，且$\Gamma \succ {\Gamma }^{\prime }$，则功耗$P_{total}(T,{\Gamma }^{\prime },\Pi )>P_{total}(T,\Gamma ,\Pi )$

证明：

先说明调小抢占阈值的影响。

根据Scheduling fixed-priority tasks with preemption threshold 定理4.1(翻译的定理5)所述，当任务${\tau }_i$的抢占阈值从${\gamma }_i$修改为${\gamma }_i^{\prime }({\gamma }_i^{\prime }<{\gamma }_i)$时，会有大概下面的变化：

${\tau }_i$的抢占阈值从${\gamma }_i$修改为${\gamma }_i^{\prime }$：

                    更新
        πi     γ'i <------- γi 
|-------|-------|-----------|------------|
    |       |         |            |
 不影响   不影响        |          不影响
              有影响，但不会有更差的响应时间

图中不影响指的是不影响自身之外的任务${\tau }_k$，不会有更差的响应时间指的是${\tau }_k$的响应时间可能减少，但不会变差。但降低${\tau }_i$的抢占阈值会降低${\tau }_i$自身的计算时间(？存疑，这里只会增加响应时间)，必须以增加${\tau }_i$的频率$f_i$来避免${\tau }_i$不可调度。根据能量与频率的关系，提升频率就意味着功耗增加。也就是说，若阈值分配减少，即${\gamma }_i\to {\gamma }_i^{\prime }$，则$T$的功耗增加，即$P_{total}(T,{\Gamma }^{\prime },\Pi )>P_{total}(T,\Gamma ,\Pi )$。

在说明调小频率的影响。

若任务${\tau }_i$执行频率从$f_i$调为$f_i^{{}^{\prime \prime }}(f_i^{{}^{\prime \prime }}<f_i)$。${\tau }_i$的计算时间就被延长了，最长响应时间就被延长，这个延长值为$C_i(1/f_i^{{}^{\prime \prime }}-1/f_i)$。

对于${\pi }_k<{\pi }_i$的任务，${\tau }_k$延长执行时间会影响其可调度性。假设某个${\tau }_j$受到其影响最大，其最长响应时间最接近$D_j$，要将${\tau }_j$的调度优先级${\gamma }_j$提升至${\gamma }_j^{{}^{\prime \prime }}$才能使其重新可调度。

对于${\pi }_i<{\pi }_k<{\gamma }_i$的任务${\pi }_k$而言，${\tau }_i$的计算时间增量可能影响到${\tau }_k$，即使影响到也可以通过调高${\gamma }_k$来降低其响应时间，然而，若${\gamma }_k$达到最高等级仍旧无法调度，那调低${\tau }_i$的频率就是不行的，只能保持其不变。

总之，阈值分配增大时，即$\Gamma \to {\Gamma }^{{}^{\prime \prime }}$，${\Gamma }^{{}^{\prime \prime }}\succ \Gamma$，$P_{total}(T,{\Gamma }^{{}^{\prime \prime }},\Pi )<P_{total}(T,\Gamma ,\Pi )$。

推论1：任务集合$T$在MPTA获得最小功耗。
证明：很明显，根据定理1提高每个任务的抢占阈值，从而降低各个任务的处理器频率，降低系统功耗，达到MPTA，功耗最低。

7 两阶段节能调度算法

本文节能调度分为两阶段，第一阶段计算任务集合$T$功耗最小时，各个任务所需频率，$[f_1^{opt},f_2^{opt},...,f_n^{opt}]$，第二阶段在线决定合适关闭处理器。

7.1 最小化执行功耗的离线算法EE-FPPT

简单讲，最小化静态优先级系统的最小功耗的过程就是求取静态优先级最大抢占阈值MPTA的过程。

算法能从任务集合的最低优先级任务开始，尝试调低任务的执行速度（5～7行），而后检查受其影响的任务的可调度性，对于更低优先级的任务，如果由于当前任务执行速度的调低而使其不可调度，则提升这些低优先级任务的抢占阈值，以保持可调度性（8～21行）;如果这些低优先级任务的抢占阈值无法再提高，就说明当前任务的执行速度无法调低，只好恢复其原有速度（17～19行）；对于优先级高于当前任务，但是可能被当前任务所阻塞的其他任务而言，如果当前任务的速度调低使其不可调度，就只好以其原有速度（22～27行），因为提高这些任务的抢占阈值没有效果．

作者说是伪时间复杂度，但由于计算最差响应时间、可调度性的公式是迭代得到的，因此复杂度相当高。

利用EE-FPPT所获得算法结果用
$$S_e=[f_1^{opt},f_2^{opt},...,f_n^{opt}]$$
表示，令
$${\mathcal{C}}_i=C_i/f_{opt}^i$$
表示其在获得的最优频率下的计算时长。

7.2 最小化空闲功耗的在线算法LA-FPPT

第一阶段给出了最优处理器频率$S_e$，来降低系统执行功耗$\varphi (S_e)$。第二阶段则是在线判断合适关闭处理器来降低空闲功耗$ϵ(S_e)$。

基本思想：整合超周期$L$内的零散空闲时段，让处理器尽可能处于空闲时段(至少大于$t_{\theta }$)。通过推迟任务的释放时间，在保证可调度性前提下使得任务尽可能处于睡眠状态。

用$r_i(t)$表示任务${\tau }_i$在时刻$t$之后的第一个任务实例的释放时间，这个任务实例记为$J_{i,t}$，满足：
$$r_i\left(t\right)=\lceil t/T_i\rceil \cdot T_i$$

令$d_i(t)$表示$J_{i,t}$的截止时间，满足
$$d_i(t)=r_i(t)+D_i$$

                        T_i释放周期↘
           |------------------------------------|
                     D_i截止时间↘
           |---------------------------|
|----------|---------------------------|--------|-->
0        r_i(t)                      d_i(t)        t
     实例J_i,t释放                 实例J_i,t结束

|--------|-----|---|-----|---|-----|------|-----|-->
0           忙   忙   闲   忙   闲    忙            t

首先考虑在时间间隔$[t,d_i(t))$内的最长可用时间间隔，如上图中，即为两个level-i闲周期的合并长度，即$S_{{\pi }_i}^{max}(t)$。

level-i忙周期受到2个因素影响：

1. 低优先级但高抢占阈值的任务阻塞。
2. 高优先级任务的抢占。

如下式所示是任务负载总量的推导公式，$S_{{\pi }_i}\left(t\right)$是$t$时刻起level-i的空闲周期起点，$\underset{\forall k,{\pi }_k<{\pi }_i⩽{\gamma }_k}{\max }{\mathcal{C}}_k$指的是低优先级但高优先级的最大阻塞时间，${\sum }_{\forall j,{\pi }_j>{\pi }_i}\left(\lceil \frac{w_{{\pi }_i}^{m+1}\left(t\right)-r_j\left(t\right)}{T_j}\rceil \cdot {\mathcal{C}}_j\right)$指的是高优先级任务的抢占时间。

$$w_{{\pi }_i}^{m+1}\left(t\right)=S_{{\pi }_i}\left(t\right)+\underset{\forall k,{\pi }_k<{\pi }_i⩽{\gamma }_k}{\max }{\mathcal{C}}_k+\sum _{\forall j,{\pi }_j>{\pi }_i}\left(\lceil \frac{w_{{\pi }_i}^{m+1}\left(t\right)-r_j\left(t\right)}{T_j}\rceil \cdot {\mathcal{C}}_j\right)$$

这个递归方程定义了该level-i忙周期的长度(原文这么写的，但这个应该是忙周期的结束时间？)，需要持续递归计算到$w_{{\pi }_i}^{m+1}=w_{{\pi }_i}^m$或$w_{{\pi }_i}^{m+1}⩾d_i(t)$为止，表示递归值不变或超过当前周期的截止时间。

$l_i\left(t,w_{{\pi }_i}\left(t\right)\right)$定义了level-i空闲周期的长度，$d_i-w_{{\pi }_i}\left(t\right)$空闲周期在本周期任务中止时间之前结束。$\frac{\lceil w_{{\pi }_i}(t)-r_j(t)\rceil }{T_j}\cdot T_j+r_j(t)-w_{{\pi }_i}(t)$表示更高优先级的任务在此忙周期内的执行需求。

$$l_i\left(t,w_{{\pi }_i}\left(t\right)\right)=\min \left[d_i-w_{{\pi }_i}\left(t\right),\underset{\forall j,{\pi }_j⩾{\gamma }_i}{\min }\left(\frac{\lceil w_{{\pi }_i}\left(t\right)-r_j\left(t\right)\rceil }{T_j}\right)\cdot T_j+r_j\left(t\right)-w_{{\pi }_i}\left(t\right)\right]$$

算法2的7-14行首先计算了$S_{{\pi }_i}^{max}(t)$，即优先级为${\pi }_i$的任务的最长可利用的空闲长度，方法是不断递归计算忙周期的结束时间$w_{{\pi }_i}^{m+1}\left(t\right)$，若寻找到有效的空闲周期(11行)，则更新其空闲周期的结束时刻$S_{{\pi }_i}(t)$，由于$w_{{\pi }_i}^{m+1}\left(t\right)$与$S_{{\pi }_i}(t)$相关，其也要更新$w_{{\pi }_i}^{m+1}\left(t\right)$。直至达到当前优先级下最大的截止时间$d_i(t)$为止。

随后将任务${\tau }_i$的实例推迟到最长可用时间长度$S_{{\pi }_i}^{max}(t)$之后，如果说通过19行的比较式来判断将所有任务推迟后，其大于能用于节能的阈值$t_{\theta }$，则关闭处理器。

作者称计算$S_{{\pi }_i}^{max}(t)$的时间复杂度为$\mathcal{O}(mn)$，算法2的时间复杂度为$\mathcal{O}(m{n}^2)$，但由于计算依赖迭代，所以是伪时间复杂度的。

8 性能证明

结果是
$$E\left(S_{\psi }\right)⩽\max \left\{2,1/{\left(U_{bd}\right)}^2\right\}E\left(S^{\ast }\right)$$
其中$E\left(S_{\psi }\right)$是通过上述的两阶段调度算法得到的解的能耗，$E\left(S^{\ast }\right)$是最优能耗。

原文写的比较清楚了，这里就不在赘述，都是一些数学推导。