在异构系统中学习应用的流迭代分布式编码计算研究（Matlab代码实现）

最新推荐文章于 2025-06-02 23:27:21 发布

Ps.729

最新推荐文章于 2025-06-02 23:27:21 发布

阅读量32

点赞数

文章标签：学习分布式

本文链接：https://blog.csdn.net/weixin_67304359/article/details/134563194

版权

💥💥💞💞欢迎来到本博客❤️❤️💥💥

🏆博主优势：🌞🌞🌞博客内容尽量做到思维缜密，逻辑清晰，为了方便读者。

⛳️座右铭：行百里者，半于九十。

📋📋📋本文目录如下：🎁🎁🎁

目录

💥1 概述

📚2 运行结果

🎉3 参考文献

🌈4 Matlab代码实现

💥1 概述

为了改善学习应用的效用并使机器学习解决方案对复杂应用可行，需要大量的重型计算。因此，将计算任务分配给多个工作者是至关重要的，这带来了系统异质性和不确定性所引起的延迟和故障的主要挑战。特别是，最小化从到达到交付的端到端作业执行延迟对于实时延迟敏感的应用非常重要。在本文中，针对工作者在计算和通信能力上存在差异的随机异构分布式系统中的每个作业迭代的计算，我们提出了一个新颖的联合调度编码框架，可以将编码计算负载最优地分配给工作者。这缩小了工作者响应时间的差距，对于最大化资源利用至关重要。为了进一步减少顺序执行延迟，我们还在分布式计算作业的每个迭代中加入了冗余计算。我们的模拟结果表明，使用所提出的解决方案获得的延迟明显低于对系统的异质性一无所知的均匀分配，实际上，只需引入少量的冗余计算，就可以接近理想的下限。

📚2 运行结果

部分代码：

%% Parameter Setting

J = 1000; % number of jobs
lambda = 0.01; % arrival rate of jobs, in [job/slots]
I = 10; % number of iterations
Z = 500000; % computational complexity of a job iteration
K = 1000; % number of critical tasks per job iteration
C = Z / K; % computational complexity of each task -- the relation might change later
max_Omega = 1.50; % redundancy ratio
gamma = 1; % relative importance of the first moment and the second moment
P = 5; % number of workers
rng(900) % a random seed; to realize the same workers and job arrivals
interarrival_time=exprnd(1/lambda,1,J); % interrival time of the jobs, exponentially distributed
c_vec = rand(1,P)*0.09;
%c_vec = zeros(1,P);
mu_vec = rand(1,P);
mu_vec = (I*Z*max_Omega*lambda) * (4*mu_vec/sum(mu_vec)); % task rate
m_vec = C./ mu_vec;
sigma_vec = C./mu_vec;
arrival_time_vec = cumsum(interarrival_time); % job arrival time