8、基于量化通信的时变有向网络分布式优化

基于量化通信的时变有向网络分布式优化

1. 引言

随着网络控制和分布式系统的发展，对可扩展算法的需求日益增长，这些算法需考虑问题的分散特性和通信限制。分布式共识优化问题备受关注，其目标是通过网络中的多个代理共同最小化全局目标函数。该问题在大规模机器学习、模型预测控制、认知网络等众多领域有广泛应用。

在分布式计算中，基于（次）梯度的方法被广泛用于解决大规模优化问题。早期的分布式优化算法假设信息交换是异步的且计算可在多个处理器上并行化。基于多智能体系统的共识理论，有学者提出了基于共识的分布式（次）梯度下降方法，该方法在一定条件下能以 O(1/k) 的速度收敛到最优解，收敛速度与集中式（次）梯度下降算法相当。

然而，大多数现有算法假设代理之间的信息交换是双向的。相比之下，有向网络上的分布式优化问题具有更广泛的应用。例如，代理可能以不同的功率水平广播信息，导致通信信道是单向的。此外，当消除慢速通信链路以避免影响整个网络时，也会形成有向网络，因此有向拓扑比无向拓扑更灵活。

同时，早期的共识和优化算法假设代理可以无失真地获取相邻代理的信息流，但在实际数字通信中，存在带宽和能量限制，导致通信信道不可靠、智能体容量有限和总成本受限。为满足有限的通信数据速率，需要对相邻子系统之间交换的信息进行量化、编码和解码。因此，设计考虑数据传输速率约束的时变有向网络分布式共识优化算法具有重要意义。

1.1 贡献总结

• 提出一种分布式（次）梯度下降方法，通过量化、动态编码和解码方案的逐步组合，精确解决无约束优化问题。
• 证明在每个时间步的量化级别满足一定温和条件下，所有量化器不会饱和，并分析如何确定确保量化器不饱和