创新实训（二）前期准备

前端学习准备

由于基本是从零开始，我花了三周左右的时间自学和基本掌握了前端的技巧，这里简要介绍一下我的前端学习历程：

基础三件套

首先是HTML+CSS+JavaScript的前端基础三件套的学习，这里我推荐B站狂神说JAVA这个老师的系列课程。
狂神说HTML+CSS学习笔记
【狂神说Java】JavaScript学习笔记
这两个笔记总结的比较全面。

Vue3

然后是VUE的学习。
Vue (读音 /vjuː/，类似于 view) 是一套用于构建用户界面的渐进式框架。与其它大型框架不同的是，Vue 被设计为可以自底向上逐层应用。Vue 的核心库只关注视图层，不仅易于上手，还便于与第三方库或既有项目整合。另一方面，当与现代化的工具链以及各种支持类库结合使用时，Vue 也完全能够为复杂的单页应用提供驱动。
我们选用的是最新的VUE3，和VUE2有一些区别。
这里其实看视频或者看官网都可以。
vue3官网

elementPlus

elementPlus是饿了么开发的基于VUE3的UI控件。
学习的建议是多写多看官网，然后使用的时候按需导入即可。
elementPlus官网

项目组前期准备

主要是一些项目结构上的讨论以及原理的讨论。
而经过了周会的讨论比对之后，我们明确了我们后续主要研究并依托的论文，即是《Communication-Efficient Learning of Deep Networksfrom Decentralized Data》这一篇。我们在后续工作中，将会以这一篇论文作为我们的聚合算法指导。

对于模型的选择，我们最终期望实现的最终目标是根据用户输入的模型类型以及模型诸多参数，自适应地实现对于模型的优化，并呈现反馈出来。但考虑到了用户在自定义输入模型类型与参数等过程中，会极大地影响程序的鲁棒性，因此我们最后决定暂时使用列表选择的方式来干预模型的具体选择问题，而对于模型的参数确定，也暂时会用选项box的方式来控制输入的模型在我们的预期范围内。当然，对于常用的以及我们会考虑到的模型，我们将会首先咨询实验室中的研究生学长，得到答复之后我们就会根据研究生学长的建议，将他们经常使用的一些模型纳入到考量范围中。

此外，我们也曾经考虑过直接对pytorch的model文件进行解析，但考虑到这个部分可能尚未实现，也可能需要花费较多时间，因此这个计划将会在完成基础版本之后再考虑实现。

而对于如何实现异步呈现模型迭代的过程，我们小组暂且还没有一个明确的定论。目前小组中有两种论点——其一是在后端完成多轮迭代更新后得到网络模型，然后再将模型通过socket通信传递给服务器进行聚合，聚合完成之后再反馈给客户端，客户端测试后呈现在前端；其二则是在后端每完成一轮迭代后就发送给服务器进行聚合，如果服务器暂时未满足异步条件则放弃聚合，将原有模型原封不动地返回给客户端，客户端再根据返回得到的模型进行下一轮迭代，重复上述发送再返回的过程，直到最终迭代轮数完成为止。对于这两种方案，我们也暂时还没有一个明确的定论。

论文解读

这里主要来自廖同学的讲解，我记录如下，感谢。
论文研读《Communication-efficient learning of deep networks from decentralized data》，辅以代码分析 ：
1、模型结构
①有K个固定客户端，每个客户端有自己的本地数据集
②每轮随机算则C个客户端，服务器把当前全局算法状态发给这C个客户
③每个选定的客户端基于全局状态及本地数据集执行本地计算，并行向服务器发送更新
④服务器将这些更新应用于全局状态
⑤重复该过程
2、本实验要优化通讯成本，代码有改动，让每轮客户端增加了更多计算
3、模型优化的核心应该是SGD(梯度下降)
4、C=1对应于全批次(非随机)
5、计算由三个关键参数控制
C:每轮执行运算的客户端比例
E:每个客户端，在一轮中对本地数据集训练的次数
B:用于客户端更新的本地微型批次大小(B=无穷，表示本地数据集被视作单个迷你批次
6、本文提高一种关键方法: naive parameter averaqing(朴素参数平均)