- 博客(15)
- 问答 (2)
- 收藏
- 关注
RSS订阅原创 论文Provable Defense against Backdoor Policies in Reinforcement Learning
强化学习训练的目标过于复杂时，一般用户的资源无法支撑从头开始训练出一个优秀的策略，此时需要依靠其他方的预训练策略。而下载的RL预训练策略可能会是一个后门策略，因此引起强化学习中的后门策略攻击。
2024-01-19 20:29:20
365
1
原创 openlayers显示mapbox源
使用前确保拥有openlayer依赖包的ol库npm install ol。"ol": "^6.15.1",后yarn install也可。
2023-12-18 13:51:40
422
1
原创 联邦学习中的Staleness issue
联邦学习是一种分散式机器学习方法，其中训练数据存储在本地设备上，模型在本地设备上进行训练，然后周期性地将本地模型更新发送到中央服务器，以便全局模型的更新。在联邦学习中，"Staleness issue"（滞后问题）通常指的是在模型更新聚合过程中，由于参与联邦学习的设备或节点之间的通信延迟，导致某些模型更新在被集成到全局模型之前已经过时（滞后）的问题。这可能会增加通信开销，但有助于确保全局模型的一致性。由于某些设备的模型更新在被聚合到全局模型之前已经过时，因此全局模型可能没有及时获得最新的信息。
2023-11-16 16:39:12
123
1
原创 Straggler issue
同步聚合中，服务器等待Client响应时间较长，当等待多个Client时，假设一个Client的信道条件较差或者计算能力较弱导致不能及时聚合时，就会出现离散问题（Straggler issue），如上图（a），此时等待Client 2，但是Client 1扔占用信道。这里是以FL联邦学习为例子讲的，大概就是需要等多个服务器上传模型，但是各自有快慢，早早上传结束的仍然需要占用信道等待仍没有上传结束的Client，导致信道浪费。
2023-11-16 15:57:02
463
1
原创 Value of Information: A Comprehensive Matrix for Client Selection in Federated Edge Learning
主要是关于Client Select问题的定义
2023-11-14 22:41:10
70
原创 联邦学习 非独立同分布 Client数据集 意义
在非IID的情况下，需要采取一些策略来应对数据分布的不均匀性，以确保在全局模型上取得良好的性能。表示各个客户端的数据是从相同的分布中独立采样得到的。这种情况使得在全局模型的训练过程中，每个客户端的数据都是相似的，可以看作是从同一个总体分布中抽取的。在IID的情况下，联邦学习更容易进行，因为各客户端的数据相似性较高，全局模型可以在各客户端的数据上进行较为均匀的训练，不太容易受到数据差异的影响。表示各个客户端的数据并不是独立同分布的，可能来自不同的分布，具有不同的特征、分布、或者数据类型。
2023-11-14 17:30:35
156
原创 预训练模型及微调 概念
预训练模型的微调是指在一个预先训练好的模型基础上，通过使用新的、特定领域的数据集进行额外的训练，以调整模型以适应新任务或新领域。使用新的数据集，以及定义好的损失函数，对整个模型或部分模型进行训练。在这个阶段，模型会根据新任务的要求进行调整，以更好地适应新的数据分布和任务要求。有时，在微调过程中，可以选择冻结模型的部分层次，尤其是预训练过程中学到的低级别特征提取层。这有助于保留先前学到的通用特征。微调的目标是通过在新任务上进行有监督学习，使模型学到适应新数据分布的特定信息，从而提高模型在新任务上的性能。
2023-11-13 23:29:35
66
原创 FASTMOE: A FAST MIXTURE-OF-EXPERT TRAINING SYSTEM
训练大规模的MoE模型依赖TPU，不向公众开放。用于接收 网络构造函数的接口，以构造为expert，能够让用户能够专注于设计自己的网络，支持多种不同类型的网络。接口的实现为用户隐藏了不同worker之间数据的传递跨gpu、节点并行计算、数据传输的实现细节。利用 标签 解决了分布式的异构性问题输入数据的 批处理、流处理 提高硬件使用效率。
2023-11-13 16:40:26
290
原创 opengl纹理加载glGenerateMipmap(GL_TEXTURE_2D)；
时0x0000000000000000 处(位于 ConsoleApplication1.exe 中)引发的异常: 0xC0000005: 执行位置 0x0000000000000000 时发生访问冲突。排查错误，问题为只进行了glutInit初始化，而没有进行glewInit()初始化,加上glewInit后正常运行。
2023-10-19 15:53:57
256
1
原创 贪吃蛇的C++实现
一、实现的功能1、介绍程序内容2、选择控制方式（WASD或者方向键盘）3、地图选择4、速度选择二、实现思路既然刚学完C++，我们就要使用面向对象的方法来编程实现。创建唯一也是核心的类CentralWork，在其中实现所有功能。 贪吃蛇实现主要有四个步骤：食物的随机产生、蛇的移动显示、蛇移动方向的控制、蛇吃到食物与牺牲的判定。现在阐述实现思路。1、食物的随机产生： 食物只存在一个，一个被吃后才会产生下一个随机食物。所以食物是否...
2021-08-15 23:32:00
7830
4
空空如也
机器学习从哪入门，没有方向
2022-02-21
Cmake编译libigl出现错误
2021-06-21
TA创建的收藏夹 TA关注的收藏夹
TA关注的人