- 博客(17)
- 收藏
- 关注
RSS订阅原创 Torch使两个Dataloader保持一致的打乱顺序
PYG中，数据类无法自定义，有时候要汇聚多组图数据，此时要求Dateloader的打乱顺序一致使得他们输出相同。
2023-05-14 17:48:35
417
1
原创 快来优化你的Pytorch的显存占用吧
本文介绍了使用混合精度训练和验证禁用梯度来优化显存的占用。根据笔者实测，混合精度训练对网络的影响几乎可以忽略不及，但是显存可以降低一半以上。
2022-12-06 06:42:36
806
原创 论文解读 ENAS: Efficient Neural Architecture Search via Parameter Sharing
提出了高效神经架构搜索(ENAS) ，这是种用于自动模型设计的快速且廉价的方法。在子模型之间共享参数使ENAS 能够提供强大的经验性能，同时使用的GPU 小时数比现有的自动模型设计方法要少得多，尤其是比标准神经架构搜索便宜1000倍。控制生成节点的类型，和上一层节点。如果一个层接收到来自它之前的多个层的跳过连接，那么这些层的输出在它们的深度维度上连接起来（先池化），然后是一个滤波器大小为1×1的卷积（后面是一个批量归一化层和一个ReLU层）执行以确保输出通道的数量在不同架构之间不会改变。
2022-10-31 15:43:35
259
原创 论文解读 MTL-NAS: Task-Agnostic Neural Architecture Search towards General-Purpose Multi-Task Learning
MTL_NAS
2022-10-15 22:36:13
333
原创 Tensorflow中如何对模型简单剪枝？
def getZeroIndex(array): res=[] for index,value in enumerate(array): if value==0: res.append(index) return np.array(res)下面演示了对第一层进行剪枝watermark_model=tf.keras.models.load_model("hn_teacher_watermark_97.h5")watermark_model
2022-04-02 20:19:42
4532
原创 Numpy中如何输出Array前N最大值的索引？
我们使用arr.argsort() 函数实现这个功能top_k=3arr = np.array([2,5,12,6,1])top_k_idx=arr.argsort()[::-1][0:top_k]print(top_k_idx)接下来我们将之封装为函数:def ArrayTopK(top_k,arr) top_k_idx=arr.argsort()[::-1][0:top_k] return top_k_idx...
2022-04-02 19:47:08
809
原创 Tensorflow 中如何修改模型的权重？
首先可以使用get_weights() API获取权值。t=watermark_model.layers[1].get_weights()修改t（这个变量的类型大家就自己看啦)t[0][0,0,0,0]=0使用 set_weights(weight) API 设置权重。watermark_model.layers[1].set_weights(t)可以看见已经发生改变。...
2022-04-02 19:40:26
3371
原创 20_AAAI_Hidden Trigger Backdoor Attacks
摘要随着深度学习算法在各种领域的成功，研究对抗攻击以保护在现实世界应用的深度模型已经成为一个重要的研究主题.后门攻击是一种在深度网络上的对抗攻击，攻击者提供中毒的数据给牺牲者以训练模型，然后同时通过展示一个小的特定的的触发器来激活模型。大多数先进的后门攻击提供可能会被视觉检查、揭示中毒数据中的触发器或者使用噪音隐藏触发器的错误标签的数据我们提出一种新形的后门攻击中毒的数据看起和正确标签一样自然，重要的是攻击者可以隐藏中毒数据中的触发器并保持触发器的密码直到测试的时候。我们对各种图像分类设置进行了广泛的研
2022-01-17 16:04:27
3660
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人