深度学习
深度学习内容
历风
这个作者很懒,什么都没留下…
展开
-
快来优化你的Pytorch的显存占用吧
本文介绍了使用混合精度训练和验证禁用梯度来优化显存的占用。根据笔者实测,混合精度训练对网络的影响几乎可以忽略不及,但是显存可以降低一半以上。原创 2022-12-06 06:42:36 · 808 阅读 · 0 评论 -
联邦学习系统架构与实现
联邦学习系统的简单实现原创 2022-09-20 11:47:01 · 1642 阅读 · 0 评论 -
Tensorflow2.0 自定义训练
使用tf.GradientTape 环境进行自动求梯度原创 2022-09-19 00:27:37 · 699 阅读 · 0 评论 -
Numpy中如何输出Array前N最大值的索引?
我们使用arr.argsort() 函数实现这个功能top_k=3arr = np.array([2,5,12,6,1])top_k_idx=arr.argsort()[::-1][0:top_k]print(top_k_idx)接下来我们将之封装为函数:def ArrayTopK(top_k,arr) top_k_idx=arr.argsort()[::-1][0:top_k] return top_k_idx...原创 2022-04-02 19:47:08 · 810 阅读 · 0 评论 -
Tensorflow中如何对模型简单剪枝?
def getZeroIndex(array): res=[] for index,value in enumerate(array): if value==0: res.append(index) return np.array(res)下面演示了对第一层进行剪枝watermark_model=tf.keras.models.load_model("hn_teacher_watermark_97.h5")watermark_model原创 2022-04-02 20:19:42 · 4532 阅读 · 0 评论 -
Tensorflow 中如何修改模型的权重?
首先可以使用get_weights() API获取权值。t=watermark_model.layers[1].get_weights()修改t(这个变量的类型大家就自己看啦)t[0][0,0,0,0]=0使用 set_weights(weight) API 设置权重。watermark_model.layers[1].set_weights(t)可以看见已经发生改变。...原创 2022-04-02 19:40:26 · 3371 阅读 · 0 评论