pytorch
TTdreamloong
人工智障飞行员
展开
-
PyTorch中使用预训练的模型初始化网络的一部分参数(增减网络层,修改某层参数等) 固定参数
在预训练网络的基础上,修改部分层得到自己的网络,通常我们需要解决的问题包括: 1. 从预训练的模型加载参数 2. 对新网络两部分设置不同的学习率,主要训练自己添加的层 一. 加载参数的方法: 加载参数可以参考apaszke推荐的做法,即删除与当前model不匹配的key。代码片段为:model = ...model_dict = model.state_dict()# 1. fi...原创 2018-12-05 11:29:59 · 22442 阅读 · 8 评论 -
pytorch如何计算显存大小
参考连接pytorch 减小显存消耗,优化显存使用避免 outofmemory https://blog.csdn.net/qq_28660035/article/details/80688427如何计算模型以及中间变量的显存占用大小:https://oldpan.me/archives/how-to-calculate-gpu-memory如何在Pytorch中精细化利用显存:htt...原创 2018-12-07 20:33:10 · 10726 阅读 · 2 评论