![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
pytorch
Chrsitina_S
这个作者很懒,什么都没留下…
展开
-
大模型训练策略:单卡or多卡
大模型训练策略原创 2022-11-04 13:39:32 · 1132 阅读 · 0 评论 -
大模型训练策略:单卡or多卡
大模型训练策略原创 2022-11-01 14:41:24 · 240 阅读 · 0 评论 -
Pytorch 逃坑计划之——backward
跳坑一 RuntimeError: Trying to backward through the graph a second time, but the saved intermediate results have already been freed. Specify retain_graph=True when calling .backward() or autograd.grad() the first time. 查阅资料发现是在调用backward时发生的问题,也就是很重要的反向传播计算出错原创 2021-11-08 22:06:45 · 437 阅读 · 0 评论