![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
实验随记
文章平均质量分 90
晓岚和雪
门外沧浪水,可以濯吾缨。
展开
-
实验随记2-Pytorch Lightning多机多卡训练
本文章主要收录笔者在阅读时发现的一些比较优质的多机多卡训练教程。任务需求:实现多机多卡训练,模型可能继承torch.nn或者torch.lightning。原创 2024-03-03 00:54:10 · 1556 阅读 · 2 评论 -
【实验随记1-F.cross_entropy与F.kl_div的区别】
F.cross_entropy与F.kl_div的区别:transformer输出的logits与target如何衡量误差?有什么注意事项?如何用调用torch方便实现loss计算?原创 2023-10-31 15:09:58 · 181 阅读 · 1 评论