![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
DeepLearning
liu_yuan_kai
我是小草,不是大佬
展开
-
Pycharm 调试debug torch.distributed.launch
整理一下怎么用pycharm来调试torch.distributed.launch我在服务器用的是sh./train.sh,但是我需要在pycharm中查看变量,调试我的程序。我的train.sh内容如下:#!/bin/bashPORT=${PORT:-29530}python3 -m torch.distributed.launch --nproc_per_node=4 --master_port=$PORT\ train.py --model DD.原创 2021-07-13 19:31:57 · 8111 阅读 · 10 评论 -
反向传播、反向推导梯度更新
定义一个简单的网络:首先回顾前向过程,是这样的:Sigmoid激活:开始推导反向传播了:目标损失函数:在本例当中就是:我们以更新W4为例子来展开反向推导:梯度更新W4 :根据链式法则:...原创 2021-02-04 16:13:18 · 741 阅读 · 0 评论 -
pytorch多个显卡并行训练 RuntimeError: Caught RuntimeError in replica 0 on device 0.
今天复现并改动一份代码的时候,发生了该错误:RuntimeError: Caught RuntimeError in replica 0 on device 0.原代码可以再单卡上面正常运行。但因为自己的需要改成多GPU并行加载模型,然后就发生上述错误,并且还提示没有model.drop_path_prob这个属性!问题出现的原因可以看看这篇:https://blog.csdn.net/qq_30614451/article/details/106766551 简单来说:就是 网络模型的某个参..原创 2020-10-26 15:31:25 · 35670 阅读 · 12 评论 -
CNN经典网络整理-思维导图
整理了一下CNN网络的思维导图,包括LeNet、 AlexNet、 VGG、 NIN 、GoogLeNet 、ResNet 、DenseNet、很早前,好像是去年整理的,今天突然想分享一下。原创 2020-07-25 17:26:16 · 433 阅读 · 1 评论 -
pytorch中的CrossEntropyLoss的代码实现原理
pytorch中的CrossEntropyLoss的代码实现原理二分类:多分类多分类的情况实际上就是对二分类的扩展:pytorch官方文档给出的解释如下:自己用代码尝试实现(按照紫色框公式的逻辑实现):import torchimport torch.nn as nnimport math# ====...原创 2020-02-24 21:22:54 · 5654 阅读 · 0 评论 -
IOU的代码实现原理 举例说明
IOU就是交并比 图1有两个框,设:第一个框的两个关键点坐标:A(x1,y1) ; B(X1,Y1) ;第二个框的两个关键点坐标:C (x2,y2) ; D(X2,Y2) ;以大小写来区分左上角坐标和右下角坐标。...原创 2020-02-24 21:17:25 · 590 阅读 · 0 评论 -
准确率、精确率、召回率的概念,区别与辨析
更多=> https://www.cnblogs.com/Zhi-Z/p/8728168.html原创 2019-11-30 22:17:37 · 327 阅读 · 0 评论