![](https://img-blog.csdnimg.cn/20201014180756919.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
日经
日常开发所遇问题碎碎念
Quanmator
这个作者很懒,什么都没留下…
展开
-
RuntimeError: cuDNN error: CUDNN_STATUS_NOT_INITIALIZED问题
一些的占用显存的进程或者改小batch_size。原创 2023-05-03 19:22:31 · 165 阅读 · 0 评论 -
深度学习中的权重初始化与BatchNorm问题
BN是一种改变输出值分布的标准化操作,减小输出层分布的偏向性,可以有效的缓解梯度消失问题。输出值经过激活函数后,导数值接近于0,反向传播,引起梯度消失问题。因此需要合理的权重初始化方式:主要有Xavier、He两种。因此需要合理的权重初始化方式:主要有Xavier、He两种。随机的权重初始化会导致输出层输出值偏向0或者1。输出层输出值分布【鱼书p178】原创 2023-05-02 15:41:34 · 137 阅读 · 0 评论 -
Pytorch训练集/测试集标准化问题
因此测试了以下四种情况。原创 2023-05-01 16:45:12 · 391 阅读 · 0 评论 -
Pytorch结合tensorboard展示图片问题
因此需要寻求一种方法,由于取batch的时候数据是已经经过标准化了的,所以无法从内部操作中反标准化。所以需要求解反归一化的式子,但是呢这些均值和方差都是小数,反求解后还能定义为他两是一样的图片吗。注释,但是注释之后是会影响准确率的,比如本来90的准确率会变成70。Q1:测试集使用了Imagenet推荐的标准化,导致图像不清楚。如果采用了这种标准化,显示的图片差异很大,因此在测试时需要将。原创 2023-05-01 16:34:53 · 252 阅读 · 0 评论 -
tensorboard多曲线叠加问题
指定log文件夹内的日志文件,当该文件夹内出现多个日志文件时,则会重叠显示。原创 2023-05-01 16:11:04 · 561 阅读 · 0 评论 -
Python字符串格式化问题
【代码】Python字符串格式化。原创 2023-05-01 14:25:03 · 69 阅读 · 0 评论 -
Pytorch划分数据集问题
训练集为10000张,其中划分了2000张给验证集,而我刚开始划分数据集的逻辑是将前百分之80的数据充当训练集,后百分之20的数据充当验证集,经过调试之后发现训练集中主要学习鸟(50%)+猫(30%)的图片,而验证集中都是猫(20%)的图片。但是理论上它应该能学习到这种性质吧。采用以下划分方式,很方便的随机打乱数据,最终训练集准确率0.91左右,验证集0.89左右,测试集0.86左右。在200个epoch训练过程中,训练集的准确率在0.9左右,而验证集的正确率维持在0.5左右。原创 2023-04-30 22:45:57 · 312 阅读 · 0 评论 -
Pytorch调用RNN/LSTM/GRU问题
当时以为batch_size必须是21的倍数,因为笔者的concat_nframe等于21。将其改为420后,仍报错。由于没有设置batch_first = True,而我输入的数据的第一个维度为batch,导致维度不匹配,固报错。检查发现批量大小可能比较大,导致内存溢出。将batch_size从1024 修改为 500。原创 2023-04-26 21:19:01 · 408 阅读 · 0 评论 -
ECS配置Mysql+PXC问题
之前在云服务器上部署过前后端项目,启动了mysql服务,而创建PXC结点也是需要启动mysql服务的,固两者冲突了,需要先将mysql服务关闭。创建node1第一个PXC节点后,用数据库客户端软件(navicat)尝试连接目标端口数据库或等几分钟挂着,连接成功则可以继续创建后续多节点。创建完node1之后又快速创建了node2结点,这是不对的,因为此时数据库信息还不一定同步完成。自己的流程和教程一致,唯一不同的是教程使用的是虚拟机,笔者使用的是ECS云服务器。ECS安全组策略开放目标映射端口即可。原创 2023-04-24 15:14:03 · 75 阅读 · 0 评论