自定义博客皮肤

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

警惕!损失Loss为Nan或者超级大的原因

转自:https://oldpan.me/archives/careful-train-loss-nan-inf 前言 训练或者预测过程中经常会遇到训练损失值或者验证损失值不正常、无穷大、或者直接nan的情况: 遇到这样的现象,通常有以下几个原因导致: 梯度爆炸造成Loss爆炸 原因...

2019-07-28 17:28:42

阅读数 271

评论数 0

tensorflow训练时内存持续增加并占满

记录一次小白的tensorflow学习过程,也为有同样困扰的小白留下点经验。 先说我出错和解决的过程。在做风格迁移实验时,使用预加载权重的VGG19网络正向提取中间层结果,结果因为代码不当,在遍历图片提取时内存持续增长,导致提取几十个图片的特征内存就满了。 原因是在对每一张图片正向传播结束后,...

2019-07-26 21:48:24

阅读数 29

评论数 0

干货|TensorFlow数据量少的时候却占GPU显存比较多

转自:https://cloud.tencent.com/developer/article/1365920 问题背景: 最近在做一个文本多分类的项目,来源于实际的需求场景。具体的情况不多说,但是有一点需要说明的是,场景有多个,每个场景下都有自己的数据,这些数据都是短文本数据。不同的是每个场景...

2019-07-26 21:45:39

阅读数 14

评论数 0

如何手动释放Python的内存

出处:http://blog.csdn.net/nirendao/article/details/44426201/ 在上篇博客中,提到了对一个脚本进行的多次优化。当时以为已经优化得差不多了,但是当测试人员测试时,我才发现,踩到了Python的一个大坑。 在上文的优化中,对每500个用...

2019-07-26 21:41:42

阅读数 53

评论数 0

python内存不释放

转载地址:https://blog.csdn.net/shaququ/article/details/52100434 在maillist里面看到无数次的有人问,python速度为什么这么慢,python内存管理很差。实话说,我前面已经说过了。如果你在意内存/CPU,不要用python,改用C吧...

2019-07-26 21:26:59

阅读数 31

评论数 0

tensorflow 任意 batch size 不溢出显存( OOM ),使用 darknet 的 sub batch 方法

这方法很久之前就想弄了,网上( 百度 )除了 darknet 之外,没人弄这东西,无奈那时对 tf 的 Optimizer 和 梯度计算 理解很浅,没法弄,不久前看了个 tensorflow 的 eager run 的例子才弄懂 tf 的梯度计算方式。 原理很简单,例如一个 batch 的 si...

2019-07-25 01:48:12

阅读数 29

评论数 0

Tensorflow内存溢出问题

本文总结了Tensorflow内存溢出的各种原因,以及在此排查过程中使用的方法。 本文在实现Tensorflow模型的保存(save)和重新调用(restore)过程中,程序总是发生内存溢出而中止的问题,所以对其进行故障排查。 排查工具及步骤 1. Tensorboard Tensorboa...

2019-07-25 01:41:37

阅读数 52

评论数 0

tensorflow引起的内存泄露

计算机配置内存12G,显存4G,运行有10分钟左右就提醒说内存不够用然后退出运行,直觉是程序bug问题 终于找到靠谱解决方案:http://cherishlc.iteye.com/blog/2324796 这个博客的第二个给了大致的讲解,在给出的附录中:https://stackoverflow....

2019-07-24 16:23:38

阅读数 27

评论数 0

Pycharm远程运行/调试程序,报错:缺少运行时库【ImportError: libcublas.so.9.0 解决方法】

现象说明 本地开发环境Mac Pycharm, 远程服务器CentOS tensorflow/cuDNN/CUDA,现象: ImportError: libcublas.so.9.0: cannot open shared object file 关于配置Pycharm远程开发环境 ...

2019-07-23 14:36:28

阅读数 11

评论数 0

Pycharm 远程连接服务器无法显示matplotlib图像的问题

问题及环境描述 服务器:Ubuntu 16.04 本机:MacOS Pycharm版本:Professional 2017.02 问题:pycharm远程调试服务器代码,matplotlib图像无法显示。报错内容为: _tkinter.TclError: no display name and n...

2019-07-22 17:43:51

阅读数 36

评论数 0

干货!自然语言处理中的自注意力机制!

转自:https://www.sohu.com/a/226543293_642762 近年来,注意力(Attention)机制被广泛应用到基于深度学习的自然语言处理(NLP)各个任务中,之前我对早期注意力机制进行过一些学习总结(可见http://www.cnblogs.com/robert-dl...

2019-07-17 00:49:39

阅读数 39

评论数 0

tensorflow改写为pytorch的方法总结

替换方法: 1. matrix = tf.get_variable("Matrix", [output_size, input_size], dtype=input_.dtype) = matrix = Variable(torch.randn(output_size, i...

2019-07-17 00:21:58

阅读数 207

评论数 0

GAN+文本生成:让文本以假乱真

https://blog.csdn.net/ycy0706/article/details/80425091

2019-07-10 21:28:32

阅读数 56

评论数 0

tensorflow中control_flow_ops.while_loop

转自:https://blog.csdn.net/appleml/article/details/89643841 self.h0 = tf.zeros([self.batch_size, self.hidden_dim]) self.h0 = tf.stack([self.h0, self....

2019-07-02 19:16:30

阅读数 29

评论数 0

返回最大值的index pytorch

返回最大值的index import torch a=torch.tensor([[.1,.2,.3], [1.1,1.2,1.3], [2.1,2.2,2.3], [3.1,3.2,3.3]]...

2019-07-01 20:58:34

阅读数 529

评论数 0

tensorflow中control_flow_ops.while_loop

self.h0 = tf.zeros([self.batch_size, self.hidden_dim]) self.h0 = tf.stack([self.h0, self.h0]) ## 相当于 h0和C0 # generator on initial randomness gen...

2019-06-26 21:49:51

阅读数 37

评论数 0

在anaconda下创建虚拟环境python

1创建环境,此时我需要装一个2.7的python conda create -n 'fuck' python=2.7 2.激活2.7的虚拟环境: source activate fuck 3.查看当前环境conda info -e

2019-06-24 16:42:26

阅读数 33

评论数 0

自动转python2到3的工具2to3.py使用

查到的资料:https://www.cnblogs.com/jiangzhaowei/p/8206191.html 这里介绍一个python3自带的脚本2to3.py,可以将python2的程序自动转为python3的形式,节省了很多修改细节的时间。这个脚本在Python安装目录下Toolssc...

2019-06-24 16:19:40

阅读数 130

评论数 0

远程服务器时出现bash: line 0: cd: F:/LeakGAN-master/Image COCO: No such file or directory

今天遇到这个问题:bash: line 0: cd: F:/LeakGAN-master/Image COCO: No such file or directory 我明明已经对照配置过程走了一遍,但发现代码用的是本地的路径(F:/LeakGAN-master/Image COCO:),而不...

2019-06-24 15:21:21

阅读数 138

评论数 0

GAN大盘点,聊聊这些年的生成对抗网络 : LSGAN, WGAN, CGAN, infoGAN, EBGAN, BEGAN, VAE

转自:http://nooverfit.com/wp/%E7%8B%AC%E5%AE%B6%EF%BD%9Cgan%E5%A4%A7%E7%9B%98%E7%82%B9%EF%BC%8C%E8%81%8A%E8%81%8A%E8%BF%99%E4%BA%9B%E5%B9%B4%E7%9A%84%E...

2019-06-23 19:04:50

阅读数 18

评论数 0

提示
确定要删除当前文章?
取消 删除