2020年05月_fond_dependent

原创 Pytorch下如何使用Tensorboard

引言如何使用TensorboardTensorboard添加scalarTensorboard添加graphTensorboard的一些坑

2020-05-19 23:13:12 348

引言神经网络的调参十分重要，很多人都说深度学习是一个黑箱模型，有人戏称深度学习为“炼丹”。但是深度学习归根结底是一个数学优化的过程，超参数对于模型的效果影响很大。网上文章也有很多，比如梯度爆炸应该怎么办，学习率怎么调整，选什么样的优化器等等。下面我就说一下自己的一些心得以及借鉴的别人的一些想法。学习率的调整为了训练神经网络，其中一个需要设置的关键超参数是学习率。提醒一下，为了最小化此网络的损失函数，这个参数缩放了权重更新的幅度。如果你把学习率设置太低，训练会进展的很慢：因为你在网络的权重上只做了很少的

2020-05-18 20:20:02 6744 2

原创深度学习写代码时的一些好习惯，如何高效的炼丹

引言当我们开始着手一个工程或者一个项目时，总是很着急的想去开始写代码，但是我们做工程需要有一个良好的习惯，这样不仅写代码顺利，心情也会跟着变得好起来。所以我们应该养成一个良好的写代码的习惯，下面说一下通过我自己的经历和查阅资料所得到的经验。1. 形成良好的工程化习惯1.1自己要习惯生成一个参数配置文件我一开始也是将所有的超参数还有网络的设计配置，激活函数的选择等等。我们可以单独弄一个文件config.py,这样我们每次更改超参数只是需要更改设置文件就可以了，不需要进入工程里繁琐的修改，这是我的一个c

2020-05-18 16:58:23 714

原创【Leetcode】两数之和 two sum （哈希表）

题目给定一个整数数组 nums 和一个目标值 target，请你在该数组中找出和为目标值的那两个整数，并返回他们的数组下标。你可以假设每种输入只会对应一个答案。但是，数组中同一个元素不能使用两遍。题解解法一这个问题其实很简单，两个循环遍历就可以解决这个问题，即暴力解决。class Solution {public: vector<int>twoSum(vector<int>& nums, int target) { int len=

2020-05-17 07:30:22 174

原创【频域深度学习】Learning in the Frequency Domain

引言我们应该都学习过信号与系统，知道信号可以分为时域、空间域以及频域等等。显然一般的深度学习方法，以图像为例，模型的输入为图像本身，属于空间域信息，那么我们是否可以利用频域信息来进行图像处理呢？转换为频域最常见的是通过傅里叶变换从时域或者空间域转换到频域。傅里叶变换将信号信息转换成每个成分频率上的幅度和相位。第一篇用CNN在频域（DCT系数）而不是空域（RGB）上直接学习的文章是On using CNN with DCT based Image Data，这篇文章在图像分类任务上做的实验，包括MNIS

2020-05-14 16:37:54 9068 6

原创【文本图像超分辨】Scene Text Image Super-Resolution in the Wild

引言这是一篇最新发出来的论文，看样子要投NIPS2020，这个论文可以看作我以前介绍过的TextSR的升级版，两个作者都是同一个人。这篇论文的主要想法就是提出一个专门用来进行文本超分辨的数据集，并且提出了一个专门用来进行文本超分辨的网络。Scene Text Image Super-Resolution in the Wild摘要分辨率的文本图像通常出现在自然场景中，如手机捕获的文档。识别低分辨率文本图像具有挑战性，因为它们丢失了详细的内容信息，导致识别精度差。一个直观的解决方案是引入超分辨率（SR

2020-05-12 22:53:23 11429 42

一个nlp探险者的博客

原创 Pytorch下如何使用Tensorboard

原创神经网络如何调参，自己的一些心得和实战经验

原创深度学习写代码时的一些好习惯，如何高效的炼丹

原创【Leetcode】两数之和 two sum （哈希表）

原创【频域深度学习】Learning in the Frequency Domain

原创【文本图像超分辨】Scene Text Image Super-Resolution in the Wild

原创 Pytorch的坑之 RuntimeError: reduce failed to synchronize: device-side assert triggered

原创【数据增广】AutoAugment: Learning Augmentation Policies from Data

原创【数据增广】Adversarial Learning of General Transformations for Data Augmentation

空空如也

空空如也