深度学习
IMU_YY
这个作者很懒,什么都没留下…
展开
-
【神经网络和深度学习】吴恩达(Andrew Ng)- 第一课第二周课程编程作业
考完试了,总算有时间开始接触深度学习这块内容,最近听完了吴恩达老师在网易云课堂的第一、二周的课程,及时在此做出总结。(PS:第一周是概念性的东西,不理解的话多次回看就好了,总结从第二周的课程开始)一、综述 首先,这篇博客是学完第二周的课程之后的总结,是以第二周的编程作业的逻辑顺序来写的,并非课程辅助教程之类的文章,内容可能与课程内容顺序不符,希望本着课程辅导教程的读者谅解。 因此本片...原创 2019-01-17 11:03:47 · 507 阅读 · 0 评论 -
RuntimeError: CUDA error: initialization error
问题描述:使用PyTorch的DataLoader,讲num_workers改为非零数字后, 运行程序报错RuntimeError: CUDA error: initialization error解决方法:不可在DataLoader或DataSet内将任何数据放到CUDA上,而是等到程序运行出DataLoader之后(也就是到了train里的时候)将数据放到CUDA上。原因猜测: D...原创 2019-05-31 16:23:30 · 15483 阅读 · 12 评论 -
torch.sigmoid、torch.nn.Sigmoid和torch.nn.functional.sigmoid的区别
review代码的时候发现我使用的是torch.sigmoid,pycharm标黄cannot find reference 'sigmoid' in '__init__.py'于是产生了这样的疑问,这三者的区别是啥。0x00. 官网解释torch.sigmoid 我们可以看到,这是一个方法,拥有Parametrs和Returns。torch.nn.Sigmoid 可以...原创 2019-05-21 17:50:35 · 21182 阅读 · 2 评论 -
对于深度学习中训练集、验证集和测试集的理解
今天整理之前的实验,准备把之前未完整跑完的实验做完整时候发现了之前对于训练集、验证集和测试集的一些理解的错误之处。0x00. 错误的理解 之前的实验是语音增强,即降噪。以下是实验的数据。其中small cv是由于实验中频繁使用验证集而2000句话的验证集每次运行时间太长,我自己抽离出来的验证集,问题就出在这里… small cv是从tt中抽取的,也就是说我自己做的小验证集是从测试集...原创 2019-05-20 17:20:38 · 13492 阅读 · 3 评论 -
利用纯净语音和噪声合成不同信噪比的训练数据
如题,这应该算是我前往语音这座大山的第一步,在此做出记录。一、工作背景 由于需要进行单通道降噪的实验,但是现在只有纯净语音和噪声数据,而在阅读文章的过程中,大家并没有将这个细小的内容写道论文中(的确也不应该,做出来之后确实感觉蛮简单的),所以只能自己通过纯净语音和噪声合成自己需要的数据。二、数据生成 需要复现的实验是基于单通道的语音增强,同时根据张晖老师博士学位论文,在合成数据时使...原创 2019-03-08 14:18:49 · 13297 阅读 · 51 评论 -
Pytorch实现MNIST(附SGD、Adam、AdaBound不同优化器下的训练比较)
学习工具最快的方法就是在使用的过程中学习,也就是在工作中(解决实际问题中)学习。文章结尾处附完整代码。一、数据准备 在Pytorch中提供了MNIST的数据,因此我们只需要使用Pytorch提供的数据即可。from torchvision import datasets, transforms# batch_size 是指每次送入网络进行训练的数据量batch_size = 64...原创 2019-03-04 22:03:24 · 5070 阅读 · 3 评论 -
win10下pytorch 安装以及查看版本
pytorch的安装pytorch官网安装步骤查看pytorch版本import torchprint(torch.__version__)注:__version__的下划线是两个下划线出现的一个小问题在输入相关命令查看pytorch版本时,出现以下报错信息:RuntimeError: module compiled against API version 0xc b...原创 2019-02-22 14:36:25 · 7607 阅读 · 0 评论 -
【神经网络和深度学习】吴恩达(Andrew Ng)- 第一课第四周课程内容总结
在【神经网络和深度学习】第四周的课程中,感觉有些内容比较容易忘记但是及其重要,于是由这篇文章来记录相关内容。一、深层神经网络1.1 何为深层神经网络 拥有大于两层隐藏层的神经网络。(根据PPT得出的结论)1.2 深层神经网络符号规约 如图,x1,x2,x3x_1, x_2, x_3x1,x2,x3为输入的特征值,可以称为第0层或输入层。从输入层向右依次是第1层、第2层...原创 2019-02-21 20:28:48 · 267 阅读 · 0 评论 -
【神经网络和深度学习】吴恩达(Andrew Ng)- 第一课第三周课程编程作业
一、综述 本文根据吴恩达老师第三周的深度学习课程的课后编程作业来写的,其中涉及到的test_cases.py和planar_utils.py在此处下载。二、准备工作2.1 分析问题 我们要做的是:建立一个包含一个隐藏层,一个输出层的神经网络。该神经网的功能与第二周的Logistic Regression回归处理的问题是相似的,都是分类问题。但是,此次的数据集根据单纯的Logistic...原创 2019-01-20 14:48:37 · 661 阅读 · 0 评论 -
基于深度学习的单通道语音增强实现(一)
其实这个系列是我的毕业设计,很早就准备写了,一直拖延症比较严重,终于在今天有机会总结总结了。首先描述一下要做的工作。一、工作描述 用于语音增强的基于纯DNN的mask预测。(其实纯DNN的效果确实不是特别好,当初看到了最简单的一篇文章就直接用他的结构做了。二、环境描述 深度学习框架:PyTorch 数据集:上传百度网盘中…(其实就是TIMIT和NOISE-92的噪声混合的数据...原创 2019-05-28 22:25:27 · 6507 阅读 · 34 评论