神经网络学习笔记
文章平均质量分 90
Better Bench
CS博士;研究领域:类脑计算、连续学习、AI、数据挖掘、自然语言处理、数学建模,特长网球4.0
展开
-
Dropout和R-Dropout的使用技巧
1 引言在ML中存在两类严重的问题:过拟合和学习时间开销大当过拟合时,得到的模型会在训练集上有非常好的表现,但是对新数据 的预测结果会非常的不理想。为了解决过拟合问题,通常会采用训练过个模型来解决单模过拟合的问题。但又会带来时间开销大的问题。Dropout就很好的解决了这个问题,在单模内防止过拟合。对于时间开销大的地方是梯度下降,学习率衰减可以解决梯度下降中时间开销的问题。Dropout是在训练过程中,随机地忽略部分神经元,即是在正向传播的过程中,这些被忽略的神经元对下游神经元的贡献暂时消失,在反向传原创 2021-10-03 11:39:52 · 1364 阅读 · 1 评论 -
所有神经网络的特点及优缺点分析总结
目录1 单层感知器2 线性神经网络2.1 线性神经网络的改进--Madaline神经网络3 BP神经网络4 径向基函数网络4.1 两类径向基函数网络4.2 径向基网络与多层感知器的比较4.3 径向基函数的改进--概率神经网络4.4 径向基函数的改进--广义回归神经网络如果不明白所有神经网络都是如何分类且他们的概念的,参考本人的另一篇博客详解所有神经网络的关系和分类-附思维导图1 单层感知器(1)主要应用: 可以快速、可靠的解决线性可分的问题注意:单层感知器并不对所有二分类问题收敛,它只对线性可分原创 2020-11-03 17:58:48 · 32374 阅读 · 0 评论 -
Matlab Deep Network Designer APP搭建神经网络及相关函数讲解
1 APP的使用(1)打开方式一从Matlab工具栏APP处搜索Deep Network Designer点击打开,或者在命令行窗口输入命令:deepNetworkDesigner开启(2)新建神经网络结构拖动左侧的图标到中心工作区,然后点击连接图标(3)使用现成的神经网络举例使用alexnet,在窗口输入alexnet,提示没有安装的话,就点击红色中的附加资源管理器,点击安装就行。安装完成后,再次输入alexnet即可。然后再APP中点击导入,就会提示导入alexnet网络。(4)检查原创 2020-10-29 22:17:12 · 14105 阅读 · 9 评论 -
【文献学习】ComNet: Combination of Deep Learning andExpert Knowledge in OFDM Receiver
目录1 参考资料2 INTRODUCTION3 COMNETA ComNet ArchitectureB Training Specification4 NUMERICAL RESULTSA CE SubNetB SD SubNetC Performance Analysis5 疑问6 可深入研究或创新的点1 参考资料本笔记是结合博士哥哥的笔记和文献的思考【https://zhuyulab.blog.csdn.net/article/details/89359860】2 INTRODUCTION数据原创 2020-10-23 21:09:51 · 1879 阅读 · 5 评论 -
【文献学习】1 Power of Deep Learning for Channel Estimation and Signal Detection in OFDM
1 源码和简化版代码1.1 项目源码【https://github.com/haoyye/OFDM_DNN】1.2 简化版代码【https://github.com/TianLin0509/DNN_detection_via_keras】1.3 代码参考博士哥哥的文章【https://zhuanlan.zhihu.com/p/166159478】2 INTRODUCTION直接用全连接层构成的神经实现了传统的OFDM通信系统中的接收机。接收机部分包括信道估计和信号检测两个部分。将OFDM接收机视原创 2020-10-23 20:58:03 · 3292 阅读 · 1 评论 -
【文献学习】An Introduction to Deep Learning for the Physical Layer
目录1 简介1.1 主要贡献1.2 论文的大概内容2 I-A Potential of DL for the physical layer3 I-B Historical context and related work4 II DEEP LEARNING BASICS4.1 基础介绍4.2 A. Convolutional layers4.2 B. Deep learning libraries4.3 C. Network dimensions and training5 III EXAMPLES OF原创 2020-10-23 20:47:52 · 1618 阅读 · 1 评论 -
所有神经网络的关系和分类-附思维导图
本人没有找到相关的文献详细介绍各个网络的关系的,就自己总结了一下,如果有不对的地方,请指出。目录1 思维导图1 神经网络雏形--感知机2 前馈神经网络(feedforward neural network,FNN)2.1 单层前馈神经网2.1.1 径向基神经网络(Radial Basis Function,RBF)2.1.1.1 广义回归神经网络(General Regression Neural Network,GPNN)2.1.1.2 概率神经网络(Probabilistic Neural Netwo原创 2020-10-10 18:01:15 · 6495 阅读 · 3 评论 -
Matlab实现和使用神经网络的几种方式详细讲解--附代码可下载
目录一、引言二、神经网络的实现方式(一) DeepLearningToolbox(二)Deep Network Designer APP(三)Neural Net APP一、引言神经网络的实现在Matlab上已经来说相对比较完善了。被封装成了很多工具箱,可以直接的快速上手,去实现一个Demo。正是因为太完善,实现神经网络的方式有很多种。一一介绍都是怎么使用的。二、神经网络的实现方式(一) DeepLearningToolbox安装这个是安装Matlab的时候默认安装的工具箱。如果没有,在附加资原创 2020-10-08 21:06:27 · 45130 阅读 · 4 评论 -
Python Neural Networks for Beginners 学习笔记 on Youtube
本人在Youtube上学习的一门叫TensorFlow 2.0 Complete Course - Python Neural Networks for Beginners Tutorial的课程,在此做的笔记,还在学习每天都会逐渐完善。目录1. Tensorflow Introduciton1.1 TensorFlow 2.0 Introduction1. Tensorflow Introduciton1.1 TensorFlow 2.0 IntroductionTensorFlow inst原创 2020-10-08 18:28:23 · 255 阅读 · 0 评论 -
Matlab神经网络的几个工具箱nntool、nftool、nctool、ntstool与nprtool的区别与使用
用matlab去实现机器学习有很多方法,除了这几个工具箱,还有其他更多更细化的工具箱,以及自己的搭建的神经网络的方式去实现机器学习。这里主要讲解这几个工具箱的区别和使用,解决一些同学当初像我一样的疑惑。一、区别nntool神经网络工具箱的图形用户界面。nftool是神经网络拟合工具nctool是聚类工具ntstool是时间序列工具nprtool是模式识别工具他们就是总窗口与分窗口的区别二、使用1. 打开工具箱每个工具直接在MATLAB的command 窗口输入响应的工具箱名字即可。原创 2020-09-26 21:16:31 · 13014 阅读 · 4 评论 -
基于深度复数卷积网络(Deep Complex Convolutional Network ,DCCN)的OFDM接收机的设计和训练方法
目录一、简介二、复杂层(Complex Layers)三、基本的DCCN接收机第一部分第二部分第三部分损失函数设计四、DCCN 信道均衡器第一部分(第0-5层)第二部分(从第6层到第19层)第三部分(第20层)第四部分(最后4层)请注意五、两个阶段的训练第一阶段第二阶段六、基于DCNN的OFDM代码下载--Matlab参考文献:Deep-Waveform: A Learned OFDM Receiver Based on Deep Complex Convolutional Networks一、简介基原创 2020-08-14 11:06:22 · 5087 阅读 · 0 评论 -
[神经网络学习笔记]长短期记忆模型(Long-Short Term Memory,LSTM)综述
长短期记忆模型(Long-Short Term Memory,LSTM)参考学习博客学习其他模型链接[神经网络学习笔记]卷积神经网络CNN(Convolutional Neural Networks, CNN) 综述[神经网络学习笔记]递归神经网络,即循环神经网络(Recurrent Neural Network,RNN)综述一、引言RNN会受到短时记忆的影响。如果一条序列足够长,那它们将很难将信息从较早的时间步传送到后面的时间步。 因此,如果处理一段文本进行预测,RNN 可能从一开始原创 2020-07-21 11:51:01 · 5856 阅读 · 0 评论 -
[神经网络学习笔记]递归神经网络,即循环神经网络(Recurrent Neural Network,RNN)综述
[神经网络学习笔记]递归神经网络,即循环神经网络(Recurrent Neural Network,RNN)综述本人刚入门神经网络,学习了各个大佬们的博客,按照自己的学习思路整理出来的笔记,边学习边完善,供入门的同学学习,其中可能有错误的地方,望指出一、引言现实问题中存在着很多序列型的数据,例如文本、语音以及视频等。这些序列型的数据往往都是具有时序上的关联性的,既某一时刻网络的输出除了与当前时刻的输入相关之外,还与之前某一时刻或某几个时刻的输出相关。而前馈神经网络并不能处理好这种关联性,因为它没有原创 2020-07-21 11:19:16 · 1676 阅读 · 1 评论 -
[神经网络学习笔记]卷积神经网络CNN(Convolutional Neural Networks, CNN) 综述
本人刚入门神经网络,边学习边总结,参考了很多大佬的博客和论文,整理出的自己思路的笔记,供入门的同学一起参考。其中可能有理解错误的地方,望指出参考主要文献和博客 通俗讲解什么叫卷积、池化 参考资料 -卷积神经网络研究综述-周飞燕 一、常用的深度学习模型有深度置信网络(Deep Belief Network DBN)层叠自动去噪编码机(Stacked Deoising Autoencodes,SDA)卷积神经网络(Convolutional Neural Network,CNN)二、神经元原创 2020-07-21 10:17:10 · 5889 阅读 · 1 评论