神经网络理论及应用
文章平均质量分 72
深入了解神经网络、深度学习中的原理及算法
罗辑罗辑
养的胸中一种恬静
展开
-
GAN(生成对抗网络)Matlab代码详解
这篇博客主要是对GAN网络的代码进行一个详细的讲解:首先是预定义:clear; clc; %%%clc是清除当前command区域的命令,表示清空,看着舒服些 。而clear用于清空环境变量。两者是不同的。%%%装载数据集train_x=load('Normalization_wbc.txt');%train_x就是我们希望GAN网络能够生成与其相似的数据。[m,n]=size(train_x);%m表示train_x有多少行,n表示有多少列。%%%定义模型generator=n原创 2022-04-02 12:24:19 · 11763 阅读 · 56 评论 -
Generative Adversarial Networks 生成对抗网络 Matlab实现与讲解
GAN是一种特殊类型的多层前馈神经网络。整体上看,它就是一个多层前馈神经网络;分开来看,其包含生成器(Generator)与判别器(Discriminator)两个网络(多层前馈神经网络)。GAN属于生成模型,它的主要作用就是生成与训练数据相似的数据。GAN的核心思想:GAN之所以能够生成与训练数据相似的数据,是因为有生成器,生成器就是负责生成样本的。而判别器是负责判定生成器生成的数据质量高低与否的,以此来提高生成器的质量。下面将从生成器与判别器两部分进行一个简单的原理介绍。生成器:首先,生成器是一原创 2022-04-01 12:08:02 · 4999 阅读 · 44 评论 -
机器学习第5章(神经网络)
神经网络(neural network)5.1 神经元模型The definition of neural network:神经网络是由具有适应性的简单单元组成的广泛并行互联的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。神经网络最基本的组成是neuron(神经元)模型,其最初是模拟的生物神经元。当其连接的其他神经元向其传递的化学物质达到一个阈值的时候,它会激活并兴奋,向其他连接的神经元发送...原创 2020-09-25 12:57:51 · 608 阅读 · 0 评论 -
论文A LOGICAL CALCULUS OF THE IDEAS IMMANENT IN NERVOUS ACTIVITY的学习
Abstract:Because of the “all-or-none” character of nervous activity, neural events and the relations among them can be treated by means of propositional logic. It is found that the behavior of every net can be described in these terms, with the addition原创 2020-09-09 02:16:19 · 1256 阅读 · 0 评论 -
感知机
用Matlab实现的阈值逻辑单元,可进行与、或、非、异或运算。代码如下:与门function [outputArg1,outputArg2] = test0930(inputArg1,inputArg2)%TEST0930 此处显示有关此函数的摘要% 此处显示详细说明% 实现一个感知机%逻辑电路中的与门% 逻辑电路的输入只有[0,0][0,1][1,0][1,1]四个选项,...原创 2019-10-08 12:08:17 · 182 阅读 · 0 评论 -
正则自编码器之收缩自编码器(Contractive Autoencoders)
衡量一个自编码器模型的效果可以从两个标准入手:1.模型是否可以很好的重建输入信号;2.模型对输入数据在一定程度下的扰动是否具有不变性。为了使自编码器在标准2下具有更好的效果,Rifai等人提出了收缩自编码器,其主要目的是为了抑制训练样本在所有方向上的扰动。为了实现这一目标,Rifai等人提出在传统自编码器的目标函数上增加一个惩罚项来达到局部空间收缩的效果。该惩罚项是关于输入的隐藏层表达的Jac...原创 2019-09-11 16:25:52 · 3782 阅读 · 0 评论 -
正则自编码器之去噪自编码器
图1.自编码器的一般结构传统自编码器通过最小化如下目标: (公式1)公式1中L是一个损失函数,惩罚g(f(x))与x的差异,如它们彼此差异的L2范数。若自编码器容量过大,则其将学到一个毫无意义的恒等式。去噪自编码器的定义:去噪自编码器是一类接受损坏数据作为输入,并训练来预测原始...原创 2019-09-10 23:55:52 · 3341 阅读 · 0 评论 -
正则自编码器之稀疏自编码器
编码维数小于输入维数的欠完备自编码器可以学习数据分布最显著的特征,但如果这类自编码器的容量过大,将会专注于复制任务进而学习不到任何有益信息。如果隐藏编码的维数与输入相等或者大于输入的过完备自编码器同样会发生类似的问题,在这种情况下,线性的编码器与解码器也可以学会输入数据的复制,进而学习不到任何有益特征。理想情况下,根据要建模的数据分布的复杂性,选择合适的编码维数与编码器、解码器容量,可以成...原创 2019-09-10 18:49:21 · 3427 阅读 · 0 评论 -
欠完备自编码器
将输入复制到输出的自编码器没有任何实际用途,生活实际中人们并不关注自编码器的输出如何,人们大多关注如何通过训练自编码器,从而使h从训练数据中获取有益的特征。图1.自编码器的一般结构显而易见,要想使自编码器学得训练数据的有益特征,只需要限制h的维度比x小,这将会强制自编码器捕捉训练数据中的最显著特征。这种编码维度低于输入维度的自编码器,称为欠完备自编码器。欠完备自编码器的训练目标是最...原创 2019-09-10 12:07:12 · 875 阅读 · 0 评论 -
关于自编码器
自编码器(autoencoder)是神经网络的一种,经过训练后能够尝试将输入复制到输出。自编码器包括两部分:①编码器②解码器。设给定训练数据集X={X1,X2,X3...},其中表示训练数据的第i个样本,设训练集X的维度为d,则自编码器的编码过程与解码过程可以描述为:编码过程:;解码过程:;如果一个自编码器只是简单的学会,则该自编码器没有实际用途。因此,自编码器的学习不应该是简单的...原创 2019-09-09 18:19:44 · 887 阅读 · 0 评论