【神经网络】综合篇——人工神经网络、卷积神经网络、循环神经网络、生成对抗网络

前言

本文综合整理常用的神经网络,包括生物神经网络、人工神经网络、卷积神经网络、循环神经网络、生成对抗网络;参考了许多高校的课程、论文、博客和视频等。文章的结构是先进行概念了解,然后结合图片、结构图、一步一步详细讲解;大家要不看看? ( •̀ ω •́ )y

 

一、人工神经网络

简介:人工神经网络 (Artificial Neural Network, ANN),由人工神经元构成的网络,模拟人类的大脑;它模拟生物过程以反映人脑某些特征的计算结构。

联系人工神经元模拟生物神经元人工神经网络模拟人类的大脑,模拟生物神经网络

特点:人工神经网络是一个并行、分布处理结构,具有学习能力、泛化能力。

功能:联想记忆功能、非线性映射功能、分类与识别功能、知识处理功能。

详细介绍一篇文章“简单”认识《人工神经网络》(更新版)

目录大纲

  • 1 前言
  • 2 人类大脑
  • 3 生物神经网络
  • 4 生物神经元
  • 5 人工神经元
  • 6 人工神经网络
    • 6.1 单层神经网络
    • 6.2 多层神经网络
    • 6.3 前向传播
    • 6.4 损失函数
    • 6.5 梯度下降方法
    • 6.6 反向传播算法
  • 7 特点
  • 8 功能
  • 9 小结
  • 参考

单层神经网络,如下所示图: ( •̀ ω •́ )y

 

二、卷积神经网络

简介

卷积神经网络(Convolutional Neural Network, CNN),通过卷积层池化层的叠加实现对输入数据的特征提取,最后连接全连接层实现分类。对于图像处理有出色表现,在计算机视觉中得到了广泛的应用。

联系

动物视觉系统对外界的感知是:

  1. 视觉皮层的每个神经元只响应某些特定区域的刺激(感受野)
  2. 从局部到全局(信息分层处理机制)

卷积神经网络

  1. 每个神经元只需对 局部图像 进行感知;
  2. 在更高层将局部的信息综合起来,得到全局信息;

结构:主要由 卷积层+池化层+全连接层 组成的。

应用:图像分类、目标检测、目标跟踪、语义分割、实例分割等。

详细介绍一篇文章“简单”认识《卷积神经网络》(更新版)

目录大纲

  • 1 前言
  • 2 基于什么提出卷积神经网络?
  • 3 卷积(Convolution)
  •     3.1 卷积操作
  •     3.2 多层卷积层
  • 4 池化(Pooling)
  • 5 全连接层
  • 6 特征维度变化
  • 7 CNN核心思想——参数共享
  • 8 优势
  • 9 经典的卷积神经网络
  • 10 卷积神经网络应用
  • 参考

基本卷积神经网络,如下所示图: ( •̀ ω •́ )y

 

三、循环神经网络

简介循环神经网络(Recurrent Neural Networks,RNN),是一种反馈网络,模拟“人脑记忆功能”,常用于语言识别、机器翻译、视频分析、生成图像描述等。

背景:人工神经网络、卷积神经网络是前馈网络;前馈神经网络是一个静态网络,信息的传递是单向的,网络的输出只依赖于当前的输入,不具备记忆能力。前馈神经网络处理的数据是一个一个输入的,前后数据没有关系的。实际生活中,很多数据都是有上下文相关性的,这些数据称为序列数据;处理的时候,不能只考虑当前的输入就进行判断,需要考虑前后之间关系。

这时需要使用“循环神经网络”,它能有效处理序列特性的数据,它能挖掘数据中的时序信息以及语义信息

结构:循环神经网络由循环体堆叠而成;

详细介绍:一篇文章“简单”认识《循环神经网络》(更新版)

应用:主要在自然语言处理方向应用;

  • 文档分类和时间序列分析(识别文章的主题)
  • 时间序列对比  (比较两个文档的相关程度)
  • 序列到序列的学习(中文翻译为英文)
  • 情感分析    (推文或电影评论的情感划分为正面或负面)
  • 世间序列预测  (根据最近的天气数据来预测未来天气)

目录大纲

  • 1 前言
  • 2 循环体
  • 3 循环神经网络
  • 4 LSTM网络
  • 5 循环神经网络应用
  • 参考

循环体及其按时间展开后的效果: ( •̀ ω •́ )y

 

四、生成对抗网络

简介生成对抗网络(GAN,generative adversarial network),是一种常用于学习类别特征的神经网络结构;主要有两部分组成,分别是生成网络、判别网络。

背景:在监督学习中,训练集需要大量的人工标注数据,并且需要人工判断生成结构好坏,这个过程是高成本且低效率的;GAN能自动完成这个过程,效率高成本低。

详细介绍:一篇文章“简单”认识《生成对抗网络》(GAN)

应用:GAN 的应用十分广泛,它的应用包括图像合成、图像编辑、风格迁移、图像超分辨率以及图像转换,数据增强等。

目录大纲

  • 1 前言
  • 2 生成对抗网络应用
  •    2.1 风格迁移
  •    2.2 图像生成
  •    2.3 音乐创作
  • 3 生成学习算法
  • 4 生成对抗网络
  •    4.1 GAN的简要实现流程
  •    4.2 GAN算法实现要点
  • 5 MNIST 案例
  • 6 GAN优点
  • 7 GAN缺点
  • 8 文献学习
  • 1. Generative Adversarial Networks
    2. Conditional GANs
    3. DCGAN
    4. Improved Techniques for Training GANs
    5. Pix2Pix
    6. CycleGAN
    7. Progressively Growing of GANs
    8. BigGAN
    9.NAS

生成对抗网络GAN原理图,如下图所示:( •̀ ω •́ )y

 

大家加油呀~~ ( •̀ ω •́ )✧

 

 

一颗小树x CSDN认证博客专家 华为云首席贡献官 华为云-云享专家 研发工程师
自动驾驶方向,华为云-云享专家,华为云-云创 首席贡献官,CSDN博客专家,华为认证AI工程师,华为云产品”四星级“体验官;GitChat认证作者。
已标记关键词 清除标记
DirectX修复工具(DirectX Repair)是一款系统级工具软件,简便易用。本程序为绿色版,无需安装,可直接运行。 本程序的主要功能是检测当前系统的DirectX状态,如果发现异常则进行修复。程序主要针对0xc000007b问题设计,可以完美修复该问题。本程序中包含了最新版的DirectX redist(Jun2010),并且全部DX文件都有Microsoft的数字签名,安全放心。 本程序为了应对一般电脑用户的使用,采用了易用的一键式设计,只要点击主界面上的“检测并修复”按钮,程序就会自动完成校验、检测、下载、修复以及注册的全部功能,无需用户的介入,大大降低了使用难度。在常规修复过程中,程序还会自动检测DirectX加速状态,在异常时给予用户相应提示。 本程序适用于多个操作系统,如Windows XP(需先安装.NET 2.0,详情请参阅“致Windows XP用户.txt”文件)、Windows Vista、Windows 7、Windows 8、Windows 8.1、Windows 8.1 Update、Windows 10,同时兼容32位操作系统和64位操作系统。本程序会根据系统的不同,自动调整任务模式,无需用户进行设置。 本程序的V4.0版分为标准版、增强版以及在线修复版。所有版本都支持修复DirectX的功能,而增强版则额外支持修复c++的功能。在线修复版功能与标准版相同,但其所需的数据包需要在修复时自动下载。各个版本之间,主程序完全相同,只是其配套使用的数据包不同。因此,标准版和在线修复版可以通过补全扩展包的形式成为增强版。本程序自V3.5版起,自带扩展功能。只要在主界面的“工具”菜单下打开“选项”对话框,找到“扩展”标签,点击其中的“开始扩展”按钮即可。扩展过程需要Internet连接,扩展成功后新的数据包可自动生效。扩展用时根据网络速度不同而不同,最快仅需数秒,最慢需要数分钟,烦请耐心等待。如扩展失败,可点击“扩展”界面左上角小锁图标切换为加密连接,即可很大程度上避免因防火墙或其他原因导致的连接失败。 本程序自V2.0版起采用全新的底层程序架构,使用了异步多线程编程技术,使得检测、下载、修复单独进行,互不干扰,快速如飞。新程序更改了自我校验方式,因此使用新版本的程序时不会再出现自我校验失败的错误;但并非取消自我校验,因此程序安全性与之前版本相同,并未降低。 程序有更新系统c++功能。由于绝大多数软件运行时需要c++的支持,并且c++的异常也会导致0xc000007b错误,因此程序在检测修复的同时,也会根据需要更新系统中的c++组件。自V3.2版本开始使用了全新的c++扩展包,可以大幅提高工业软件修复成功的概率。修复c++的功能仅限于增强版,标准版及在线修复版在系统c++异常时(非丢失时)会提示用户使用增强版进行修复。除常规修复外,新版程序还支持C++强力修复功能。当常规修复无效时,可以到本程序的选项界面内开启强力修复功能,可大幅提高修复成功率。请注意,请仅在常规修复无效时再使用此功能。 程序有两种窗口样式。正常模式即默认样式,适合绝大多数用户使用。另有一种简约模式,此时窗口将只显示最基本的内容,修复会自动进行,修复完成10秒钟后会自动退出。该窗口样式可以使修复工作变得更加简单快速,同时方便其他软件、游戏将本程序内嵌,即可进行无需人工参与的快速修复。开启简约模式的方法是:打开程序所在目录下的“Settings.ini”文件(如果没有可以自己创建),将其中的“FormStyle”一项的值改为“Simple”并保存即可。 新版程序支持命令行运行模式。在命令行中调用本程序,可以在路径后直接添加命令进行相应的设置。常见的命令有7类,分别是设置语言的命令、设置窗口模式的命令,设置安全级别的命令、开启强力修复的命令、设置c++修复模式的命令、控制Direct加速的命令、显示版权信息的命令。具体命令名称可以通过“/help”或“/?”进行查询。 程序有高级筛选功能,开启该功能后用户可以自主选择要修复的文件,避免了其他不必要的修复工作。同时,也支持通过文件进行辅助筛选,只要在程序目录下建立“Filter.dat”文件,其中的每一行写一个需要修复文件的序号即可。该功能仅针对高级用户使用,并且必须在正常窗口模式下才有效(简约模式时无效)。 本程序有自动记录日志功能,可以记录每一次检测修复结果,方便在出现问题时,及时分析和查找原因,以便找到解决办法。 程序的“选项”对话框中包含了7项高级功能。点击"常规”选项卡可以调整程序的基本运行情况,包括日志记录、安全级别控制、调试模式开启等。只有开启调试模式后才能在C
相关推荐
©️2020 CSDN 皮肤主题: 成长之路 设计师:Amelia_0503 返回首页
实付 29.90元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值