深度神经网络简单介绍,神经网络设计与实现

本文介绍了深度学习的基础概念,包括神经网络的结构和深度卷积神经网络(CNN)的工作原理。讨论了深度学习如何通过多层抽象解决复杂问题,并提到了CNN在减少参数数量方面的优势。此外,文章还探讨了训练深度神经网络的方法,如反向传播,以及LSTM、ResNet等新型网络结构。最后,提到了解决梯度消失和过拟合问题的策略,如ReLU激活函数、Dropout和BN。
摘要由CSDN通过智能技术生成

1、神经网络(深度学习)的几个基础概念

从广义上说深度学习的网络结构也是多层神经网络的一种。传统意义上的多层神经网络是只有输入层、隐藏层、输出层。其中隐藏层的层数根据需要而定,没有明确的理论推导来说明到底多少层合适。而深度学习中最著名的卷积神经网络CNN,在原来多层神经网络的基础上,加入了特征学习部分,这部分是模仿人脑对信号处理上的分级的。具体操作就是在原来的全连接的层前面加入了部分连接的卷积层与降维层,而且加入的是一个层级。输入层 - 卷积层 -降维层 -卷积层 - 降维层 -- .... -- 隐藏层 -输出层简单来说,原来多层神经网络做的步骤是:特征映射到值。特征是人工挑选。深度学习做的步骤是 信号->特征->值。 特征是由网络自己选择。

谷歌人工智能写作项目:小发猫

2、深度神经网络是如何训练的?

Coursera的Ng机器学习,UFLDL都看过参考:一个技术宅的学习笔记。没记错的话Ng的机器学习里是直接给出公式了,虽然你可能知道如何求解,但是即使不知道完成作业也不是问题,只要照着公式写就行。反正我当时看的时候心里并没能比较清楚的明白。我觉得想了解深度学习UFLDL教程 - Ufldl是不错的。有习题,做完

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值