- 博客(4)
- 收藏
- 关注
原创 神经网络与深度学习第五周课程总结
与上面介绍的经典CNN在卷积层使用全连接层得到固定长度的特征向量进行分类不同,FCN可以接受任意尺寸的输入图像,采用反卷积层对最后一个卷基层的特征图(feature map)进行上采样,使它恢复到输入图像相同的尺寸,从而可以对每一个像素都产生一个预测,同时保留了原始输入图像中的空间信息,最后奇偶在上采样的特征图进行像素的分类。语义分割即能够将整张图的每个部分分割开,使每个部分都有一定类别意义。FCN中第6、7、8层都是通过1 × 1卷积得到的,第6层的输出是4096 × 7 × 7,
2024-05-20 14:16:15
140
原创 神经网络与深度学习第四周课程总结
当网络退化时,浅层网络能够达到比深层网络更好的训练效果,这时如果我们把低层的特征传到高层,那么效果应该至少不比浅层的网络效果差,或者说如果一个VGG-100网络在第98层使用的是和VGG-16第14层一模一样的特征,那么VGG-100的效果应该会和VGG-16的效果相同。从信息论的角度讲,由于DPI(数据处理不等式)的存在,在前向传输的过程中,随着层数的加深,Feature Map包含的图像信息会逐层减少,而ResNet的直接映射的加入,保证了 l+1 层的网络一定比 l 层包含更多的图像信息。
2024-05-20 14:15:20
1424
1
原创 神经网络与深度学习第三周课程总结
在LTI和LSI中,信号在时间和空间中移动不改变其特性,不断有信号随时间移动和系统产生响应,某一时刻的输出(即卷积输出)不仅包括当前信号的响应,还有之前信号的残留,所以是累加的,转换卷积核是为了计算这一过程。手写数字数据集是灰度图像,输入为32 × 32 × 1 的图像,卷积核大小为5 × 5 ,卷积核数量为6,步长为1,零填充。与卷积层C3不同,卷积层C5的输入为S4 的全部feature maps,由于S4 层的16个图的大小为5 × 5 ,与卷积核的大小相同,所以卷积后形成的图的大小为1x1。
2024-05-20 14:12:39
1160
原创 神经网络与深度学习第二周课程总结
因此一种常见的降低过拟合的方法就是强制让模型的权重只能取较小的值,从而限制模型的复杂度,这使得权重值的分布更规则。其中输入层的输出等于输入样本值,隐含层和输出层的输入为地球物理勘探概论输出为地球物理勘探概论式中:f为阈值逻辑函数,一般取Sigmoid函数,即地球物理勘探概论式中:θj表示阈值或偏置;这个区域就是所谓的病态曲率。需要注意的是,神经元通常有多个突触,但它们传递的信号都是一样的。由于神经网络的模拟对象是人的大脑,那么在讨论具体的模型之前,我们有必要先从生物学的角度来看看人的大脑有哪些特性。
2024-05-20 14:11:04
573
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人