深度学习:算法到实战
文章平均质量分 93
朝阳学长
)希望成为快乐的朝阳学长
展开
-
《深度学习:算法到实战》【第四周】MobileNet V1&V2&V3与ShuffleNet V1与SENet笔记
传统的CNN内存消耗大,运算量复杂,无法在各种移动端设备和嵌入式设备运行。MobileNet是为了移动端和嵌入式设备存在的轻量级CNN,与VGG相比它的准确率只下降了0.9%,参数却只有VGG的321,它的网络结构如下。文中主要是通过Depthwise Convolution()以及Pointwise Conv()减少计算量,理论上说,普通卷积的计算量是DW+PW的9倍。DW卷积是在每个channel进行的,PW卷积可以看作使用1∗1的普通卷积将输出的特征图修改成你想要的channel。原创 2023-02-08 15:46:47 · 828 阅读 · 1 评论 -
《深度学习:算法到实战》【第三周】ResNet+ResNeXt笔记
已知神经网络总是趋向于较深的网络发展,在ImageNet数据集中作者提出的ResNet评估了比VGG更深8倍的152层残差网络,复杂度仍然比VGG更低。在深度的卷积神经网络中我们也知道最主要引起的就是梯度消失/爆炸、退化问题(degradation problem)。作者认为在有限的时间内无法在传统卷积网络中找到一个有效方法解决这个不是由过拟合引起的退化问题。所以作者通过恒等映射(Identity Mapping)进行改进卷积网络,提出了残差学习(Residual Learning)的概念,表达形式为H。原创 2023-02-02 09:40:12 · 350 阅读 · 1 评论 -
《深度学习:算法到实战》【第二周】卷积神经网络笔记
1、dataloader 里面 shuffle 取不同值有什么区别?shuffle:在每个epoch中对整个数据集data进行shuffle重排,默认为False。当值为False的时候,每次打印出的数据集都是一样的。当值为True的时候,每次打印出的数据集都是随机被打乱的。2、transform 里,取了不同值,这个有什么区别?原创 2023-01-26 21:24:08 · 292 阅读 · 0 评论 -
《深度学习:算法到实战》【第一周】深度学习基础笔记
1、AlexNet有哪些特点?为什么可以比LeNet取得更好的性能?1. AlexNet相较于LeNet, 网络更深。2. AlexNet使用ReLu替换了LeNet的Sigmoid作为激活函数,验证了其效果在较深的网络中超过了Sigmoid, 成功解决了Sigmoid在网络较深时的梯度消失问题。3. AlexNet引入了Dropout用于防止过拟合。保证了在训练数据和测试数据的准确率都较高。2、激活函数有哪些作用?激活函数最主要的作用就是用来增加非线性因素的.原创 2023-01-18 20:52:10 · 270 阅读 · 1 评论