B站李沐讲论文笔记AlexNet

最新推荐文章于 2024-07-07 16:47:10 发布

「已注销」

最新推荐文章于 2024-07-07 16:47:10 发布

阅读量506

点赞数

分类专栏：论文人工智能文章标签：论文阅读深度学习 cnn

本文链接：https://blog.csdn.net/qq_39584294/article/details/128376123

版权

本文是关于AlexNet论文的笔记，介绍了如何利用深度卷积神经网络在ImageNet分类中取得突破。AlexNet采用了ReLU激活函数、GPU加速训练、Dropout正则化等技术，有效解决了模型速度和过拟合问题。尽管当时GPU资源有限，AlexNet依然展现了深度学习的巨大潜力，为后续的深度学习研究奠定了基础。

摘要由CSDN通过智能技术生成

研一学生笔记，若有看官，笔下留情。

AlexNet
作者：Alex，IIya，Geoffrey

题目：用深度卷积神经网络进行ImageNet分类
摘要：我们训练了一个很大的深度卷积神经网络来实现ImageNet分类，结果优于之前所有工作。怎么做的呢，他有庞大的模型结构和变量，自然需要解决速度和过拟合的问题。1.用了非饱和神经元和GPU使训练加速（2012年GPU不算最新，08年推出的CUDA2.0，但不可否认是当时的亮点）2.用最新开发的正则化方法叫 “dropout”来减少过拟合。
介绍：目前物体识别的方法主要是机器学习，收集更大的数据，学习更强的模型，使用更好的技术，正则，减少过拟合（神经网络之前的大数据时代就是这么处理的，李沐老师说如今正则也没那么重要，如何更好的设计一个网络才更重要。）直到现在有标注的数据集相对于数以万计的图像，而现实却需要很大的数据集，现在已经可以有这样的数据集了，例如LabelMe和ImageNet 。（他有提到数据label特别少，而百度得到，数据标注行业从2010年左右开始，如果回到过去，，，我就，，，我才不会办数据标注的公司赶时代红利，我要把顶会下载来一篇篇发，啊哈哈哈哈，做梦。）即使像ImageNet这样大的数据集也无法解决物体检测这样大的复杂任务，所以我们用了一些经验之谈以弥补缺失的数据，cnn就是这样的模型，可以根据高宽控制他的容量，他也对图片的本质做了强有力的，基本正确的假设。因此与有相似大小层数的前馈神经网络相