第三十三周学习笔记

最新推荐文章于 2024-10-27 20:00:51 发布
最新推荐文章于 2024-10-27 20:00:51 发布
阅读量280 收藏
点赞数
分类专栏： 学习笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/luo3300612/article/details/88732386
版权

第三十三周学习笔记

CS231n

Deep Learning Software

CPU vs GPU

CPU:Fewer cores,but each core is much faster and much more capable;great at sequential tasks
GPU:More cores,but each core is much slower and “dumber”;great for parallel tasks（matrix multiplicatio）

在课程中的对比中：

  • 使用cuDNN比仅仅使用CUDA快了3倍多

问题：如果不够仔细，可能会导致训练由于读取数据并转移到GPU上出现瓶颈
Solution：

  • 读取所有数据到内存（小数据集）
  • 使用SSD而不是HDD
  • 使用多个CPU线程来读取数据
深度学习框架
使用深度学习框架的原因
  • 更容易建立大的计算图
  • 更容易计算梯度
  • 在GPU上更高效
TensorFlow

by Google

高层封装

  • Kears
  • TFLearn
  • TensorLayer
  • tf.layers
  • TF-Slim
  • tf.contrib.learn
  • Pretty Tensor
  • Sonnet

类似的框架有Theano

Pytorch

by Facebook

问题：Pytorch与tensorflow有何不同？
tensorflow先建立计算图然后反复运行计算图（静态图），pytorch每次运算的时候都建立一个新的计算图（动态图），这使得代码更简洁

Static vs Dynamic

Optimization，静态图可以在运行之前做好优化
Serialization，静态图建立后，可以序列化并且不使用建立网络的代码即可运行，动态图需要一直保留建立网络的代码
Conditional，动态图方便使用条件语句，静态图不方便
loops，动态图方便循环，静态图不方便

Caffe

by UC Berkeley

  • 主要用C++写的
  • 有Python和MATLAB接口
  • 善于训练和微调前向分类模型
  • 通常不用写代码？？？？
  • 研究中不再有很多使用了，但经常用来部署模型
Caffe2

by Facebook

  • 静态图，类似TensorFlow
  • 主要用C++写的
  • 好的Python接口
  • 可以在Python中训练模型，然后序列化和部署时不需要Python
  • 在IOS/Android上运行
Adivice
  • tensorflow适用于多数项目，社区庞大，也有很多高层封装
  • Pytorch适用于研究，但尚在成长
  • 在生产环境中考虑Caffe，Caffe2，Tensoflow
  • 在手机上考虑TensorFlow或Caffe2

CNN architecture

LeNet-5

在这里插入图片描述

AlexNet

第一个在ImageNet分类上表现好的大规模卷积网络

Architecture:
CONV1-MAX POOL1-NORM1-CONV2-MAX POOL2-NORM2-CONV3-CONV4-CONV5-MAX POOL3-FC6-FC7-FC8

与LeNet相似，只是更深

细节

  • ReLU的第一次出场
  • 使用Norm层（当前不再流行）
  • 使用较多数据增强
  • 因为在GTX580上训练，显存只有3GB，所以网络被分成了两份在两个GPU上分别训练，因此AlexNet的图例看起来有两个部分

在这里插入图片描述

2013年的冠军ZFNET基本上是对AlexNet的超参数进行调整得到的结果

2014年的赢家是GoogleNet，VGG表现也很接近，它们都是更深的网络

VGGNet

AlexNet 8层->VGGNet 16-19层
在这里插入图片描述
细节

  • ILSVRC’14 2nd in classification, 1st in localization
  • VGG19比VGG16提高了一点，需要更多内存
  • FC1000之前的FC4096 generalize well to other tasks
GoogLeNet

更深的网络

  • 22层
  • 高效的Inception模块
  • 没有全连接层
  • 仅仅5百万个参数，比AlexNet少12倍
  • ILSVRC’14 分类的冠军

在这里插入图片描述
在直接进行卷积前，使用bottleneck层来降低输入的深度维数，从而减少计算的复杂度，bottleneck就是1×1的卷积，在维持空间维度的基础上改变深度维
GoogLeNet堆叠这种Inception模块来得到整个网络
在这里插入图片描述
其中除了最终的分类输出外，还有两个辅助的分类部分

ResNet

非常深的网络，使用余量连接（residual connections）

  • 152层
  • ILSVRC’15 分类冠军
  • Won everything （ISVRC’15 COCO’15）

问题：使用更深的网络并不能得到更好的效果，而这并不是因为过拟合
假设：这是因为更深的网络更难优化

  • 更深的网络应该至少和浅的网络一样好
  • 一个解决方法是将浅层模型的学习结果和一些恒等映射结合成更深的模型

解决方法：让网络拟合余量映射F(x)=H(x)-x（residual mapping）而不是直接映射H(x)（underlying mapping）
在这里插入图片描述

ResNet也使用了bottleneck的技术

值得注意的是：如果我们将ResNet的权值设置为0，那么就得到了一个恒等映射，这使得L2正则化有了另外的意义（让模型取向学习到恒等映射）

训练细节

  • 每个CONV层后有Batch Normalization
  • Xavier/2初始化
  • SGD + Momentum(0.9)
  • 学习率0.1，当验证误差不动时除以10
  • Mini-batch size 256
  • Weight decay 1e-5
  • 没有Dropout
Summary:CNN Architectures

Case Studies

  • AlexNet
  • VGG
  • GoogLeNet
  • ResNet

Also…

  • NiN(Network in Network)
  • Wide REsNet
  • ResNeXT
  • Stochastic Depth
  • DenseNet
  • FractalNet
  • SqueezeNet

Recurrent Neural Networks

RNN处理序列的网络，可以实现one to one，one to many（e.g. Image Captioning），many to one（e.g Sentiment Classification），many to many（e.g. Machine Translation）

前向传播
在这里插入图片描述
反向传播
在这里插入图片描述
当序列太长的时候，使用Truncated Backpropagation
在这里插入图片描述

Vanilla RNN Gradient FLow

在这里插入图片描述
反向传播时需要W反复作为因子乘进梯度中，如果W的最大的特征值大于0会导致梯度爆炸，反过来，会导致梯度消失。对于梯度爆炸，使用Gradient clipping处理，对于梯度消失时，使用不同的RNN结构LSTM

Long Short Term Memory（LSTM）

在这里插入图片描述

与传统的RNN不同，LSTM除了维持ht外，还维持了细胞状态（ct），通常会计算四个门：

  • f：Forget gate，whether to erase cell
  • i： input gate，whether to write to cell
  • g： Gate gate(?), How much to write to cell
  • o： Output gate，How much to reveal cell

在这里插入图片描述

使用这样的结构时，反向传播不会再出现梯度消失和爆炸的问题。

总结
  • RNNs使得深度神经网络的结构更加灵活
  • 朴素的RNNs很简单但是效果不好
  • 通常使用LSTM或GRU，它们提升了梯度流向的表现
  • RNN的反向传播可能导致梯度爆炸或消失，爆炸通过梯度截断处理（gradient clipping），消失需要通过LSTM处理
  • 更好的结构仍然在研究中
  • 需要更好的理解（理论上和经验上的）

Detection and Segmentation

Semantic Segmentation

在这里插入图片描述
IDEA：Design a network as a bunch of convolutional layers to make predictions for pixels all at once（Fully Convolutional），这个过程涉及下采样和上采样

Learnable Upsampling: Transpose Convolution

在这里插入图片描述
在这里插入图片描述

Classification + Localization

在这里插入图片描述

通过两个子网络实现classification和localization，一个通过传统的分类网络得到类别得分实现classification，另一个网络回归预测Box coordinates来实现localization

在这里插入图片描述

Object Detection

在这里插入图片描述
与上一个任务不同，这里的输出是变化的
在这里插入图片描述
一个解决方法是使用滑动窗口，将一个CNN应用在图片上的different crops上，但因为目标位置大小的位置性，需要列举很多不同的窗口，计算极其复杂，实践中不常使用，另一种方法是Region Proposals：

  • 找到水滴状的可能包含目标的区域
  • 相对更快
RCNN

在这里插入图片描述
问题

  • 训练很慢，占用空间很大
  • 接口很慢
Fast R-CNN

与在原图上提出regions of interest不同，在feature map上给出Regions of interest
在这里插入图片描述

在这里插入图片描述

Faster R-CNN

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

Instance Segmentation

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

本周反思

阅读resnet的论文，未完成
继续完成cs231n的学习进度到75%，完成
学习opencv上册到50%，未完成

下周目标

完成cs231n的学习
阅读resnet的论文
学习opencv上册到50%

luputo
关注
专栏目录
第四周学习笔记总结(类相关)
weixin_61215132的博客
11-20 1446
类的相关笔记
paddle第二周学习笔记
weixin_45602922的博客
08-24 1192
卷积神经网络 卷积神经网络是目前计算机视觉中使用最普遍的模型结构。本章节主要为读者介绍卷积神经网络的一些基础模块，包括： 卷积（Convolution） 池化（Pooling） 激活函数 批归一化（Batch Normalization）是在训练过程中将大量样本的均值和方差保存下来，预测时直接使用保存好的值而不再重新计算。实际上，在BatchNorm的具体实现中，训练时会计算均值和方差的移动平均值。默认采用权重叠加法计算训练集的相关参数。 丢弃法（Dropout） 飞浆提供两种方法： downgrade_i
论文笔记 A novel channel pruning method for deep neural network compression
最新发布
qq_43349296的博客
10-27 995
对一个预训练的CNN网络，根据每一层的敏感度，确定压缩比，使用遗传算法的搜索需要保留的通道，逐层进行剪枝对已修剪的每一个卷积层，采用基于知识蒸馏的框架进行微调。通道选择问题实际上可以转化为搜索问题，即搜索需要剪去的通道，这些通道。可以用遗传算法来解决。设计了一种two-step approximation fitness function以提升遗传算法的速度。
记录：easyocr错误：Could not initialize NNPACK reason Unsupported hardware导致python程序异常退出
weixin_41670578的博客
03-20 2811
如果您想继续使用NNPACK，请确保您的计算机满足NNPACK的要求。NNPACK要求计算机支持AVX2指令集和FMA指令。您可以检查您的CPU是否支持这些指令集，以确定是否可以使用NNPACK。这个错误通常是由于您的计算机不支持NNPACK库所需的硬件指令集引起的。如果您的计算机不支持AVX2和FMA指令集，您可以考虑使用不需要这些指令集的EasyOCR版本，例如easyocr==1.3.2。如果您的计算机不支持NNPACK所需的指令集，您可以尝试使用其他计算机视觉库，例如OpenCV或PyTorch。
CS231n笔记 Lecture 10, Recurrent Neural Networks
weixin_30888027的博客
03-04 184
Recaption on CNN Architecture Although Serena is very beautiful, Justin is a better lecturer. Love him. Recurrent Neural Network Meant to process sequencial data, reuse hidden state to retain the k...
python通过easyocr实现中文ocr识别
qq_41545075的博客
05-15 3259
参考链接 EasyOCR文字识别Python安装与使用 1 安装 直接pip unstall easyocr失败，不知道为啥。 于是到GitHub上下载zip文件。 把zip文件放到要放的文件夹（我放在当前python interpreter的script）里解压，在解压后的文件夹里鼠标右键+shift进入PowerShell窗口。 输入命令：Python setup.py install 中间会安装一些包，一些已有的包的版本可能跟需要的不兼容，重新下一下该库就行： eg:torchvision 0.11
复杂场景的文字检测
04-09
本文通过连接大量的计算机搭建一个云计算网络，使用 Map Reduce 分布模型实现了视频关键帧的提取，文本检测与识别，识别结果的校对等功能，构建了一个基于云的海量视频文本识别平台，解决了海量视频的文本内容识别问题
第二周第一天的学习笔记
03-25
### 第二周第一天的学习笔记 #### 一、Kubernetes (K8S) 中的 Deployment (部署) **Deployment** 是 Kubernetes 中用于管理应用实例的核心概念之一，它提供了声明式的更新功能，确保应用程序始终运行指定数量的...
财务自由操作系统课程十周课程笔记第三周
05-15
在“财务自由操作系统课程十周课程笔记第三周”中，我们聚焦于理解并掌握与个人和家庭财务健康密切相关的关键概念和工具。这个课程的核心目标是帮助学员建立一套系统化的财务管理体系，以实现长期的财务自由。以下是...
PaddlePaddle第二周学习笔记
luolovebiology的博客
08-18 792
项目一：使用飞浆完成手写数字识别模型 MNIST数据集 MNIST数据集是从NIST的Special Database 3（SD-3）和Special Database 1（SD-1）构建而来。 构建手写数字识别的神经网络模型 飞桨各模型代码结构一致，大大降低了用户的编码难度 教程采用"横纵式"教学法，适用于深度学习初学者 项目二：通过极简方案快速构建手写数字识别模型 加载飞桨
ocr文本识别tesseract
07-04
Tesseract OCR windows下载，完整的请到https://github.com/tesseract-ocr/tesseract
通俗易懂的RNN与梯度问题（梯度爆炸/梯度消失）
weixin_52668444的博客
03-13 7226
文章结构1. 简述语言模型2. Vanilla-RNN 工作原理3. 递归神经网络存在的问题3.1 梯度爆炸与梯度消失是怎么样产生的4. LSTM 1. 简述语言模型 现在的语言模型使用很广泛。最常见的应用之一，就是各种输入法的预测输入。比如，当用户输入一段文字之后，输入法会自动的预测用户可能想要输入的内容。再比如，所搜引擎当我们输入前一两个词的时候，他可以推测出你可能想要输入什么，如下图所示： 语言模型试图找出输入句子之中，每一个词之间的依赖关系。换一句话来说，当模型看到了词A，它能够计算出在整个字典中
理解Region of Interest - (RoI Align and RoI Warp)
恍恍惚惚的大穷猫的博客
11-23 2120
理解Region of Interest - (RoI Align and RoI Warp) If you’re not familiar with idea of RoI it might be beneficial to read Understanding Region of Interest — (RoI Pooling) first. This article doesn’t include an introduction about what RoI is and focuses only
实例分割初探，Fully Convolutional Instance-aware Semantic Segmentation论文解读
热门推荐
jiongnima的博客
01-03 1万+
进入2017年之后，深度学习计算机视觉领域有了新的发展。在以往的研究中，深度神经网络往往是单任务的，比如图像分类(AlexNet, VGG16等等)，图像分割(以FCN为代表的一众论文)，目标检测(R-CNN，Fast R-CNN和Fatser R-CNN，以及后来的YOLO和SSD，目标检测领域已经实现多任务)。而在最新的研究中，上述的任务往往被集成了，通过一个框架完成，代表就是实例分割。先来看
【收藏】图片转成文字的方法总结，python批量图片转文字信息参考源码
二爷记
01-16 5528
在日常办公或者学习中，往往存在这样一个工作场景，比如，“老王，我这里有一张图片，你把里面的文字信息给我整理出来”，都2021年了，你真的还在手敲图片文字信息么？那么还不赶紧收藏这篇秘籍，...
【OCR】OCR学习记录(3)--EasyOCR介绍
学无止境、积少成多、厚积薄发
10-08 3995
1、介绍 之前介绍过图片文本OCR识别，文章介绍了一个Python包pytesseract，该包是基于Tesseract封装得到的，这个包虽然支持多语言文本识别，但对于不同语言识别，准确率却不一样，例如英文识别准确率高，而中文文本识别率较低；英文字符识别，整体来看基本不错，但对于图片中的中文字符，经常出现乱码、识别失败的情况。 2、EasyOCR 今天介绍一个用于文本识别的新的Python包：EasyOCR，这个包是基于训练好的Deep Learning模型开发的，模型包含文本检测、文本识别功能； Easy
GPU运行报错的几种问题解决
qq_45603919的博客
06-10 1万+
文章目录GPU运行报错的几种问题解决报错一情况一：内存不足情况二： Cudnn版本不匹配报错二报错三 GPU运行报错的几种问题解决 报错一 Failed to get convolution algorithm. This is probably because cuDNN failed to initialize 情况一：内存不足 解决方式：在训练代码头加上以下代码 import tensorflow as tf import numpy as np import keras config = tf.c
RNN(Recurrent Neural Networks)和LSTM
以笔为剑的唐吉坷德
01-19 1119
RNN是目前NLP中很火的神经网络，也是需要掌握的一种神经网络。可以在BPNN的基础上来学习RNN 以上是RNN的定时循环， 用来处理输入之间前后关联的问题。 传统神经网络并不能做到思考的持久性，这是一个巨大的弊端。而RNN关注于此。 RNN可以看作是同一神经网络的多次复制，每个神经网络模块会把消息传递给下一个，以下是循环的展开： LSTM是RNN中非常重要的一种变形，几乎所
图像处理代码合集:特征提取-图像分割-分类-匹配-降噪
满城风絮
10-12 1万+
这几天在研究血管增强与分割，发现一个比较全面的图像处理方面的项目集合，里面涵盖了特征提取、图像分割、图像分类、图像匹配、图像降噪，光流法等等方面的项目和代码集合，项目是2012年之前的，但是涵盖比较基础的原理知识，用到的时候可以参考一下： Topic Resources References Feature Extraction
C语言谭浩强教程第三至十章核心笔记
"这是关于谭浩强C语言第三版教材第三章至第十章的学习笔记，主要涵盖了数据类型、运算符、表达式、控制结构、数组、指针、函数、结构体和共用体以及预处理等内容。笔记详尽地介绍了C语言的基础知识，适合初学者学习...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值