1 运行环境搭建(Anaconda+pytorch)
1.1 Anaconda安装
Anaconda指的是一个开源的Python发行版本,其包含了conda、Python等180多个科学包及其依赖项。 因为包含了大量的科学包,Anaconda 的下载文件比较大,大概有500多M,如果只需要某些包,或者需要节省带宽或存储空间,也可以使用Miniconda这个较小的发行版(仅包含conda和 Python)
官网下载安装包,根据提示安装即可,安装难度不大。安装过程的Advanced Options 两个选项都可以勾选。
一般在anaconda自带的jupyter notebook中编程,第一次安装建议更改jupyter notebook的默认存储路径,更改方式如下:
- 启动Anaconda Prompt,输入如下命令,会显示一条路径
jupyter notebook --generate-config
- 在显示的路径中找到Jupyter_notebook_config.py文件,打开该文件找到下面这行,删掉开头的“#”,在’ '中输入你要启动的目录路径。
#c.NotebookApp.notebook_dir =' '
- 之后找到Jupyter的快捷方式,右键打开属性,将快捷方式中“目标”中的%USERPROFILE%去掉即可。
1.2 pytorch安装
- 启动Anaconda Prompt,首先创建一个虚拟环境用来安装pytorch,并激活该环境
conda create -n py37_torch151 python=3.7
conda activate py37_torch151
- 在安装pytorch之前,建议更换国内镜像源再安装pytorch,不然下载速度会非常慢,更换清华镜像源方法如下:
- 登录pytorch官网查询适合自己电脑配置的下载命令,在使用conda安装前再次添加清华源pytorch。再敲入pytorch官网给出的命令即可(需要去除官网给的下载命令中的-c pytorch,指定为conda自带的pytorch仓库)
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
PS:
- 若在安装pytorch的GPU版本时出现CUDA不匹配的情况可参考该博客link来升级CUDA
- 在用conda安装包时可能会出现“无法定位程序输入点XXX于XXX.dll上”的情况,解决方法可参照该博客link
2 街道字符识别-题目理解
2.1 背景简介
题目是阿里天池的一道基础入门比赛-街道字符识别,数据来源于公开数据集SVHN街道字符。提供训练集数据3W张照片,验证集数据1W张照片;每张照片包括颜色图像和对应的编码类别和具体位置;为了保证比赛的公平性,测试集A包括4W张照片,测试集B包括4W张照片;提供了训练集、验证集中所有字符的位置框。
2.2 解题思路
由于样本数据中的字符是不完全相等的,有的是两个字符、有的三个甚至四个,所以需要对不定长的字符进行识别,主要有以下三种思路
- 定长字符识别
可以将赛题抽象为一个定长字符识别问题,在赛题数据集中大部分图像中字符个数为2-4个,最多的字符个数为6个。因此,可以对于所有图像都抽象为6个字符的识别问题。比如,字符23,可以填充为23XXXX,字符231,可以填充为231XXX。 - 不定长字符识别
可以用 CRNN字符识别模型来识别该类问题 - 对字符的位置进行识别,利用物体检测的思路完成。
3 街道字符识别-字符识别模型
卷积神经网络(简称CNN)是一类特殊的人工神经网络,是深度学习中重要的一个分支。CNN在很多领域都表现优异,精度和速度比传统计算学习算法高很多。特别是在计算机视觉领域,CNN是解决图像分类、图像检索、物体检测和语义分割的主流模型。
CNN每一层由众多的卷积核组成,每个卷积核对输入的像素进行卷积操作,得到下一次的输入。随着网络层的增加卷积核会逐渐扩大感受野,并缩减图像的尺寸。
CNN是一种层次模型,输入的是原始的像素数据。CNN通过卷积(convolution)、池化(pooling)、非线性激活函数(non-linear activation function)和全连接层(fully connected layer)构成。
通过多次卷积和池化,CNN的最后一层将输入的图像像素映射为具体的输出。如在分类任务中会转换为不同类别的概率输出,然后计算真实标签与CNN模型的预测结果的差异,并通过反向传播更新每层的参数,并在更新完成后再次前向传播,如此反复直到训练完成 。
与传统机器学习模型相比,CNN具有一种端到端(End to End)的思路。在CNN训练的过程中是直接从图像像素到最终的输出,并不涉及到具体的特征提取和构建模型的过程,也不需要人工的参与。
随着网络结构的发展,研究人员最初发现网络模型结构越深、网络参数越多模型的精度更优。比较典型的是AlexNet、VGG、InceptionV3和ResNet的发展脉络。
ResNet主要是添加了网络的恒等映射,进而使得前面的梯度信息不会出现梯度弥散,通过恒等映射使得保留了前面的信息,这样可以使得网络更深
DenseNet是ResNet的改进版本在Pytorch中构建CNN模型非常简单,只需要定义好模型的参数和正向传播即可,Pytorch会根据正向传播自动计算反向传播。这个CNN模型包括两个卷积层,最后并联6个全连接层进行分类。
import torch
torch.manual_seed(0)
torch.backends.cudnn.deterministic = False
torch.backends.cudnn.benchmark = True
import torchvision.models as models
import torchvision.transforms as transforms
import torchvision.datasets as datasets
import torch.nn as nn
import torch.nn.functional as F
import torch.optim as optim
from torch.autograd import Variable
from torch.utils.data.dataset import Dataset
# 定义模型
class SVHN_Model1(nn.Module):
def __init__(self):
super(SVHN_Model1, self).__init__()
# CNN提取特征模块
self.cnn = nn.Sequential(
nn.Conv2d(3, 16, kernel_size=(3, 3), stride=(2, 2)),
nn.ReLU(),
nn.MaxPool2d(2),
nn.Conv2d(16, 32, kernel_size=(3, 3), stride=(2, 2)),
nn.ReLU(),
nn.MaxPool2d(2),
)
#
self.fc1 = nn.Linear(32*3*7, 11)
self.fc2 = nn.Linear(32*3*7, 11)
self.fc3 = nn.Linear(32*3*7, 11)
self.fc4 = nn.Linear(32*3*7, 11)
self.fc5 = nn.Linear(32*3*7, 11)
self.fc6 = nn.Linear(32*3*7, 11)
def forward(self, img):
feat = self.cnn(img)
feat = feat.view(feat.shape[0], -1)
c1 = self.fc1(feat)
c2 = self.fc2(feat)
c3 = self.fc3(feat)
c4 = self.fc4(feat)
c5 = self.fc5(feat)
c6 = self.fc6(feat)
return c1, c2, c3, c4, c5, c6
model = SVHN_Model1()