Datawhale 零基础入门CV-Task01赛题理解
赛题名称:零基础入门CV之街道字符识别
1.导入所需库
import os, sys, glob, shutil, json
os.environ["CUDA_VISIBLE_DEVICES"] = '0'
import cv2
import matplotlib.pyplot as plt
from PIL import Image
import numpy as np
from tqdm import tqdm, tqdm_notebook
import torch
torch.manual_seed(0)
torch.backends.cudnn.deterministic = False
torch.backends.cudnn.benchmark = True
import torchvision.models as models
import torchvision.transforms as transforms
import torchvision.datasets as datasets
import torch.nn as nn
import torch.nn.functional as F
import torch.optim as optim
from torch.autograd import Variable
from torch.utils.data.dataset import Dataset
2.赛题数据
- 赛题以街道字符为赛题数据,数据来自收集的SVHN街道字符
3.数据标签
- 对于训练数据每张照片将给出对于的编码标签,和具体的字符框的位置,可用于模型训练:
- 字符的坐标具体如下所示:
- 在比赛数据中,同一张图片中可能包括一个或者多个字符,因此在比赛数据的JSON标注中,会有两个字符的边框信息:
4.评测指标
- 选手提交结果与实际图片的编码进行对比,以编码整体识别准确率为评价标准。任何一个字符错误都为错误,最终评测指标结果越大越好,具体计算公式为:
Score = 编码识别正确的数量/测试集图片数量
5.读取数据
import json
train_json = json.load(open(r"D:\input\mchar_train.json"))
def parse_json(d):
arr = np.array([
d['top'], d['height'], d['left'], d['width'], d['label']
])#保存数据标签
arr = arr.astype(int)
return arr
img = cv2.imread(r"D:\input\mchar_train\mchar_train\000000.png")
arr = parse_json(train_json["000000.png"])
plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
plt.xticks([]); plt.yticks([])
for idx in range(arr.shape[1]):
plt.subplot(1, arr.shape[1]+1, idx+2)
plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
plt.title(arr[4, idx])
plt.xticks([]); plt.yticks([])
6.解题思路
- 赛题思路分析:赛题本质是分类问题,需要对图片的字符进行识别。但赛题给定的数据图片中不同图片中包含字符数量不等,有的图片的字符个数为2,有的图片字符个数为3,有的图片字符个数为4。
7.简单入门思路:定长字符识别
- 可以将赛题抽象为一个定长字符识别问题,在赛题数据集中大部分图像中字符个数为2-4个,最多的字符个数为6个。因此可以对于所有的图像都抽象为6个字符的识别问题,字符23填充为23XXX,字符231填充为231XXX
- 经过填充之后,原始的赛题可以简化为6个字符的分类问题。在每个字符的分类中会进行11个类别(数字0-10,10表示填充字符)的分类,假如分类为填充字符,则表明该字符为空
8.专业字符识别思路:不定长字符识别
- 在字符识别研究中,有特定的方法来解决此种不定长的字符识别问题,比较典型的有CRNN字符识别模型,本次赛题中给定的图像数据都比较规整,可以视为一个单词或者一个句子
9.专业分类思路:检测再识别
- 首先将字符的位置进行识别,利用物体检测的思路完成
- 此种思路需要参赛选手构建字符检测模型、对测试集中的字符进行识别,可以参考物体检测模型SSD或者YOLO来完成