Datawhale 零基础入门CV-Task01.赛题理解

赛题名称：零基础入门CV之街道字符识别

赛题目标：通过这道赛题可以引导大家走入计算机视觉的世界

赛题任务：赛题以计算机视觉中字符识别为背景，要求预测街道字符编码，是一个典型的字符识别问题

前提准备：导入所需要的包

import os, sys, glob, shutil, json
os.environ["CUDA_VISIBLE_DEVICES"] = '0'
import cv2
import matplotlib.pyplot as plt

from PIL import Image
import numpy as np

from tqdm import tqdm, tqdm_notebook

import torch
torch.manual_seed(0)
torch.backends.cudnn.deterministic = False
torch.backends.cudnn.benchmark = True

import torchvision.models as models
import torchvision.transforms as transforms
import torchvision.datasets as datasets
import torch.nn as nn
import torch.nn.functional as F
import torch.optim as optim
from torch.autograd import Variable
from torch.utils.data.dataset import Dataset

学习目标

1.理解赛题背景和赛题数据
2.理解赛题的解题思路

赛题数据

• 赛题以街道字符为赛题数据，数据来自收集的SVHN街道字符
  

数据标签

• 对于训练数据每张照片将给出对于的编码标签，和具体的字符框的位置，可用于模型训练：
  
• 字符的坐标具体如下所示：
  
• 在比赛数据中，同一张图片中可能包括一个或者多个字符，因此在比赛数据的JSON标注中，会有两个字符的边框信息
  

评测指标

• 选手提交结果与实际图片的编码进行对比，以编码整体识别准确率为评价标准。任何一个字符错误都为错误，最终评测指标结果越大越好，具体计算公式为
  <center>Score = 编码识别正确的数量/测试集图片数量 </center>

读取数据

• JSON中标签的读取方式：

import json
train_json = json.load(open(r"D:\input\mchar_train.json"))

# 数据标注处理
def parse_json(d):
    arr = np.array([
        d['top'], d['height'], d['left'], d['width'], d['label']
    ])#保存数据标签
    arr = arr.astype(int)
    return arr

img = cv2.imread(r"D:\input\mchar_train\mchar_train\000000.png")
arr = parse_json(train_json["000000.png"])

plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
plt.xticks([]); plt.yticks([])

for idx in range(arr.shape[1]):
    plt.subplot(1, arr.shape[1]+1, idx+2)
    plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
    plt.title(arr[4, idx])
    plt.xticks([]); plt.yticks([])

• 读取数据测试
  

解题思路

• 赛题思路分析：赛题本质是分类问题，需要对图片的字符进行识别。但赛题给定的数据图片中不同图片中包含字符数量不等，有的图片的字符个数为2，有的图片字符个数为3，有的图片字符个数为4
  

简单入门思路：定长字符识别

• 可以将赛题抽象为一个定长字符识别问题，在赛题数据集中大部分图像中字符个数为2-4个，最多的字符个数为6个。因此可以对于所有的图像都抽象为6个字符的识别问题，字符23填充为23XXX，字符231填充为231XXX
  
• 经过填充之后，原始的赛题可以简化为6个字符的分类问题。在每个字符的分类中会进行11个类别(数字0-10，10表示填充字符)的分类，假如分类为填充字符，则表明该字符为空

专业字符识别思路：不定长字符识别

• 在字符识别研究中，有特定的方法来解决此种不定长的字符识别问题，比较典型的有CRNN字符识别模型，本次赛题中给定的图像数据都比较规整，可以视为一个单词或者一个句子

专业分类思路：检测再识别

• 首先将字符的位置进行识别，利用物体检测的思路完成
  
• 此种思路需要参赛选手构建字符检测模型、对测试集中的字符进行识别，可以参考物体检测模型SSD或者YOLO来完成