Datawhale 零基础入门CV赛事-Task1 赛题理解

Datawhale 零基础入门CV赛事-Task1 赛题理解

赛题名称：零基础入门CV赛事-街道字符识别
赛题地址
赛题目标：通过这道赛题可以引导大家走入计算机视觉的世界，主要针对竞赛选手上手视觉赛题，提高对数据建模能力。
赛题任务：赛题以计算机视觉中字符识别为背景，要求选手预测街道字符编码，这是一个典型的字符识别问题。
为了简化赛题难度，赛题数据采用公开数据集SVHN，因此大家可以选择很多相应的paper作为思路参考。

1. 学习目标

(1) 理解赛题背景和赛题数据
(2) 完成赛题报名和数据下载，理解赛题的解题思路

2.赛题数据

数据来自SVHN街道字符，并进行了匿名采样处理。

训练集数据包括3W张照片，验证集数据包括1W张照片，每张照片包括颜色图像和对应的编码类别和具体位置；为了保证比赛的公平性，测试集A包括4W张照片，测试集B包括4W张照片。例如：

赛题的目标是识别图片中的全部字符。

数据分为两部分，每个照片的png图像文件和全部照片的JSON数据文件。
JSON文件中的每条数据有5个属性，如下表所示：

Field	Description
top	左上角坐标X
height	字符高度
left	左上角坐标Y
width	字符宽度
label	字符编码

具体图解如下图所示：

对于图片中的每个字符，它的上述五个属性都被保存在JSON数据中对应属性的数组中。由于每幅图片中的字符数量不等，数组的长度也是变长的。

下面给出JSON中标签的读取方式：

#载入工具包
import json
import cv2
import numpy as np
import matplotlib.pyplot as plt
#根据json文件的位置相应修改路径字符串
train_json = json.load(open('../data/mchar_train.json'))

# 数据标注处理
def parse_json(d):
   arr = np.array([
       d['top'], d['height'], d['left'],  d['width'], d['label']
   ])
   arr = arr.astype(int)
   return arr

#根据训练数据的位置相应修改路径
img = cv2.imread('../data/mchar_train/000000.png')
arr = parse_json(train_json['000000.png'])

plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
#去掉坐标轴
plt.xticks([]); plt.yticks([])

for idx in range(arr.shape[1]):
   plt.subplot(1, arr.shape[1]+1, idx+2)
   plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
   plt.title(arr[4, idx])
   plt.xticks([]); plt.yticks([])

运行结果如图所示：

如图，可以根据提供的数据获得图片中所有字符的位置框，并将其切分出来，并得到相应字符对应的编码即标签。将以上作为训练数据，训练分类模型从而得到字符识别模型。

3. 评测指标

选手提交结果与实际图片的编码进行对比，以编码整体识别准确率为评价指标。任何一个字符错误都为错误，最终评测指标结果越大越好，具体计算公式如下：
Score=编码识别正确的数量/测试集图片数量

4. 解题思路

赛题思路分析：赛题本质是分类问题，需要对图片的字符进行识别。但赛题给定的数据图片中不同图片中包含的字符数量不等，因此本次赛题的难点是需要对不定长的字符进行识别，与传统的图像分类任务有所不同。

思路1： 定长字符识别
可以将赛题抽象为一个定长字符识别问题，（可以由简单统计得到）在赛题数据集中大部分图像中字符个数为2-4个，最多的字符个数为6个。
因此可以对于所有的图像都抽象为6个字符的识别问题，字符23填充为23XXXX，字符231填充为231XXX。
经过填充之后，原始的赛题可以简化为6个字符的分类问题。在每个字符的分类中会进行11个类别的分类，假如分类为填充字符，则表明该字符为空。

思路2： 不定长字符识别
在字符识别研究中，有特定的方法来解决此种不定长的字符识别问题，比较典型的有CRNN字符识别模型。
在本次赛题中给定的图像数据都比较规整，可以视为一个单词或者一个句子。

思路3： 检测再识别
在赛题数据中已经给出了训练集、验证集中所有图片中字符的位置，因此可以首先将字符的位置进行识别，利用物体检测的思路完成。
此种思路需要参赛选手构建字符检测模型，对测试集中的字符进行识别。选手可以参考物体检测模型SSD或者YOLO来完成。

5.小结

综上所示，本次赛题虽然是一个简单的字符识别问题，但有多种解法可以使用到计算机视觉领域中的各个模型，是非常适合大家入门学习的。
三种解决思路的难度从低到高，因此建议入门学习的同学可以先学习定长字符识别的思路。在文档之后的内容中我们也会以定长字符识别为例，让大家逐渐入门计算机视觉。