赛题名称:零基础入门CV之街道字符识别
赛题任务:以计算机视觉中字符识别为背景,要求选手预测街道字符编码,是一个典型的字符识别问题。为了简化难度,赛题数据采用公开数据集SVHN。
一、赛题数据
赛题以街道字符为赛题数据,来自收集的SVHN街道字符,并进行了匿名采样处理。
训练集数据包括3W张照片,验证集数据包括1W张照片,每张照片包括颜色图像和对应的编码类别和具体位置:为了比赛公平性,测试集A包括4W张照片,测试集B包括4W张照片。
为了降低难度,提供了训练集、验证集和测试集中所有字符的位置框。
二、数据标签
对于训练数据每张图片讲给出对应的编码标签和具体的字符框的位置(训练集、测试集和验证集都给出字符位置),可用于模型训练:
Field | Description |
---|---|
top | 左上角坐标X |
height | 字符高度 |
left | 左上角坐标Y |
width | 字符宽度 |
label | 字符编码 |
在比赛数据(训练集、测试集和验证集)中,同一张图片中可能包括一个或者多个字符,因此在比赛数据的JSON标注中,会有两个字符的边框信息:
原始图片 | 图片JSON标注 |
---|---|
三、评测指标
选手提交结果与实际图片的编码进行对比,以编码整体识别准确率为评价指标。任何一个字符错误都为错误,最终评测指标结果越大越好,计算公式:
Score = 编码识别正确的数量/测试集图片数量
四、读取数据
JSON标签的读取
import json
train_json = json.load(open('../input/train.json'))
<div STYLE='page-break-after: always;'></div>
#数据标注处理
def parse_json(d):
arr = np.array([
d['top'], d['height'], d['left'], d['width'], d['label']
])
arr = arr.astype(int)
return arr
img = cv2.imread('../input/train/000000.png')
arr = parse_json(train_json['000000.png'])
plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
plt.xticks([])
plt.yticks([])
for idx in range(arr.shape[1]):
plt.subplot(1, arr.shape[1]+1, idx+2)
plt.imshow(img[arr[0, idx]:arr[0, idx] + arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
plt.title(arr[4, idx])
plt.xticks([])
plt.yticks([])
五、解题思路
思路分析:赛题本质是分类问题,需要对图片的字符进行识别。但赛题给定的数据图片中不同图片的字符不等。
赛题难点:对不定长的字符进行识别
1、简单入门思路:定长字符识别
将赛题抽象为一个定长字符识别问题,在赛题数据集中大部分图像字符个数为2-4个,最多不超过6个
因此可以对所有的图像都抽象为6个字符的识别问题,字符23填充为23XXXX,字符231填充为231XXX.简化为6个字符的分类问题。
2、专业字符识别思路:不定长字符识别
在字符识别研究中,有特定方法解决不定长的字符识别问题,比较典型的有CRNN字符识别模型。
3、专业分类思路:检测再识别
首先将字符的位置进行识别,利用物体检测的思路完成。
此种思路需要选手构建字符检测模型,可以参考SSD或者YOLO来完成。