街景字符识别—赛题理解

1. 赛题背景

赛题以计算机视觉中字符识别为背景，要求选手预测真实场景下的字符识别，这是一个典型的字符识别问题。通过这道赛题可以引导大家走入计算机视觉的世界，主要针对竞赛选手上手视觉赛题，提高对数据建模能力。

2. 赛题数据

赛题来源自Google街景图像中的门牌号数据集，训练集数据包括3W张照片，验证集数据包括1W张照片，每张照片包括颜色图像和对应的编码类别和具体位置；为了保证比赛的公平性，测试集A包括4W张照片，测试集B包括4W张照片。

为了降低比赛难度，训练集、验证集和测试集中字符的位置框已给出。

字段	描述
top	左上角坐标X
height	字符高度
left	左上角坐标Y
width	字符宽度
label	字符编码

在比赛数据（训练集和验证集）中，同一张图片中可能包括一个或者多个字符，因此在比赛数据的JSON标注中，会有两个字符的边框信息：

读取json数据：

import json
train_json = json.load(open('../input/train.json'))

# 数据标注处理
def parse_json(d):
   arr = np.array([
       d['top'], d['height'], d['left'],  d['width'], d['label']
   ])
   arr = arr.astype(int)
   return arr

img = cv2.imread('../input/train/000000.png')
arr = parse_json(train_json['000000.png'])

plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
plt.xticks([]); plt.yticks([])

for idx in range(arr.shape[1]):
   plt.subplot(1, arr.shape[1]+1, idx+2)
   plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
   plt.title(arr[4, idx])
   plt.xticks([]); plt.yticks([])

3. 评分标准

评价标准为准确率，提交的结果与实际图片的编码进行对比，以编码整体识别准确率为评价指标，任何一个字符错误都为错误，结果越大越好，具体计算公式如下：

$$score=\frac{编码识别正确的数量}{测试集图片数量}$$
​

4. 解题思路

赛题本质是分类问题，但给定的数据集中字符数目不一，因此如何识别不定长的字符就是本赛题的一个难点。有如下三个解决方法，难度递增。

1. 转化为定长字符识别问题

因为字符数最长只有6个，可以对所有图片统计进行6位编码，不足6位自动补零，例如25补全为250000。

2. 利用专业识别模型

因为前人对不定长字符识别有所研究，所以可以利用现有的成果，例如CRNN字符识别模型。

3. 先检测后识别

训练集和测试集军已给出字符位置，因此可以利用物体检测的思路来识别字符位置。先构建字符检测模型，然后对测试集字符进行识别。参考物体检测模型SSD或YOLO。

参考: 零基础入门CV赛事- 街景字符编码识别，Datawhale 零基础入门CV赛事-Task1 赛题理解.