街景字符编码识别 - Task1 -赛题理解
赛题
赛题来源自Google街景图像中的门牌号数据集(The Street View House Numbers Dataset, SVHN),并根据一定方式采样得到比赛数据集。
该数据来自真实场景的门牌号。训练集数据包括3W张照片,验证集数据包括1W张照片,每张照片包括颜色图像和对应的编码类别和具体位置;为了保证比赛的公平性,测试集A包括4W张照片,测试集B包括4W张照片。
需要注意的是本赛题需要选手识别图片中所有的字符,为了降低比赛难度,我们提供了训练集、验证集和测试集中字符的位置框。
数据标签
所有的数据(训练集、验证集和测试集)的标注使用JSON格式,并使用文件名进行索引。如果一个文件中包括多个字符,则使用列表将字段进行组合。
Field | Description |
---|---|
top | 左上角坐标X |
height | 字符高度 |
left | 左上角最表Y |
width | 字符宽度 |
label | 字符编码 |
字符的坐标具体如下所示:
)
在比赛数据(训练集和验证集)中,同一张图片中可能包括一个或者多个字符,因此在比赛数据的JSON标注中,会有两个字符的边框信息:
原始图片 | 图片JSON标注 |
---|---|
![]() | ![]() |
评价标准
评价标准为准确率,选手提交结果与实际图片的编码进行对比,以编码整体识别准确率为评价指标,结果越大越好,具体计算公式如下:
s
o
r
c
e
=
编
码
识
别
正
确
的
数
量
测
试
集
图
片
数
量
sorce = \frac{编码识别正确的数量} {测试集图片数量}
sorce=测试集图片数量编码识别正确的数量
结果提交
提交前请确保预测结果的格式与sample_submit.csv中的格式一致,以及提交文件后缀名为csv。
file_name, file_code
0010000.jpg,451
0010001.jpg,232
0010002.jpg,45
0010003.jpg,67
0010004.jpg,191
0010005.jpg,892
读取数据
# 读取数据
import cv2
import numpy as np
import matplotlib.pyplot as plt
import json
path = '../The Street View House Numbers Dataset/'
train_json = json.load(open(path + 'mchar_train.json')) # 载入json文件
# 数据标注处理
def parse_json(d):
arr = np.array([d['top'], d['height'], d['left'], d['width'], d['label']])
arr = arr.astype(int)
return arr
img = cv2.imread(path + 'mchar_train/000000.png')
img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)
arr = parse_json(train_json['000000.png'])
plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
plt.xticks([]); plt.yticks([]) # 隐藏坐标轴
for idx in range(arr.shape[1]):
plt.subplot(1, arr.shape[1]+1, idx+2)
plt.imshow(img[arr[0, idx]:arr[0, idx] + arr[1, idx], arr[2, idx]:arr[2, idx]+arr[3, idx]]) # 坐标框 [y, x]
plt.title(arr[4, idx]) # 类标
plt.xticks([]); plt.yticks([]) # 隐藏坐标轴
解题思路
赛题本质是分类问题,需要对图中字符进行识别。但赛题给定的数据图片中不同图片中包含的字符数量不等,如下图所示。有的图片的字符个数为2,有的图片字符个数为3,有的图片字符个数为4。
字符属性 | 图片 |
---|---|
字符:42 字符个数:2 | ![]() |
字符:241 字符个数:3 | ![]() |
字符:7358 字符个数:4 | ![]() |
其实看起来更像是目标检测问题,但是评价方式只关心数字识别是否正确,不关心位置坐标预测,Datawhale给出了三种解题思路:
简单入门思路:定长字符识别
图像中最长数字为6位,预测时默认将所有数字长度视为6位,即19填充为19XXXX
经过填充之后,原始的赛题可以简化了6个字符的分类问题。在每个字符的分类中会进行11个类别的分类(0-9, X),假如分类为填充字符,则表明该字符为空。
数字长度 | 图片数量 |
---|---|
1 | 4636 |
2 | 16262 |
3 | 7813 |
4 | 1280 |
5 | 8 |
6 | 1 |
统计可看出6位的只有一个,主要集中在1-4位。
专业字符识别思路:不定长字符识别
在字符识别研究中,有特定的方法来解决此种不定长的字符识别问题,比较典型的有CRNN字符识别模型。
在本次赛题中给定的图像数据都比较规整,可以视为一个单词或者一个句子。
专业分类思路:检测再识别
在赛题数据中已经给出了训练集、验证集中所有图片中字符的位置,因此可以首先将字符的位置进行识别,利用物体检测的思路完成。
此种思路需要参赛选手构建字符检测模型,对测试集中的字符进行识别。选手可以参考物体检测模型SSD或者YOLO来完成。
本章小节
综上所示,本次赛题虽然是一个简单的字符识别问题,但有多种解法可以使用到计算机视觉领域中的各个模型,是非常适合大家入门学习的。
三种解决思路的难度从低到高,因此建议入门学习的同学可以先学习定长字符识别的思路。在文档之后的内容中我们也会以定长字符识别为例,让大家逐渐入门计算机视觉。