Datawhale&天池 零基础入门CV赛事-Task1 赛题理解

Datawhale&天池 零基础入门CV赛事-Task1 赛题理解
本章内容将会对街景字符识别赛题进行赛题背景讲解，对赛题数据的读取进行说明，并给出集中解题思路。

1 赛题理解

• 赛题名称：零基础入门CV之街道字符识别
  赛题目标：通过这道赛题可以引导大家走入计算机视觉的世界，主要针对竞赛选手上手视觉赛题，提高对数据建模能力。
• 赛题任务：赛题以计算机视觉中字符识别为背景，要求选手预测街道字符编码，这是一个典型的字符识别问题。
• 为了简化赛题难度，赛题数据采用公开数据集SVHN，因此大家可以选择很多相应的paper作为思路参考。

1.1 赛题数据

赛题以街道字符为为赛题数据，数据集报名后可见并可下载（也可使用本文中1.4的数据下载代码自动下载并处理），该数据来自收集的SVHN街道字符，并进行了匿名采样处理。训练集数据包括3W张照片，验证集数据包括1W张照片，每张照片包括颜色图像和对应的编码类别和具体位置；为了保证比赛的公平性，测试集A包括4W张照片，测试集B包括4W张照片。

**注：**需要注意的是本赛题需要选手识别图片中所有的字符，为了降低比赛难度，我们提供了训练集、验证集和测试集中字符的位置框。

1.2 赛题数据

对于训练数据每张图片将给出对于的编码标签，和具体的字符框的位置（训练集、测试集和验证集都给出字符位置），可用于模型训练：

字符的坐标具体如下所示：

在比赛数据（训练集、测试集和验证集）中，同一张图片中可能包括一个或者多个字符，因此在比赛数据的JSON标注中，会有两个字符的边框信息：

1.3 评测指标

选手提交结果与实际图片的编码进行对比，以编码整体识别准确率为评价指标。任何一个字符错误都为错误，最终评测指标结果越大越好，具体计算公式如下：

Score=编码识别正确的数量/测试集图片数量

1.4 数据下载

下面的代码可以直接根据mchar_data_list_0515.csv文件，将所有相关数据集下载，并保存到当前路径的data下。（注意：使用Pycharm或其他IDE时，自己文件的当前目录）。

#下载数据

```python
import requests
import pandas as pd
import os
import zipfile

data=pd.read_csv('./data/mchar_data_list_0515.csv')


mypath='./data/'
if not os.path.exists(mypath):
    os.makedirs(mypath)

# 下载数据

for i,link in enumerate(data['link']):
    file_name = data['file'][i]
    print(file_name, '\t', link)
    file_name = mypath  + file_name
    if not os.path.exists(file_name):
        response = requests.get(link, stream=True)
        with open( file_name, 'wb') as f:
            for chunk in response.iter_content(chunk_size=1024):
                if chunk:
                    f.write(chunk)

# 解压数据
zip_list = ['mchar_train', 'mchar_test_a', 'mchar_val']
for little_zip in zip_list: 
    if not os.path.exists(mypath  + little_zip):
        zip_file = zipfile.ZipFile(mypath  + little_zip + '.zip', 'r')
        zip_file.extractall(path = mypath )
#删除_MACOSX文件夹，这是上传者的mac压缩文件时自动生成的，类似图片封面的文件，无用，可删去
if os.path.exists(mypath + dir_name + '/' + '__MACOSX'):
    shutil.rmtree(mypath + dir_name + '/' + '__MACOSX')

结果拦显示：

mchar_train.zip      http://tianchi-competition.oss-cn-hangzhou.aliyuncs.com/531795/mchar_train.zip
mchar_train.json     http://tianchi-competition.oss-cn-hangzhou.aliyuncs.com/531795/mchar_train.json
mchar_val.zip    http://tianchi-competition.oss-cn-hangzhou.aliyuncs.com/531795/mchar_val.zip
mchar_val.json   http://tianchi-competition.oss-cn-hangzhou.aliyuncs.com/531795/mchar_val.json
mchar_test_a.zip     http://tianchi-competition.oss-cn-hangzhou.aliyuncs.com/531795/mchar_test_a.zip
mchar_sample_submit_A.csv    http://tianchi-competition.oss-cn-hangzhou.aliyuncs.com/531795/mchar_sample_submit_A.csv

1.5 读取数据

import json
import cv2
import numpy as np
import matplotlib.pyplot as plt
train_json = json.load(open('./data/mchar_train.json'))
print(len(train_json)) # 训练集大小
print(list(train_json.keys())[:3]) #打印dict里前三个键值

30000
['000000.png', '000001.png', '000002.png']

print(train_json['000000.png'])  #查看000000.png的value

{'height': [219, 219],
 'label': [1, 9],
 'left': [246, 323],
 'top': [77, 81],
 'width': [81, 96]}

定义一个函数，将.json中的每个dict类型数据处理为一个arrray类型的数据

# 数据标注处理
def parse_json(d):
    arr = np.array([
        d['top'], d['height'], d['left'],  d['width'], d['label']
    ])
    arr = arr.astype(int)
    return arr
parse_json(train_json['000000.png'])

结果：

array([[ 77,  81],
       [219, 219],
       [246, 323],
       [ 81,  96],
       [  1,   9]])

• 图片000001.png

# 图片000001.png
img = cv2.imread('../data/mchar_train/000001.png')
arr = parse_json(train_json['000001.png'])
print("图片中可能包括{}个字符".format(arr.shape[1]))

plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
plt.xticks([]); plt.yticks([])

for idx in range(arr.shape[1]):# 多个标注字符
    plt.subplot(1, arr.shape[1]+1, idx+2)
    plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
    plt.title(arr[4, idx])
    plt.xticks([]); plt.yticks([])

结果显示：

图片中可能包括2个字符

• 图片000010.png

# 图片000010.png
img = cv2.imread('../data/mchar_train/000010.png')
arr = parse_json(train_json['000010.png'])
print("图片中可能包括{}个字符".format(arr.shape[1]))

plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
plt.xticks([]); plt.yticks([])

for idx in range(arr.shape[1]):# 多个标注字符
    plt.subplot(1, arr.shape[1]+1, idx+2)
    plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
    plt.title(arr[4, idx])
    plt.xticks([]); plt.yticks([])

结果显示：

图片中可能包括2个字符

#图片000090.png
img = cv2.imread('../data/mchar_train/000090.png')
arr = parse_json(train_json['000090.png'])
print("图片中可能包括{}个字符".format(arr.shape[1]))

plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
plt.xticks([]); plt.yticks([])

for idx in range(arr.shape[1]):# 多个标注字符
    plt.subplot(1, arr.shape[1]+1, idx+2)
    plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
    plt.title(arr[4, idx])
    plt.xticks([]); plt.yticks([])

图片中可能包括3个字符

从三个例子可以看出，图片的大小，标注的字符个数以及分辨率都可能不一样。

1.6 解题思路

赛题思路分析：赛题本质是分类问题，需要对图片的字符进行识别。但赛题给定的数据图片中不同图片中包含的字符数量不等，如下图所示。有的图片的字符个数为2，有的图片字符个数为3，有的图片字符个数为4。

因此本次赛题的难点是需要对不定长的字符进行识别，与传统的图像分类任务有所不同。为了降低参赛难度，我们提供了一些解题思路供大家参考：

• 简单入门思路：定长字符识别
  可以将赛题抽象为一个定长字符识别问题，在赛题数据集中大部分图像中字符个数为2-4个，最多的字符 个数为6个。
  因此可以对于所有的图像都抽象为6个字符的识别问题，字符23填充为23XXXX，字符231填充为231XXX。
  
  经过填充之后，原始的赛题可以简化了6个字符的分类问题。在每个字符的分类中会进行11个类别的分类，假如分类为填充字符X，则表明该字符为空。
• 专业字符识别思路：不定长字符识别
  
  在字符识别研究中，有特定的方法来解决此种不定长的字符识别问题，比较典型的有CRNN字符识别模型。
  在本次赛题中给定的图像数据都比较规整，可以视为一个单词或者一个句子。
• 专业分类思路：检测再识别
  在赛题数据中已经给出了训练集、验证集中所有图片中字符的位置，因此可以首先将字符的位置进行识别，利用物体检测的思路完成。
  
  此种思路需要参赛选手构建字符检测模型，对测试集中的字符进行识别。选手可以参考物体检测模型SSD或者YOLO来完成。

2 参考资料：

• https://tianchi.aliyun.com/notebook-ai/home?spm=5176.12281897.0.0.282939a92Y6rsq#notebookLabId=95474&notebookType=PRIVATE&isHelp=false&operaType=5
• https://tianchi.aliyun.com/notebook-ai/detail?spm=5176.12281897.0.0.282939a92Y6rsq&postId=108342
  https://github.com/datawhalechina/team-