天池训练营学习记录系列

---

前言

本系列主要是记录学习视觉方面的部分学习过程。

---

一、学习知识点概要

CV之街道字符识别

• 赛题目标：通过这道赛题可以引导大家走入计算机视觉的世界，主要针对竞赛选手上手视觉赛题，提高对数据建模能力。
• 赛题任务：赛题以计算机视觉中字符识别为背景，要求选手预测街道字符编码，这是一个典型的字符识别问题。为了简化赛题难度，赛题数据采用公开数据集SVHN，因此大家可以选择很多相应的paper作为思路参考。
  

二、学习内容

1.理解赛题背景和赛题数据

1. 数据介绍
赛题以街道字符为为赛题数据，该数据来自收集的SVHN街道字符，并进行了匿名采样处理。
训练集数据包括3W张照片，验证集数据包括1W张照片，每张照片包括颜色图像和对应的编码类别和具体位置；为了保证比赛的公平性，测试集A包括4W张照片，测试集B包括4W张照片。
2.数据标签
对于训练数据每张图片将给出对于的编码标签，和具体的字符框的位置（训练集、验证集都给出字符位置），可用于模型训练：

Field	Description
top	左上角坐标X
height	字符高度
left	左上角最表Y
width	字符宽度
label	字符编码

注：在比赛数据（训练集和验证集）中，同一张图片中可能包括一个或者多个字符，因此在比赛数据的JSON标注中，会有两个字符的边框信息

2.理解赛题的解题思路

赛题本质是分类问题，需要对图片的字符进行识别。但赛题给定的数据图片中不同图片中包含的字符数量不等，如下图所示。有的图片的字符个数为2，有的图片字符个数为3，有的图片字符个数为4如图：

难点是需要对不定长的字符进行识别，与传统的图像分类任务有所不同。

• 简单思路：定长字符识别
  一个定长字符识别问题，在赛题数据集中大部分图像中字符个数为2-4个，最多的字符 个数为6个。
  因此可以对于所有的图像都抽象为6个字符的识别问题，字符23填充为23XXXX，字符231填充为231XXX。
  如图：经过填充之后，原始的赛题可以简化了6个字符的分类问题。在每个字符的分类中会进行11个类别的分类，假如分类为填充字符，则表明该字符为空。

• 专业字符识别思路：不定长字符识别
  典型的有CRNN字符识别模型，由于给定的图像数据都比较规整，可以视为一个单词或者一个句子。

• 专业分类思路：检测再识别
  由于已经给出了训练集、验证集中所有图片中字符的位置，因此可以首先将字符的位置进行识别，利用物体检测的思路完成。
  因此需要：构建字符检测模型，对测试集中的字符进行识别。如：CTPN、Hybrid、Segmentation、光学字符识别（OCR）等。

2.读入数据

JSON中标签的读取方式：

# import...
import json
import cv2
import numpy as np
from matplotlib import pyplot as plt

train_json = json.load(open('./train.json'))  # open()参数根据实际标签位置进行调整

# 数据标注处理
def parse_json(d):
    arr = np.array([
        d['top'], d['height'], d['left'],  d['width'], d['label']
    ])
    arr = arr.astype(int)
    return arr

img = cv2.imread('./train/000000.png')  # 路径根据实际位置进行调整
arr = parse_json(train_json['000000.png'])

plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
plt.xticks([]); plt.yticks([])

for idx in range(arr.shape[1]):
    plt.subplot(1, arr.shape[1]+1, idx+2)
    plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
    plt.title(arr[4, idx])
    plt.xticks([]); plt.yticks([])

结果：

---

三、总结

在学习过程中会遇见以前忽略的一些知识点，从学习中可以查漏补缺，同时亦会感受学无止境

以上就是今天要讲的内容，本文仅仅简单介绍了学习竞赛的最开始的基本情况，接下来不定期更新后续的一些基本思路和情况欢迎大家在评论区交流学习呀。