天池CV赛事-街景字符编码识别(一)——赛题理解


系列文章
天池CV赛事-街景字符编码识别(一) —— 赛题理解
天池CV赛事-街景字符编码识别(二) —— 数据读取与数据扩增
天池CV赛事-街景字符编码识别(三)—— 字符识别模型
天池CV赛事-街景字符编码识别(四)—— 模型训练与验证
天池CV赛事-街景字符编码识别(五)—— 模型集成


一、赛题理解

1.1 学习目标

通过之前的python+opencv的第一阶段学习,此前系列的链接https://blog.csdn.net/bosszhao20190517/article/details/105645619,掌握了图像处理的基础方法和原理,此次跟随Datawhale参加天池大赛——零基础入门CV赛事-街景字符编码识别,报名链接https://tianchi.aliyun.com/competition/entrance/531795/introduction,走进计算机视觉的世界,在比赛中学习并且提升自己。

这次比赛旨在学习pytorch的框架,并且利用该框架构建CNN模型,并进行图像的识别。

赛题任务:要求选手预测街道字符编码,这是一个典型的字符识别问题。为了简化赛题的难度,赛题数据采用公开数据集SVHN,有很多paper都可以作为参考。

1.2 赛题数据

赛题以街道字符为为赛题数据,数据集报名后可见并可下载,该数据来自收集的SVHN街道字符,并进行了匿名采样处理。

注意:只能使用比赛给定的数据集完成训练,不能使用SVHN原始数据集进行训练。

训练集数据包括3W张照片,验证集数据包括1W张照片,每张照片包括颜色图像和对应的编码类别和具体位置;为了保证比赛的公平性,测试集A包括4W张照片,测试集B包括4W张照片。

需要注意的是本赛题需要选手识别图片中所有的字符,为了降低比赛难度,我们提供了训练集、验证集和测试集中所有字符的位置框。换句话说,所有待识别的字符的位置已经给出了。

1.3 字段表

所有的数据(训练集、验证集和测试集)的标注使用JSON格式,并使用文件名进行索引。如果一个文件中包括多个字符,则使用列表将字段进行组合。

FieldDescription
top左上角坐标X
height字符高度
left左上角坐标Y
width字符宽度
label字符编码

如下图所示:

在比赛数据(训练集、测试集和验证集)中,同一张图片中可能包括一个或者多个字符,因此在比赛数据的JSON标注中,会有两个字符的边框信息,例如:

原始图片图片JSON标注
在这里插入图片描述在这里插入图片描述

1.4 评价标准

选手提交结果与实际图片的编码进行对比,以编码整体识别准确率为评价指标。任何一个字符错误都为错误,最终评测指标结果越大越好,具体计算公式如下:

score=编码识别正确的数量/测试集图片数量

1.5 读取数据

读取JSON中标签的方式:

#%%

import json
import numpy as np
import cv2
import matplotlib.pyplot as plt

train_json = json.load(open('mchar_train.json'))

# 数据标注处理
def parse_json(d):
   arr = np.array([
       d['top'], d['height'], d['left'],  d['width'], d['label']
   ])
   arr = arr.astype(int)
   return arr

img = cv2.imread('mchar_train/mchar_train/000160.png')
arr = parse_json(train_json['000160.png'])

plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)
plt.imshow(img)
plt.xticks([]); plt.yticks([])

for idx in range(arr.shape[1]):
   plt.subplot(1, arr.shape[1]+1, idx+2)
   plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
   plt.title(arr[4, idx])
   plt.xticks([]); plt.yticks([])

plt.savefig('test_json_000160.png')
plt.show()
   

1.6 思路分析

这里因为每张图片里含的字符个数不确定,如下所示:

字符属性图片
字符:42 字符个数:2在这里插入图片描述
字符:817 字符个数:3在这里插入图片描述
字符:7358 字符个数:4在这里插入图片描述

虽然也是图像的分类任务,但是这次是对于不定长的字符进行识别,大概思路有以下几种:

  • 简单入门思路:定长字符识别

可以将赛题抽象为一个定长字符识别问题,数据集中较多的为2-4个,最多的为6个。
因此可以对于所有的图像都抽象为6个字符的识别问题,字符23填充为23XXXX,字符231填充为231XXX。

  • 专业字符识别思路:不定长字符识别

在字符识别研究中,有特定的方法来解决此种不定长的字符识别问题,比较典型的有CRNN字符识别模型。
在本次赛题中给定的图像数据都比较规整,可以视为一个单词或者一个句子。

  • 专业分类思路:检测再识别

在赛题数据中已经给出了训练集、验证集中所有图片中字符的位置,因此可以首先将字符的位置进行识别,利用物体检测的思路完成。

此种思路需要构建字符检测模型,对测试集中的字符进行识别。选手可以参考物体检测模型SSD或者YOLO来完成。

推荐阅读:
Python+OpenCV图像处理基础知识

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值