20W 手语视频数据分析

导读：最近接到了师哥请求，让我帮他分析出20W手语视频数据中的不正常数据。所谓不正常数据：就是那些帧数基本差不多，但帧率很低而导致视频时长过长，从而无法播放的视频数据。这些数据的特征如果被特征器提取然后用于训练模型的话，会影响模型识别性能。

        通过设置字典：{视频名称、帧数、帧率、帧长}这四个属性，用以存放提取到的视频信息数据。以下仅展示提取到的部分视频信息：

 以115 文件夹的视频数据为例：

        根据提取的视频信息数据研究分析发现：错误数据的frame_rate 小于1，而正常数据frame_rate 通常大于1；正常视频数据的frame_length 峰值几乎没有变化，但错误数据的frame_length 峰值通常很高；虽然有些视频数据frame_length 超过(10s ~ 12s，视具体视频语句而定) 后存在冗余，但它仍然是正常数据。

由图可以看出：帧率变化比较明显，所以用它可以更好地识别出错误数据

综上：错误数据 frame_rate < 1; 冗余数据 frame_length > (10~12)，通过字典属性进行过滤，这样就可以很好地分析出错误数据和冗余数据啦！

 具体代码如下：

# coding = 'utf-8'
import os
import cv2
import sys
import numpy as np
import pandas as pd

from openpyxl import Workbook
from openpyxl.styles import Font, colors, PatternFill

# 定义获取视频文件夹视频信息函数
def getVideoInfo(path):

    # 获取视频文件夹下所有视频文件
    video_list = os.listdir(path)
    video_list.sort()

    for i in range(len(video_list)):
        print('--------------------------节点检查------------------------')
        video_path =  f'/XXX/{video_list[i]}/'
        
        # 建立视频文件信息字典
        dict = {'video_name':[],'frame_num':[],'frame_rate':[],'frame_length':[]}
        for video in os.listdir(video_path):
            # 获取视频文件名称
            video_name = video.split('.')[0]
            dict['video_name'].append(video_name)

            cap = cv2.VideoCapture(f'{video_path}{video}')
            # while (cap.isOpened()):
            #     ret, frame = cap.read()

            # ------检查每一个视频是否成功打开----------
            if (cap.isOpened()):
                print ('视频打开成功')
            else:
                print ('视频打开失败')
                break
            # 获取视频帧数
            frame_num = int(cap.get(cv2.CAP_PROP_FRAME_COUNT))
            dict['frame_num'].append(frame_num)
            # 获取视频帧率
            frame_rate = cap.get(cv2.CAP_PROP_FPS)
            dict['frame_rate'].append(frame_rate)
            # 获取视频帧长
            frame_length = frame_num / frame_rate
            dict['frame_length'].append(frame_length)

            # 释放视频流
            cap.release()
            # cap.destroyAllWindows()

        # 视频信息存至DataFreme
        data = pd.DataFrame(dict)
        data.to_csv(f'/XXX/{video_list[i]}_info.csv',index=False,header=False )
        print(f'{video_list[i]}'+'.csv'+'保存成功')
        
        # 根据视频信息提取错误数据信息
        data1 = data[data['frame_rate']<1]
    # 将帧率小于1的视频信息存至CSV文件
    data1 = pd.DataFrame(data1)
    data1.to_csv('/XXX/Error_Info.csv',index=False,header=False )
    print('Error_Info.csv'+'保存成功')


 # 定义主函数
if __name__ == '__main__':
    # 一级文件夹路径
    path = "/XXX/dataset/" # 一级文件
    video_info = getVideoInfo(path)

 以上“XXX”是自己数据集路径，需要根据相应环境做出修改。

最后补充一下，本人研一小白菜，欢迎大佬们指正，也欢迎同行们交流！