驾驶员状态识别
一般来讲，人在疲劳的时候会有比较典型的面部表情或动作特征，如较长的眨眼持续时间、较慢的眼睑运动、点头、打哈欠等。
基于摄像头的驾驶员监测方案正是利用这一点：首先挖掘出人在疲劳状态下的表情特征，然后将这些定性的表情特征进行量化，提取出面部特征点及特征指标作为判断依据，再结合实验数据总结出基于这些参数的识别方法，最后输入获取到的状态数据进行识别和判断。
前不久，飞桨官方在AI Studio上挑选了45个优质项目，优质项目链接：https://shimo.im/sheets/CqQvXq3JhGqCxdXv/MODOC
开发者 BIT可达鸭 开发的基于PaddleX的驾驶员状态识别和Paddle-Lite部署是上面的优质项目之一，将其转换成PaddleHub模型可供更多开发者快速使用。
参考资料：
- 基于PaddleX的驾驶员状态识别和Paddle-Lite部署
- 手把手带你将Paddlex模型部署为PaddleHub
- 【PaddleHub模型贡献】一行代码实现水表的数字表盘分割
- 【PaddleHub模型贡献】一行代码实现从彩色图提取素描线稿
- 【PaddleHub模型贡献】一行代码实现蛇种识别
一、工具简介
PaddleX
PaddleX是飞桨全流程开发工具，集飞桨核心框架、模型库、工具及组件等深度学习开发所需全部能力于一身，打通深度学习开发全流程，并提供简明易懂的Python API，方便用户根据实际生产需求进行直接调用或二次开发，为开发者提供飞桨全流程开发的最佳实践。目前，该工具代码已开源于GitHub，同时可访问PaddleX在线使用文档，快速查阅读使用教程和API文档说明。
PaddleX代码GitHub链接：https://github.com/PaddlePaddle/PaddleX
PaddleX文档链接：https://paddlex.readthedocs.io/zh_CN/develop/
PaddleX官网链接：https://www.paddlepaddle.org.cn/paddle/paddlex
PaddleHub
PaddleHub官方Github地址（欢迎star~）：
https://github.com/PaddlePaddle/PaddleHub
PaddleHub旨在为开发人员提供丰富，高质量，可直接使用的预训练模型。开发者无需深度学习背景，便可以快速使用PaddleHub内置的AI模型。其模型涵盖图像，文本，音频和视频的4个主要类别，并支持一键式预测，轻松的服务部署和迁移学习，另外，所有模型都是开源的，可以在离线情况下免费下载和使用。
二、数据集介绍
数据集地址：https://www.kaggle.com/c/state-farm-distracted-driver-detection
该数据集由kaggle提供，共包括十个类别：
'c0': 'normal driving',
'c1': 'texting-right',
'c2': 'talking on the phone-right',
'c3': 'texting-left',
'c4': 'talking on the phone-left',
'c5': 'operating the radio',
'c6': 'drinking',
'c7': 'reaching behind',
'c8': 'hair and makeup',
'c9': 'talking to passenger'
# 解压数据集（注意要根据环境修改路径——
!unzip /home/aistudio/data/data35503//imgs.zip -d /home/aistudio/work/imgs
!cp /home/aistudio/data/data35503/lbls.csv /home/aistudio/work/
三、模型开发
1.安装PaddleX
!pip install paddlex -i https://mirror.baidu.com/pypi/simple
import os
# 设置使用0号GPU卡（如无GPU，执行此代码后仍然会使用CPU训练模型）
os.environ['CUDA_VISIBLE_DEVICES'] = '0'
# jupyter中使用paddlex需要设置matplotlib
import matplotlib
import os
os.chdir('/home/aistudio/work/')
matplotlib.use('Agg')
import paddlex as pdx
2.定义数据加载器
这里主要是通过 pdx.datasets.ImageNet 类定义用于识别任务的数据加载器；
import paddlehub as hub
import paddle.fluid as fluid
import numpy as np
base = './imgs/'
datas = []
for i in range(10):
c_base = base+'train/c{}/'.format(i)
for im in os.listdir(c_base):
pt = os.path.join('train/c{}/'.format(i), im)
line = '{} {}'.format(pt, i)
# print(line)
datas.append(line)
np.random.seed(10)
np.random.shuffle(datas)
total_num = len(datas)
train_num = int(0.8*total_num)
test_num = int(0.1*total_num)
valid_num = total_num - train_num - test_num
print('train:', train_num)
print('valid:', valid_num)
print('test:', test_num)
with open(base+'train_list.txt', 'w') as f:
for v in datas[:train_num]:
f.write(v+'\n')
with open(base+'test_list.txt', 'w') as f:
for v in datas[-test_num:]:
f.write(v+'\n')
with open(base+'val_list.txt', 'w') as f:
for v in datas[train_num:-test_num]:
f.write(v+'\n')
with open(base+'labels.txt', 'w') as f:
for i in range(10):
f.write('ch{}\n'.format(i))
train: 17939
valid: 2243
test: 2242
from paddlex.cls import transforms
train_transforms = transforms.Compose([
transforms.ResizeByShort(short_size=256),
transforms.RandomCrop(crop_size=224),
transforms.RandomDistort(),
transforms.Normalize()
])
eval_transforms = transforms.Compose([
transforms.ResizeByShort(short_size=256),
transforms.CenterCrop(crop_size=224),
transforms.Normalize()
])
train_dataset = pdx.datasets.ImageNet(
data_dir='imgs',
file_list='imgs/train_list.txt',
label_list='imgs/labels.txt',
transforms=train_transforms,
shuffle=True)
eval_dataset = pdx.datasets.ImageNet(
data_dir='imgs',
file_list='imgs/val_list.txt',
label_list='imgs/labels.txt',
transforms=eval_transforms)
2021-03-12 17:20:08 [INFO] Starting to read file list from dataset...
2021-03-12 17:20:08 [INFO] 17939 samples in file imgs/train_list.txt
2021-03-12 17:20:08 [INFO] Starting to read file list from dataset...
2021-03-12 17:20:08 [INFO] 2243 samples in file imgs/val_list.txt
num_classes = len(train_dataset.labels)
print(num_classes)
10
3.模型训练
# 定义并训练模型
model = pdx.cls.MobileNetV3_small_ssld(num_classes=num_classes)
model.train(num_epochs=20,
train_dataset=train_dataset,
train_batch_size=32,
log_interval_steps=20,
eval_dataset=eval_dataset,
lr_decay_epochs=[1],
save_interval_epochs=1,
learning_rate=0.01,
save_dir='output/mobilenetv3')
2021-03-12 22:53:09 [INFO] [TRAIN] Epoch=20/20, Step=500/560, loss=0.117403, acc1=0.96875, acc5=1.0, lr=0.001, time_each_step=1.7s, eta=0:2:40
2021-03-12 22:53:43 [INFO] [TRAIN] Epoch=20/20, Step=520/560, loss=0.057465, acc1=1.0, acc5=1.0, lr=0.001, time_each_step=1.68s, eta=0:2:5
2021-03-12 22:54:12 [INFO] [TRAIN] Epoch=20/20, Step=540/560, loss=0.521278, acc1=0.84375, acc5=0.96875, lr=0.001, time_each_step=1.44s, eta=0:1:27
2021-03-12 22:54:37 [INFO] [TRAIN] Epoch=20/20, Step=560/560, loss=0.20346, acc1=0.9375, acc5=1.0, lr=0.001, time_each_step=1.29s, eta=0:0:58
2021-03-12 22:54:37 [INFO] [TRAIN] Epoch 20 finished, loss=0.297043, acc1=0.89721, acc5=0.986719, lr=0.001 .
2021-03-12 22:54:37 [INFO] Start to evaluating(total_samples=2243, total_steps=71)...
100%|██████████| 71/71 [00:57<00:00, 1.23it/s]
2021-03-12 22:55:35 [INFO] [EVAL] Finished, Epoch=20, acc1=0.988854, acc5=1.0 .
2021-03-12 22:55:35 [INFO] Model saved in output/mobilenetv3/best_model.
2021-03-12 22:55:36 [INFO] Model saved in output/mobilenetv3/epoch_20.
2021-03-12 22:55:36 [INFO] Current evaluated best model in eval_dataset is epoch_20, acc1=0.9888542131074454
4.导出预测模型
!paddlex --export_inference --model_dir=output/mobilenetv3/best_model --save_dir=inference_model
5.评估模型性能
save_dir = 'output/mobilenetv3/best_model'
model = pdx.load_model(save_dir)
model.evaluate(eval_dataset, batch_size=1, epoch_id=None, return_details=False)
2020-05-18 09:25:35 [INFO] Model[MobileNetV3_small_ssld] loaded.
2020-05-18 09:25:35 [INFO] Start to evaluating(total_samples=2243, total_steps=2243)...
100%|██████████| 2243/2243 [00:58<00:00, 38.38it/s]
OrderedDict([('acc1', 0.9790459206419974), ('acc5', 1.0)])
四、模型转换
这里我们需要将PaddleX训练得到的模型转换成PaddleHub的Module
PaddleX模型可以快速转换成PaddleHub模型，只需要用下面这一句命令即可：
!hub convert --model_dir work/inference_model \
--module_name DriverStatusRecognition \
--module_version 1.0.0 \
--output_dir outputs
转换成功后的模型保存在outputs文件夹下，我们解压一下：
!gzip -dfq outputs/DriverStatusRecognition.tar.gz
!tar -xf outputs/DriverStatusRecognition.tar
五、模型预测
安装我们刚刚转换的模型：
!hub install DriverStatusRecognition
[2021-03-13 12:09:07,593] [ INFO] - Successfully uninstalled DriverStatusRecognition
[2021-03-13 12:09:07,785] [ INFO] - Successfully installed DriverStatusRecognition-1.0.0
实时检测驾驶员状态，从视频流中抽帧：
import cv2
import paddlehub as hub
module = hub.Module(directory='DriverStatusRecognition') # 一行代码实现模型调用
images = [cv2.imread('work/imgs/test/img_1622.jpg'), cv2.imread('work/imgs/test/img_14165.jpg'), cv2.imread('work/imgs/test/img_47183.jpg')]
results = module.predict(images=images)
for result in results:
images)
for result in results:
print(result)
[2021-03-13 12:24:04,960] [ WARNING] - The _initialize method in HubModule will soon be deprecated, you can use the __init__() to handle the initialization of the object
[{'category_id': 5, 'category': 'ch5', 'score': 0.47390476}]
[{'category_id': 2, 'category': 'ch2', 'score': 0.99997914}]
[{'category_id': 1, 'category': 'ch1', 'score': 0.99996376}]
六、总结与升华
根据CDC机动车安全部门的说法，五分之一的车祸 是由分心的驾驶员引起的。令人遗憾的是，每年因分心驾驶而导致的425,000人受伤和3,000人死亡。
希望能通过检测驾驶员的行为，从而改善上面这些令人震惊的统计数据，提醒驾驶员专心驾驶，减少交通事故的发生。
个人简介
北京联合大学 机器人学院 自动化专业 2018级 本科生 郑博培
百度飞桨开发者技术专家 PPDE
百度飞桨官方帮帮团、答疑团成员
深圳柴火创客空间 认证会员
百度大脑 智能对话训练师
阿里云人工智能、DevOps助理工程师
我在AI Studio上获得至尊等级，点亮9个徽章，来互关呀！！！
https://aistudio.baidu.com/aistudio/personalcenter/thirdview/147378
659
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
