在深度学习领域,YOLO(You Only Look Once)模型因其速度和准确率在目标检测任务中备受瞩目。YOLOv3-Tiny 版本尤其适用于需要快速检测的应用场景。在这篇文章中,我们将使用 JavaScript 实现基于 YOLOv3-Tiny 的验证码识别任务。
准备工作
系统与环境
操作系统:Ubuntu 16.04
Node.js 版本:12+
CUDA 版本:10.0
GPU:GeForce GTX 1080
工具与资源
Darknet:深度学习框架,用于实现 YOLO 模型 GitHub - Darknet
labelImg:用于标注训练数据的工具 GitHub - labelImg
实践步骤
安装环境
首先,确保 CUDA 等环境已安装完毕。我们将使用 GPU 进行训练。然后,将 Darknet 克隆到本地:
bash
git clone https://github.com/pjreddie/darknet
cd darknet
编译 Darknet
进入 darknet 文件夹,修改 Makefile 文件:
Makefile
GPU=1 # 使用 GPU
CUDNN=1 # 使用 CUDNN
OPENCV=0 # 不使用 OpenCV
OPENMP=0
DEBUG=0
使用以下命令进行编译:
bash
make
编译完成后,会生成一个名为 darknet 的二进制文件。
修改配置文件
我们选择 cfg/yolov3-tiny.cfg 文件进行修改,以适应我们的任务需求:
ini
# Line 3
batch=24 # 每个训练步骤使用 24 张图片
# Line 4
subdivisions=8 # 将 batch 分成 8 个部分
# Line 127
filters=(classes + 5)*3 # 我们的任务中 filters=18
# Line 135
classes=1 # 我们要检测的类别数
# Line 171
filters=(classes + 5)*3 # 同上
# Line 177
classes=1 # 同上
关于 filters = (classes + 5) * 3 的计算方式,可以参考 YOLOv3 论文第 2.3 节内容 YOLOv3 Paper。
准备数据
我们使用 Selenium 的 Google Driver 下载了大量验证码图片,然后使用 labelImg 工具进行数据标注。
下载并编译 labelImg:
bash
git clone https://github.com/tzutalin/labelImg
cd labelImg
pip install pyqt5 lxml
make qt5py3
完成安装后,使用 labelImg 工具进行图片的标注工作。由于我们只有一类内容,因此标注的框只有一类。
生成训练数据
将标注好的数据整理成训练所需的格式。我们编写了 data.py 脚本生成训练数据配置文件,并将标注文件转换为 darknet 可识别的格式。
python
import os
import glob
def generate_txt_file(img_dir, output_file):
img_files = glob.glob(os.path.join(img_dir, '*.jpg'))
with open(output_file, 'w') as f:
for img in img_files:
f.write(img + '\n')
# 使用示例
generate_txt_file('imgs', 'train.txt')
generate_txt_file('imgs_val', 'val.txt')
下载预训练权重
在 weights 文件夹下使用 darknet53.sh 文件下载预训练的权重文件:
bash
cd weights
./darknet53.sh
配置文件准备
在 data 文件夹中准备如下文件:
train.txt - 训练数据文件,由 data.py 生成
char.names - 类别配置文件
val.txt - 验证数据文件
train.data - 训练配置表
开始训练
进入 darknet 文件夹,使用以下命令开始训练:
bash
./darknet detector train data/train.data cfg/yolov3-tiny.cfg weights/darknet53.conv.74 -gpus 0
通常,当训练的 loss 达到 0.6 左右时,就可以停止训练。
验证结果
使用以下命令验证训练好的模型:
./darknet detector test data/train.data cfg/yolov3-tiny.cfg weights/yolov3-tiny_final.weights test_imgs/1.jpg -thresh 0.5 -gpus 0
在 darknet 文件夹中会生成一个名为 predictions.jpg 的文件,这是我们验证出来的结果文件。
JavaScript 代码实现
我们使用 JavaScript 语言来实现上述过程中的部分关键步骤。以下是 JavaScript 代码示例:
安装依赖库
首先,我们需要安装必要的 JavaScript 库。我们将使用 tensorflow.js 来进行图像处理和目标检测。
使用 npm 安装 tensorflow.js:
bash
npm install @tensorflow/tfjs @tensorflow/tfjs-node @tensorflow/tfjs-node-gpu
读取配置文件并进行推理
我们将使用 tensorflow.js 库来进行图像处理和目标检测。
javascript
const tf = require('@tensorflow/tfjs-node');
const fs = require('fs');
const Jimp = require('jimp');
// 加载 YOLOv3-tiny 模型
const loadModel = async () => {
const model = await tf.loadGraphModel('file://path/to/yolov3-tiny/model.json');
return model;
};
// 读取图片并进行预处理
const preprocessImage = async (imagePath) => {
const image = await Jimp.read(imagePath);
image.resize(416, 416);
const buffer = await image.getBufferAsync(Jimp.MIME_JPEG);
const uint8Array = new Uint8Array(buffer);
const tensor = tf.node.decodeImage(uint8Array, 3);
const expanded = tf.expandDims(tensor, 0);
const normalized = expanded.div(255.0);
return normalized;
};
// 进行推理
const detectObjects = async (model, image) => {
const prediction = model.execute(image);
return prediction;
};
// 解析检测结果
const parseDetections = (detections, imageWidth, imageHeight, threshold) => {
const boxes = detections[0].arraySync();
const scores = detections[1].arraySync();
const classes = detections[2].arraySync();
const results = [];
for (let i = 0; i < scores.length; i++) {
if (scores[i] > threshold) {
const [y, x, height, width] = boxes[i];
const left = x * imageWidth;
const top = y * imageHeight;
const right = left + width * imageWidth;
const bottom = top + height * imageHeight;
results.push({
class: classes[i],
score: scores[i],
box: [left, top, right, bottom],
});
}
}
return results;
};
// 绘制边界框
const drawBoxes = async (imagePath, detections) => {
const image = await Jimp.read(imagePath);
detections.forEach(detection => {
const [left, top, right, bottom] = detection.box;
image.drawRectangle(left, top, right - left, bottom - top, Jimp.cssColorToHex('#00FF00'));
});
await image.writeAsync('predictions.jpg');
};
// 主函数
const main = async () => {
const model = await loadModel();
const image = await preprocessImage('test_imgs/1.jpg');
const detections = await detectObjects(model, image);
const parsedDetections = parseDetections(detections, 416, 416, 0.5);
await drawBoxes('test_imgs/1.jpg', parsedDetections);
console.log('Result saved to predictions.jpg');
};
main().catch(console.error);