在日常生活中,水泥基建类建筑无处不在,从脚下的路面到庞大的地铁系统、复杂的隧道网络,它们构成了现代城市的基础框架。然而,这些建筑设施并非一旦建成便一劳永逸,而是需要持续的维护与检修,以确保其安全、高效地运行。水泥基建设施作为现代城市运转的重要支撑,其安全稳定运行至关重要。传统的人工巡检模式已难以满足日益增长的基建设施运维需求,暴露出效率低下、成本高昂、安全隐患等诸多问题。随着人工智能技术的快速发展,AI赋能的智能化巡检模式正在重塑传统基建运维体系,开启基建安全管理的新篇章。
一、传统巡检模式面临严峻挑战
传统的巡检作业高度依赖人工,经验丰富的工程师需要亲自前往现场,利用专业设备进行细致的检查。这种模式虽然在一定程度上保证了巡检的质量,但其局限性也日益凸显。一方面,人工巡检存在漏检的风险,尤其是在面对庞大且复杂的基建网络时,难以做到百分之百的覆盖。另一方面,人工成本高昂,且难以维持24小时全天候的作业强度,这在一定程度上限制了巡检的效率和频率,在复杂的基建设施环境中,人眼识别存在视觉疲劳、注意力分散等问题,极易造成安全隐患的漏检误判。特别是在高海拔、海底隧道等危险作业环境中,人工巡检不仅效率低下,更对巡检人员的人身安全构成严重威胁。
此外,传统巡检还受到气象天气等因素的限制。恶劣的天气条件,如暴雨、大风、严寒等,往往导致巡检作业无法进行,从而延误了安全隐患的及时发现和处理。气象条件对人工巡检的影响尤为显著。恶劣天气下,巡检工作往往被迫中断,难以及时发现和处理突发问题。这种被动式的巡检模式,无法满足现代城市对基建设施安全运行的高标准要求。更为严重的是,一些基建设施位于高海拔、塔吊、海底、隧道等危险位置,这些场所的巡检作业对人员的安全构成了极大威胁。
人工巡检的高成本问题日益凸显。培养一名合格的巡检工程师需要投入大量时间和资源,而要实现24小时全天候巡检,则需要投入更多的人力成本。这种高成本、低效率的运维模式,已成为制约基建设施安全管理水平提升的主要瓶颈。
二、AI技术赋能智能化巡检
计算机视觉技术的突破为智能化巡检提供了技术支撑。通过深度学习算法,AI模型能够准确识别基建设施表面的裂缝、腐蚀、变形等缺陷,其识别精度已超越人眼极限。基于海量标注数据训练的AI模型,具备强大的特征提取和模式识别能力。
智能化巡检系统采用"云-边-端"协同架构,在边缘端部署AI算力设备,实现实时视频流分析。系统能够自动识别异常情况,即时推送预警信息,大幅提升隐患发现的及时性。这种架构既保证了实时性,又降低了数据传输成本。借助于海量铺设安装的摄像头,我们可以源源不断地采集作业场景下的图像数据。这些摄像头充当了“人眼”的角色,实时捕捉基建设施的运行状态。随后,由具有专业背景的师傅进行数据标注,以开发构建智能化的检测模型。这一模型能够识别各种潜在的安全隐患,如裂缝、变形、脱落等,从而实现对基建设施的智能化监测。更为先进的是,借助于边缘端的算力设备,我们可以将智能检测模型装载进去,实现对摄像头端采集到的画面进行实时智能检测识别。当发现问题或疑似问题时,系统能够及时将警报推送到中央平台端,由专门的巡检团队负责处理。这种AI赋能的作业模式极大地降低了人工成本,同时实现了全天候的工作方式,让巡检更加精准化、高效化。
三、智能化巡检带来的变革
AI智能化巡检模式相较于传统巡检具有诸多优势。首先,它降低了人工成本,提高了巡检效率。通过智能化的检测模型,系统能够自动识别和处理潜在的安全隐患,减少了人工巡检的需求。其次,AI巡检实现了全天候的工作方式,不受气象天气等因素的限制。这意味着无论天气如何恶劣,系统都能够持续地进行监测和警报,确保基建设施的安全运行。智能化巡检系统实现了7×24小时不间断工作,彻底改变了传统巡检的时间限制。系统能够同时监控多个点位,巡检效率呈指数级提升。这种变革使得基建设施的安全管理从被动应对转向主动预防。智能化巡检显著降低了人力成本和管理成本。AI系统一次性投入后,主要成本在于系统维护和升级,远低于持续的人工成本支出。这种成本优势使得大规模推广应用成为可能。
此外,AI巡检还能够提高巡检的精准度和覆盖率。智能检测模型能够识别各种细微的安全隐患,从而避免了人工巡检中可能存在的漏检问题。同时,通过摄像头的广泛铺设和实时监测,系统能够实现对基建设施的全面覆盖,确保每一个角落都在监控之下。
本文就是在这样的思考背景下想要尝试从实验的角度开发构建水泥基建场景诸如:路面、墙体类裂缝缺陷智能化检测系统,在前面的系列博文中我们已经进行了相关的开发实践,感兴趣的话可以自行移步阅读即可:
《AI赋能传统基建巡检开启智能化运维新时代,基于YOLOv5全系列【n/s/m/l/x】参数模型开发构建水泥基建场景下道路、墙体裂缝缺陷智能检测识别系统》
《AI赋能传统基建巡检开启智能化运维新时代,基于YOLOv7全系列【tiny/l/x】参数模型开发构建水泥基建场景下道路、墙体裂缝缺陷智能检测识别系统》
《AI赋能传统基建巡检开启智能化运维新时代,基于YOLOv8全系列【n/s/m/l/x】参数模型开发构建水泥基建场景下道路、墙体裂缝缺陷智能检测识别系统》
《AI赋能传统基建巡检开启智能化运维新时代,基于YOLOv9全系列【gelan/t/s/m/c/e—yolov9/t/s/m/c/e】参数模型开发构建水泥基建场景下道路、墙体裂缝缺陷智能检测识别系统》
本文主要是想要基于端到端实时目标检测模型YOLOv10全系列的模型来进行相应的开发实践,首先看下实例效果:
接下来看下实例数据:
官方发表了对于最新研究成果YOLOv10的论文,前面我做了简单的翻译阅读,感兴趣的话可以看下,有需要的话可以阅读官方英文论文即可:
《卷出新高度,直呼太强!时隔三月,YOLO再度进化升级:《YOLOv10—实时端到端目标检测》重磅来袭》
如果想要基于最新发表的YOLOv10从零开始开发构建自己的个性化目标检测系统,可以参照这里:
《基于最新发表的端到端实时目标检测模型YOLOv10开发构建自己的个性化目标检测系统从零构建模型完整训练、推理计算超详细教程【以自建数据远红外场景下的低空无人机目标检测为例】》
在过去的几年里,YOLOs由于其在计算成本和检测性能之间的有效平衡,已成为实时目标检测领域的主导范式。研究人员探索了YOLO的架构设计、优化目标、数据扩充策略等,取得了显著进展。然而,依赖非极大值抑制(NMS)进行后处理阻碍了YOLO的端到端部署,并对推理延迟产生不利影响。此外,YOLOs中各种组件的设计缺乏全面彻底的检查,导致明显的计算冗余,限制了模型的能力。它提供了次优的效率,以及相当大的性能改进潜力。YOLOv10致力于打造实时端到端的高性能目标检测器,从效率和精度两个角度对YOLO的各个组件进行了全面优化,大大减少了计算开销,增强能力,目标是从后处理和模型架构两个方面进一步提高YOLO的性能效率边界。为此,首先提出了YOLOs无NMS训练的一致双重分配,它同时带来了有竞争力的性能和低推理延迟。此外还介绍了YOLO的整体效率精度驱动模型设计策略。
基于上述的分析研究作者提出了几点改进策略:
1、一致优化目标的无NMS双标签分配策略
YOLOs引入了双标签分配,以结合这两种策略的优点。核心思想是在训练阶段使用一对多的检测头提供更多的正样本来丰富模型的训练,为YOLOs合并了另一个一对一的头部。它保留了与原始一对多分支相同的结构并采用相同的优化目标,但利用一对一匹配来获得标签分配。在训练过程中,两个头与模型联合优化,使骨干和颈部享受一对多任务提供的丰富监督。在推理过程中丢弃一对多的头利用一对一的头进行预测。这使得YOLOs能够进行端到端部署,而不会产生任何额外的推断成本。
2、整体效率-精度驱动的模型架构设计
虽然之前的工作探索了各种各样的设计策略,但仍然缺乏对YOLOs中各种组件的全面检查。模型体系结构具有不可忽略的计算冗余和受限能力阻碍了实现高效率和高性能的潜力。在这里目标是从效率和准确性的角度为YOLOs整体地执行模型设计——效率驱动的模型设计。YOLO中的组件包括stem、下采样层、具有基本构建块的阶段和头部。stem产生的计算成本很少,因此主要对其他三个部分执行效率驱动的模型设计。
【执行效率驱动的模型设计】
A、 轻型分类头。在YOLOs中,分类和回归头通常共享相同的体系结构。然而,它们在计算开销方面表现出显著的差异。在分析分类误差和回归误差的影响后发现回归头对YOLOs的性能有更大的影响。故而可以减少分类头的开销而不必担心会严重影响分类头的性能。因此作者简单地采用了一种轻量级的分类头结构,它由两个深度可分离的卷积组成核大小为3×3然后是一个1×1卷积。
B、空间通道解耦下采样。引入空间-通道解耦下采样减少计算冗余,提高整体模型效率。
C、 秩引导块设计。为了彻底检查YOLOs的同质设计利用内在秩来分析每个阶段的冗余。作者计算每个阶段最后一个基本块中最后一个卷积的数值秩,计算大于阈值的奇异值的数量。结果表明深部阶段和大型模型易于显示更多冗余。简单地对所有阶段应用相同的块设计对于最佳容量效率权衡是次优的。为了解决这一问题提出了一种秩引导块设计方案,该方案旨在使用紧凑的体系结构设计来降低冗余阶段的复杂性。首先提出了一种紧凑的反向块(CIB)结构,它采用廉价的深度卷积进行空间混合,并采用经济高效的逐点卷积进行信道混合,它可以作为有效的基本构建块,然后提出了一种等级引导的区块分配策略,以实现最佳效率,同时保持竞争力。根据其内在的等级按升序对其所有阶段进行排序。并进一步考察了用CIB替代前级基本块的性能变化。如果与给定模型相比没有性能下降,则继续替换下一阶段,否则停止该过程。因此,我们可以实现跨阶段和模型规模的自适应紧凑块设计,在不影响性能的情况下实现更高的效率。
【精度驱动模型设计】
D、 大内核卷积。采用大核深度卷积是扩大感受野和增强模型能力的有效方法,但在所有阶段简单地利用可能会在用于检测小对象的浅层特征中引入污染,同时也会在高分辨率阶段引入显著的I/O开销和延迟。因此建议在深度阶段利用CIB中的大内核深度卷积。将CIB中第二个3×3深度卷积的核大小增加到7×7,此外采用结构重参数化技术在不增加推理开销的情况下,引入另一个3×3深度卷积分支,以缓解优化问题。此外随着模型尺寸的增加,它的感受野自然扩大,使用大核卷积的好处逐渐减少。因此对于小模型尺度,我们只采用大核卷积。
E、 部分自我注意(PSA)。自我注意由于其卓越的全局建模能力被广泛应用于各种视觉任务中。然而它具有很高的计算复杂度和内存占用。为了解决这一问题,鉴于普遍存在的注意头冗余提出了一种有效的部分自我注意(PSA)模块设计,在1×1卷积之后,我们将跨通道的特征均匀地划分为两部分只将一部分反馈到由多头部自我注意模块(MHSA)和前馈网络(FFN)组成的NPSA模块中。然后将两部分串联起来,通过1×1卷积进行融合。此外,将查询和键的维数指定为MHSA中值的一半,并将LayerForm替换为BatchNorm以实现快速推理。PSA仅放置在具有最低分辨率的第4阶段之后,避免了由于自我注意的二次计算复杂性而产生的过多开销。这样实现了以较低的计算代价将全局表示学习能力融入到YOLOs中,从而很好地增强了模型的能力,提高了模型的性能。
目前清华官方研究团队一共发布的了包括:N/S/M/B/L/X在内的六款不同参数量级的模型,基于COCO数据集进行了训练,官方提供的预训练权重如下:
可以根据自己的实际需要进行下载使用,建议一般训练自己的数据集的时候最好是可以基于官方提供的预训练权重来进行迁移训练,这样更理想一些。
这里我们一共应用开发训练了六款模型,综合实际精度表现和参数量考虑我们最终选择了m系列的参数模型作为线上的推理后端模型,下面是m系列模型的模型文件,如下:
【yolov10m】
# Ultralytics YOLO 🚀, AGPL-3.0 license
# YOLOv8 object detection model with P3-P5 outputs. For Usage examples see https://docs.ultralytics.com/tasks/detect
# Parameters
nc: 2 # number of classes
scales: # model compound scaling constants, i.e. 'model=yolov8n.yaml' will call yolov8.yaml with scale 'n'
# [depth, width, max_channels]
m: [0.67, 0.75, 768] # YOLOv8m summary: 295 layers, 25902640 parameters, 25902624 gradients, 79.3 GFLOPs
# YOLOv8.0n backbone
backbone:
# [from, repeats, module, args]
- [-1, 1, Conv, [64, 3, 2]] # 0-P1/2
- [-1, 1, Conv, [128, 3, 2]] # 1-P2/4
- [-1, 3, C2f, [128, True]]
- [-1, 1, Conv, [256, 3, 2]] # 3-P3/8
- [-1, 6, C2f, [256, True]]
- [-1, 1, SCDown, [512, 3, 2]] # 5-P4/16
- [-1, 6, C2f, [512, True]]
- [-1, 1, SCDown, [1024, 3, 2]] # 7-P5/32
- [-1, 3, C2fCIB, [1024, True]]
- [-1, 1, SPPF, [1024, 5]] # 9
- [-1, 1, PSA, [1024]] # 10
# YOLOv8.0n head
head:
- [-1, 1, nn.Upsample, [None, 2, "nearest"]]
- [[-1, 6], 1, Concat, [1]] # cat backbone P4
- [-1, 3, C2f, [512]] # 13
- [-1, 1, nn.Upsample, [None, 2, "nearest"]]
- [[-1, 4], 1, Concat, [1]] # cat backbone P3
- [-1, 3, C2f, [256]] # 16 (P3/8-small)
- [-1, 1, Conv, [256, 3, 2]]
- [[-1, 13], 1, Concat, [1]] # cat head P4
- [-1, 3, C2fCIB, [512, True]] # 19 (P4/16-medium)
- [-1, 1, SCDown, [512, 3, 2]]
- [[-1, 10], 1, Concat, [1]] # cat head P5
- [-1, 3, C2fCIB, [1024, True]] # 22 (P5/32-large)
- [[16, 19, 22], 1, v10Detect, [nc]] # Detect(P3, P4, P5)
实验阶段我们保持了相同的参数设置,等待长时期的训练过程结束之后我们来对以上六款不同参数量级的模型进行纵向的对比分析,如下:
【Precision曲线】
精确率曲线(Precision Curve)是一种用于评估二分类模型在不同阈值下的精确率性能的可视化工具。它通过绘制不同阈值下的精确率和召回率之间的关系图来帮助我们了解模型在不同阈值下的表现。
精确率(Precision)是指被正确预测为正例的样本数占所有预测为正例的样本数的比例。召回率(Recall)是指被正确预测为正例的样本数占所有实际为正例的样本数的比例。
绘制精确率曲线的步骤如下:
使用不同的阈值将预测概率转换为二进制类别标签。通常,当预测概率大于阈值时,样本被分类为正例,否则分类为负例。
对于每个阈值,计算相应的精确率和召回率。
将每个阈值下的精确率和召回率绘制在同一个图表上,形成精确率曲线。
根据精确率曲线的形状和变化趋势,可以选择适当的阈值以达到所需的性能要求。
通过观察精确率曲线,我们可以根据需求确定最佳的阈值,以平衡精确率和召回率。较高的精确率意味着较少的误报,而较高的召回率则表示较少的漏报。根据具体的业务需求和成本权衡,可以在曲线上选择合适的操作点或阈值。
精确率曲线通常与召回率曲线(Recall Curve)一起使用,以提供更全面的分类器性能分析,并帮助评估和比较不同模型的性能。
【Recall曲线】
召回率曲线(Recall Curve)是一种用于评估二分类模型在不同阈值下的召回率性能的可视化工具。它通过绘制不同阈值下的召回率和对应的精确率之间的关系图来帮助我们了解模型在不同阈值下的表现。
召回率(Recall)是指被正确预测为正例的样本数占所有实际为正例的样本数的比例。召回率也被称为灵敏度(Sensitivity)或真正例率(True Positive Rate)。
绘制召回率曲线的步骤如下:
使用不同的阈值将预测概率转换为二进制类别标签。通常,当预测概率大于阈值时,样本被分类为正例,否则分类为负例。
对于每个阈值,计算相应的召回率和对应的精确率。
将每个阈值下的召回率和精确率绘制在同一个图表上,形成召回率曲线。
根据召回率曲线的形状和变化趋势,可以选择适当的阈值以达到所需的性能要求。
通过观察召回率曲线,我们可以根据需求确定最佳的阈值,以平衡召回率和精确率。较高的召回率表示较少的漏报,而较高的精确率意味着较少的误报。根据具体的业务需求和成本权衡,可以在曲线上选择合适的操作点或阈值。
召回率曲线通常与精确率曲线(Precision Curve)一起使用,以提供更全面的分类器性能分析,并帮助评估和比较不同模型的性能。
【loss曲线】
在深度学习的训练过程中,loss函数用于衡量模型预测结果与实际标签之间的差异。loss曲线则是通过记录每个epoch(或者迭代步数)的loss值,并将其以图形化的方式展现出来,以便我们更好地理解和分析模型的训练过程。
【mAP0.5】
mAP0.5,也被称为mAP@0.5或AP50,指的是当Intersection over Union(IoU)阈值为0.5时的平均精度(mean Average Precision)。IoU是一个用于衡量预测边界框与真实边界框之间重叠程度的指标,其值范围在0到1之间。当IoU值为0.5时,意味着预测框与真实框至少有50%的重叠部分。
在计算mAP0.5时,首先会为每个类别计算所有图片的AP(Average Precision),然后将所有类别的AP值求平均,得到mAP0.5。AP是Precision-Recall Curve曲线下面的面积,这个面积越大,说明AP的值越大,类别的检测精度就越高。
mAP0.5主要关注模型在IoU阈值为0.5时的性能,当mAP0.5的值很高时,说明算法能够准确检测到物体的位置,并且将其与真实标注框的IoU值超过了阈值0.5。
【mAP0.5:0.95】
mAP0.5:0.95,也被称为mAP@[0.5:0.95]或AP@[0.5:0.95],表示在IoU阈值从0.5到0.95变化时,取各个阈值对应的mAP的平均值。具体来说,它会在IoU阈值从0.5开始,以0.05为步长,逐步增加到0.95,并在每个阈值下计算mAP,然后将这些mAP值求平均。
这个指标考虑了多个IoU阈值下的平均精度,从而更全面、更准确地评估模型性能。当mAP0.5:0.95的值很高时,说明算法在不同阈值下的检测结果均非常准确,覆盖面广,可以适应不同的场景和应用需求。
对于一些需求比较高的场合,比如安全监控等领域,需要保证高的准确率和召回率,这时mAP0.5:0.95可能更适合作为模型的评价标准。
综上所述,mAP0.5和mAP0.5:0.95都是用于评估目标检测模型性能的重要指标,但它们的关注点有所不同。mAP0.5主要关注模型在IoU阈值为0.5时的性能,而mAP0.5:0.95则考虑了多个IoU阈值下的平均精度,从而更全面、更准确地评估模型性能。
【F1值曲线】
F1值曲线是一种用于评估二分类模型在不同阈值下的性能的可视化工具。它通过绘制不同阈值下的精确率(Precision)、召回率(Recall)和F1分数的关系图来帮助我们理解模型的整体性能。
F1分数是精确率和召回率的调和平均值,它综合考虑了两者的性能指标。F1值曲线可以帮助我们确定在不同精确率和召回率之间找到一个平衡点,以选择最佳的阈值。
绘制F1值曲线的步骤如下:
使用不同的阈值将预测概率转换为二进制类别标签。通常,当预测概率大于阈值时,样本被分类为正例,否则分类为负例。
对于每个阈值,计算相应的精确率、召回率和F1分数。
将每个阈值下的精确率、召回率和F1分数绘制在同一个图表上,形成F1值曲线。
根据F1值曲线的形状和变化趋势,可以选择适当的阈值以达到所需的性能要求。
F1值曲线通常与接收者操作特征曲线(ROC曲线)一起使用,以帮助评估和比较不同模型的性能。它们提供了更全面的分类器性能分析,可以根据具体应用场景来选择合适的模型和阈值设置。
综合六款不同参数量级模型的开发实验对比结果来看:6款模型达到了较为相近的结果,n系列模效果略低一点,s系列模型居中,略优于n系列的模型,m、b、l和x系列模型效果接近,综合对比考虑最终选择使用yolov10m来作为线上推理模型。
接下来看下yolov10m模型的详细情况。
【离线推理实例】
【Batch实例】
【混淆矩阵】
【F1值曲线】
【Precision】
【PR曲线】
【Recall曲线】
【训练可视化】
智能化巡检推动了基建运维体系的数字化转型。通过积累海量巡检数据,建立设施健康档案,为预防性维护提供数据支撑。这种数据驱动的运维模式,正在重塑整个基建安全管理体系。智能化巡检技术的应用,标志着基建安全管理进入AI时代。随着技术的不断进步和应用场景的拓展,智能化巡检将在更广阔的领域发挥作用。未来,随着5G、物联网等新技术的融合应用,智能化巡检系统将实现更精准的缺陷识别、更智能的决策支持,为城市基建设施的安全运行提供坚实保障。这场由AI技术驱动的基建运维革命,正在重新定义城市安全管理的新标准。