DataWhale AI夏令营 Task1 baseline

已于 2024-08-26 20:19:51 修改
阅读量1.1k 收藏 40
点赞数 52
分类专栏： Datawhale夏令营 文章标签： python 目标检测
于 2024-08-25 23:26:47 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43718818/article/details/141434325
版权

DataWhale AI夏令营 Task1

前言

本系列文章将记录参加Datawhale夏令营学习过程中的一些心得和想法，以及自己对赛题的理解。
在这里插入图片描述

一、Datawhale AI夏令营及比赛

一、赛题描述

随着城市化步伐的加速迈进，城市治理面临着前所未有的挑战与机遇。城市管理的精细化、智能化已成为全球城市追求卓越的关键路径。然而，机动车违停、非机动车违停、占道经营等城市违规行为如同现代都市肌体上的疮疤，不仅侵蚀着城市的美学与秩序，更对公众福祉构成了潜在威胁。传统的人力巡查与被动响应模式，已然无法匹配当今城市治理的需求。

本赛题最终目标是开发一套智能识别系统，能够自动检测和分类城市管理中的违规行为。该系统应利用先进的图像处理和计算机视觉技术，通过对摄像头捕获的视频进行分析，自动准确识别违规行为，并及时向管理部门发出告警，以实现更高效的城市管理。

二、赛题题目

城市管理违规行为智能识别

三、赛题任务

【初赛】

初赛任务是根据给定的城管视频监控数据集，进行城市违规行为的检测。违规行为主要包括垃圾桶满溢、机动车违停、非机动车违停等。

选手需要能够从视频中分析并标记出违规行为，提供违规行为发生的时间和位置信息。

【初赛审核】

阶段时间：9月13日-9月19日 前24名晋级复赛，如出现违规行为，则顺延晋级，由组委会确认晋级名单。

【复赛】

复赛任务是根据给定的城管视频监控数据集，进行城市违规行为的检测。违规行为主要包括违法经营、垃圾桶满溢、机动车违停、非机动车违停等。

选手需要基于大赛提供的复赛环境，进行复赛模型构建与预测，同时复赛数据集对选手不可见。

【复赛审核】

阶段时间：9月18日-9月30日 前12名晋级决赛，如出现违规行为，则顺延晋级，由组委会确认晋级名单。

【决赛】

具体时间待定，决赛阶段采用线下或者线上答辩的方式（待定），晋级决赛队伍需要提前准备答辩PPT及相关支撑材料，评委将根据选手的初复赛及答辩表现进行综合评分，决定最终排名。

四、数据描述

训练集（有标注）

训练集（无标注）

测试集

【初赛】

初赛提供城管视频监控数据与对应违规行为标注。违规行为包括垃圾桶满溢、机动车违停、非机动车违停等。

视频数据为mp4格式，标注文件为json格式，每个视频对应一个json文件。

json文件的内容是每帧检测到的违规行为，包括以下字段：

frame_id：违规行为出现的帧编号
event_id：违规行为ID
category：违规行为类别
bbox：检测到的违规行为矩形框的坐标，[xmin,ymin,xmax,ymax]形式
标注示例如下：

[

{

  "frame_id": 20,

  "event_id": 1,

  "category": "机动车违停",

  "bbox": [200, 300, 280, 400]

},

{

  "frame_id": 20,

  "event_id": 2,

  "category": "机动车违停",

  "bbox": [600, 500, 720, 560]

},

{

  "frame_id": 30,

  "event_id": 3,

  "category": "垃圾桶满溢",

  "bbox": [400, 500, 600, 660]

}

]

违规行为示例如下：

垃圾桶满溢

在这里插入图片描述

机动车违停

在这里插入图片描述

非机动车违停

【复赛】

复赛提供城管视频监控数据与对应违规行为标注。违规行为包括违法经营、垃圾桶满溢、机动车违停、非机动车违停等。

数据与初赛数据格式相同，新增违法经营类别，行为示例如下：

在这里插入图片描述

违法经营

五、评估指标

【初赛】

使用F1score、MOTA指标来评估模型预测结果。

在这里插入图片描述
对每个json文件得到两个指标的加权求和，最终得分为所有文件得分取均值。

注1：若真实目标框与预测框IOU大于0.5，则判定目标正确识别。若MOTA指标为负，则该类别精度得分为0。

注2：若该视频中没有某个类别的目标，则此类别计算均值时，忽略该视频。

【复赛】

复赛需同时评估模型的准确度与效率。

模型准确率评估指标与初赛一致，使用F1score、MOTA进行评估。

模型效率使用FPS（每秒钟能够处理的帧数）等进行评估。

六、提交说明

【初赛】

选手需要生成result文件夹，文件夹中包含每个视频对应的json结果文件，文件名与视频名对应。选手需要将文件夹打包成result.zip进行上传。

json文件中包含了检测到的违规行为列表，若未检测到违规行为，则列表为空。

每个违规行为包含的字段如下：

frame_id：违规行为出现的帧编号
event_id：违规行为ID
category：违规行为类别
bbox：检测到的违规行为矩形框的坐标，[xmin,ymin,xmax,ymax]形式
confidence：置信度
提交的json示例如下：

[

{

  "frame_id": 20,

  "event_id": 1,

  "category": "机动车违停",

  "bbox": [200, 300, 280, 500],

  "confidence": 0.85

},

{

  "frame_id": 20,

  "event_id": 2,

  "category": "垃圾桶满溢",

  "bbox": [600, 500,720, 560],

  "confidence": 0.90

},

{

  "frame_id": 30,

  "event_id": 3,

  "category": "垃圾桶满溢",

  "bbox": [400, 500, 500, 560],

  "confidence": 0.78

}

]

注：赛题禁止对测试集数据进行人工标注，用于训练或结果提交。初赛审核阶段，会对此类情况严格审核，一经发现，即取消复赛晋级资格。

【复赛】

复赛与初赛的提交内容一致。

注：复赛阶段的训练集与测试集对选手不可见，选手在模型开发调试阶段时使用的数据是一部分样例数据，提交代码后，后台系统将自动使用复赛全量数据进行复现评测。

七、违法标准

【机动车违停】

机动车在设有禁止停车标志、标线的路段停车，或在非机动车道、人行横道、施工地段等禁止停车的地方停车。具体包含以下：

1、无论有无禁停标志，机动车道禁止车辆停放；

2、距路口、桥梁50米以内禁止车辆停放；

3、距公交车站、消防栓、消防队、医院30米以内禁止使用上述设施以外的车辆停放；

4、禁止车辆双排停放、靠左侧停放、横向停放、逆向停放；

5、人行道仅允许在已设置的停车泊位内停车，禁止在停车泊位外停车；

6、在设有禁停标志、标线的路段，人行横道、施工路段，不得停车。

【非机动车违停】

非机动车（如自行车、‌电动车等）‌未按照规定停放在指定的非机动车停车泊位或停车线内，‌而是在非机动车禁停区域或未划定的区域（消防通道、盲道、非机动车停车区线外、机动车停车区等）随意停放。

【垃圾满溢】

生活垃圾收集容器内垃圾超过三分之二以上即为满溢。‌垃圾桶无法封闭、脏污且周边有纸屑、污渍、塑料、生活垃圾及杂物堆放。

【占道经营】

经营者占用城市道路、桥梁、城市广场等公共场所进行盈利性买卖商品或服务的行为。

二、baseline代码解读

!/opt/miniconda/bin/pip install opencv-python pandas matplotlib ultralytics

import os, sys
import cv2, glob, json
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt

第一行代码的作用是使用miniconda环境中的pip工具安装四个Python库：opencv-python、pandas、matplotlib和ultralytics，以供后续的Python项目使用。Ultralytics是用于快速、准确的对象检测、图像分割和分类任务的库，它是基于YOLO（You Only Look Once）算法的。

!：在Jupyter notebook中，这个符号用于指示接下来的行是一个shell命令，而不是Python代码。如果是在常规的终端或命令行界面中，通常不会使用这个符号。
/opt/miniconda/bin/pip：这是pip命令的路径。pip是Python的包管理器，用于安装和管理Python包。这里指定了pip的完整路径，表明使用的是位于/opt/miniconda目录下的miniconda环境中的pip。

数据下载

!apt install zip unzip -y
!apt install unar -y

!wget "https://comp-public-prod.obs.cn-east-3.myhuaweicloud.com/dataset/2024/%E8%AE%AD%E7%BB%83%E9%9B%86%28%E6%9C%89%E6%A0%87%E6%B3%A8%E7%AC%AC%E4%B8%80%E6%89%B9%29.zip?AccessKeyId=583AINLNMLDRFK7CC1YM&Expires=1739168844&Signature=9iONBSJORCS8UNr2m/VZnc7yYno%3D" -O 训练集\(有标注第一批\).zip
!unar -q 训练集\(有标注第一批\).zip

!wget "https://comp-public-prod.obs.cn-east-3.myhuaweicloud.com/dataset/2024/%E6%B5%8B%E8%AF%95%E9%9B%86.zip?AccessKeyId=583AINLNMLDRFK7CC1YM&Expires=1739168909&Signature=CRsB54VqOtrzIdUHC3ay0l2ZGNw%3D" -O 测试集.zip
!unar -q 测试集.zip

  1. !apt install zip unzip -y：

    !：在某些编程环境（如Jupyter notebooks）中，这个符号用于指示接下来的行是一个shell命令。
apt：这是Advanced Package Tool，是Debian和Ubuntu系统中用于处理软件包的工具。
install：这是apt命令的一个子命令，用于安装软件包。
zip 和 unzip：这两个是软件包名称，分别用于压缩和解压缩ZIP文件。
y：这个选项告诉apt在安装过程中自动回答“yes”，即不需要用户交互确认。

  2. ！wget

    !wget：wget命令，用于从网络上下载文件。
URL：指定了要下载的文件的完整路径。
-O：这是输出选项，指定下载的文件应该保存为本地文件训练集(有标注第一批).zip。
weixin_43718818
关注
专栏目录
【Datawhale AI 夏令营第三期学习笔记Taks1】 跑通baseline #Datawhale AI 夏令营
07-28
【Datawhale AI 夏令营第三期学习笔记Taks1】 跑通baseline #Datawhale AI 夏令营
【Datawhale AI夏令营第四期】魔搭-AIGC方向 BaseLine注释版
08-11
【Datawhale AI夏令营第四期】魔搭-AIGC方向 BaseLine自己阅读加的注释，还有一些在个人电脑上运行BaseLine需要用到的文件存档。 一般读者只需关心注释版的BaseLine即可。
#Datawhale 暑期AI夏令营task1 baseline代码
2301_76637544的博客
07-28 120
【代码】Datawhale 暑期AI夏令营task1 baseline代码。
Datawhale AI夏令营 Task2 Baseline精读
NeigePrimaire的博客
07-30 807
提示工程（Prompt Engineering）是一门较新的学科，关注提示词开发和优化，帮助用户将大语言模型（Large Language Model, LLM）用于各场景和研究领域。掌握了提示工程相关技能将有助于用户更好地了解大型语言模型的能力和局限性。研究人员可利用提示工程来提升大语言模型处理复杂任务场景的能力，如问答和算术推理能力。开发人员可通过提示工程设计、研发强大的工程技术，实现和大语言模型或其他生态工具的高效接轨。提示工程不仅仅是关于设计和研发提示词。
Datawhale AI夏令营 Task3 对Baseline进行微调
NeigePrimaire的博客
08-02 1422
LoRA（Low-Rank Adaptation）微调是一种高效的模型微调技术，特别适用于大型预训练语言模型的适应性调整。LoRA的核心思想是通过引入低秩矩阵来调整模型的权重，从而在不显著增加模型参数数量的情况下，实现对模型的微调。LoRA的优势- 可以针对不同的下游任务构建小型 LoRA 模块，从而在共享预训练模型参数基础上有效地切换下游任务。- LoRA 使用自适应优化器（Adaptive Optimizer），不需要计算梯度或维护大多数参数的优化器状态，训练更有效、硬件门槛更低。
Datawhale AI 夏令营Task1——运行baseline
2301_79824134的博客
08-10 225
DSW（Data Science Workshop）是为算法开发者量身打造的一站式AI开发平台，集成了JupyterLab、WebIDE、Terminal多种云端开发环境，新用户可以申请三个月免费试用期。申请后可以不用配置环境直接在电脑上跑模型。
Datawhale AI夏令营2024 Task3
m0_46680352的博客
07-04 999
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档。
Datawhale ai夏令营task1:初次运行baseline1
sway_sway_sway的博客
07-28 423
结合朋友的实验效果发现使用不同的模型（qwen2-72b-instruct与qwen2-7b-instruct）得分差异较大，训练的准确度与模型有很大关系。1）训练数据集的质量和数量，对数据集进行预处理，降噪删去不准确的干扰样本，提高数据集准确度；2）调整超参数，调整学习率、批大小、迭代次数等超参数，寻找最合适的组合。（进行同义词替换，增加数据的多样性，从而提高模型的泛化能力，增强鲁棒性）除此之外，想要提高结果准确率，还可以从以下方面入手。例如，在处理json数据时，我们可以设置函数实现数据增强。
Datawhale AI 夏令营_Task3 baseline02 个人学习记录
m0_73919602的博客
08-02 399
在之前的两个任务中，我们已经学会了如何使用魔搭社区和使用api实现任务。现在我们开始学习如何进行对baseline的微调。本次微调采用qwen2-72b模型，使用LoRA（Low-Rank Adaptation）的模型微调技术，利用vLLM（大规模语言模型高速推理框架来）加速推理，采用多路LLM投票的方式实现模型调整。LoRA（Low-Rank Adaptation）微调是一种高效的模型微调技术，特别适用于大型预训练语言模型的适应性调整。
Task1 baseline学习记录 Datawhale AI 夏令营
cnods的博客
07-13 718
2024 Datawhale AI 夏令营 NLP学习记录
Datawhale AI夏令营 Task1
m0_51832845的博客
07-15 231
训练集用于训练模型，我的理解是让模型通过训练，得到一定的规律，用于后续的验证和测试。如果我们拿到数据后，会对数据进行劈分，一些数据作为训练集，一些数据则作为验证集，还有一部分数据作为测试集，用于模型的评估。1. 首先是了解机器翻译的发展历程，机器翻译的发展可以追溯到20世纪50年代，经历了从基于规则的方法、统计方法到深度学习方法的演变过程，那么当前，机器翻译正朝着更加智能化和个性化方向发展。3.2 对于参赛队伍提交的测试集翻译结果文件，采用自动评价指标。3.3 按照速通手册走完流程。
Datawhale AI夏令营 从零入门 AI 逻辑推理 心得第二弹相关baseline
07-29
在上一份baseline的基础上作出了许多改进
（笔记）第三期书生·浦语大模型实战营（十一卷王场）--书生入门岛通关第2关Python 基础知识
haidizym的博客
10-02 401
学员闯关手册：https://aicarrier.feishu.cn/wiki/ZcgkwqteZi9s4ZkYr0Gcayg1n1g?课程视频：https://www.bilibili.com/video/BV1mS421X7h4/课程文档：https://github.com/InternLM/Tutorial/tree/camp3/docs/L0/Python。
遥感影像-实例分割数据集：iSAID 从切图到YOLO格式数据集制作详细介绍
GIS潮流
09-30 1051
开源数据集isaid标注包含实例分割，但是原始影像太大，很吃显存，一般显卡无法用原始影像直接训练，所以需要对影像进行裁剪，并生成对应的标签，因为想用yolo系列跑模型，所以将标签需要转为txt格式。
酷炫音乐盒: 使用Python和Tkinter配合Pygame打造自己的音乐播放器
宇宙第一小趴菜的博客
09-29 1191
Tkinter是一个功能强大且简单易用的库，适合构建轻量级的GUI应用程序。它在不同的操作系统上具有相同的外观和行为，因此可以实现跨平台的应用程序。当然，Tkinter还有更多的功能和细节，通过阅读官方文档和教程，你可以更深入地了解和学习如何运用Tkinter来创建各种GUI应用程序。
Python | Leetcode Python题解之第448题找到所有数组中消失的数字
Mopes__的博客
10-01 356
Python | Leetcode Python题解之第448题找到所有数组中消失的数字
Python编写的贪吃蛇小游戏
最新发布
WwLK123的博客
10-03 283
Python编写贪吃蛇小游戏。
Python/大数据/机器识别毕业设计选题题目推荐
初尘屿风的博客
09-27 1050
基于Python和Diango在线购物商城系统+报告文档+指导搭建视频基于深度学习的人脸识别与管理系统，Python实现基于Python/机器学习链家网新房数据可视化及预测系统Python豆瓣电影情感分析推荐系统+爬虫+可视化，过滤算法基于python的django框架生鲜商城管理系统设计与实现基于Python的Flask微博话题舆情分析可视化系统设计基于Python豆瓣电影数据可视化分析系统+毕业论文+指导搭建视频基于Python天气预报数据可视化分析系统+毕业论文基于Python的深度学习音乐推荐系统+
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值