天池算法大赛项目:基于大规模日志的故障诊断亚军方案!

本文介绍了阿里云第三届磐久智维算法大赛的亚军方案,涉及故障工单与系统日志数据的多分类模型构建。通过对数据的深入分析和特征工程,包括关键词、统计特征、W2V、TFIDF等,采用CatBoost和LightGBM进行模型训练,并通过对抗验证进行特征选择,最终实现高效精准的故障诊断。
摘要由CSDN通过智能技术生成

 Datawhale干货 

作者:Jason.Q  中山大学黑桃,Datawhale成员

赛题描述

第三届阿里云磐久智维算法大赛:本次比赛要求选手基于故障工单与系统日志数据构建多分类模型,要求能够快速高效的定位出故障类型。

赛事官方地址:

https://tianchi.aliyun.com/competition/entrance/531947/information

项目代码开源地址:

https://github.com/yz-intelligence/AI-Competition/blob/main/3rd_PanJiu_AIOps_Competition/README.md

亚军方案答辩PPT和打包数据可在Datawhale公众号后台回复 黑桃 下载

评价指标

本次采用的评价指标是加权的F1-Score,对类别0和类别1赋予了更大的权重。

3aa36f5aae61bd7c3f7a60f1ec9b04b3.png

赛题数据

本赛题提供了故障工单与日志数据,具体数据如下图所示。通过初步分析msg的结构,根据|可以将其分解。根据实际的业务场景,我们认为在故障发生的前后5/10/15/30分钟或更久,所产生的日志信息,都可能与此故障有关。

46657a01a9cb1ac5826ed9d96e6cab4a.png

17db488c970547b137a102f99276a336.png

数据分析

标签分布

通过分析标签分布,类别0和类别1表示CPU相关故障类别0占比最少,只有9%

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值