- 博客(17)
- 资源 (10)
- 收藏
- 关注
原创 3天深入浅出NLP笔记(五)比赛总结-竞赛干货全复盘
3天深入浅出NLP笔记(五)竞赛干货全复盘知识点总结其他比赛方案面试相关问题Stacking方案NLP入门知识点总结Baseline构建(BERT模型)模型调参数据增强迁移学习、指标优化模型融合Bert原理(输入、输出、多少层组成)模型组合调参技巧、指标优化数据增强、伪标签模型融合其他比赛方案面试相关问题bert4keras:包可利用。stacking方式融合Stacking方案多个模型做Stacking。五折:数据跑五次。手动加权:NLP入门
2021-02-26 12:29:12 221
原创 3天深入浅出NLP笔记(四)比赛思路进阶专题
3天深入浅出NLP笔记(四)比赛思路进阶专题模型调参模型融合预训练模型文本输入的截断策略:五种预训练模型:fine-tune: 五种预训练模型结构:特征工程模型调参参数初始化方法:模型调参技巧:数据打乱可以增加随机性。BN用于图像;LN用于文本对超过阈值的梯度值进行规约。dropout对神经元的删除。防止过拟合adam优化器。分类常用。学习率 偏小激活函数其他超参数,loss优化方式,只是在一点有效全连接层模型融合交叉验证模型融合先试试Bert系列(5个模型)
2021-02-25 21:56:14 209
原创 3天深入浅出NLP笔记(三)模型调参和数据增强专题
3天深入浅出NLP笔记(三)模型调参和数据增强专题模型调参模型选择:文本增强文本增强技术回译-UDA随机词替换非核心词替换基于上下文信息的文本增强基于语言生成模型的文本增强文本增强在工业界的应用回译技术Embedding技术伪标签总结模型调参自己动手实验 模型调参模型选择:机器学习模型调参部分:深度学习模型调参:预训练模型:通过大量文本自监督学习字向量。Bert上进行微调好的预训练模型:文本增强标注样本难,因此文本增强广泛使用。小样本数量少,预测的不好。文本增
2021-02-24 21:32:39 405
原创 3天深入浅出NLP笔记(二)迁移学习&模型融合专题
迁移学习&模型融合专题疫情期间网民情绪识别赛题背景——多模态(文本、图片、视频)分类任务迁移学习 transfer learning定义综述领域自适应Bert半监督DA问题模型融合作业(额外问题)疫情期间网民情绪识别赛题背景——多模态(文本、图片、视频)分类任务比赛地址:https://www.datafountain.cn/competitions/423/datasets迁移学习 transfer learning定义定义:通过减少源域到目标域的分布差异,进行知识迁移,从而实现数据标注
2021-02-24 12:13:22 863
原创 3天深入浅出NLP笔记(一)
这里写目录标题大纲1.为什么你一定要打比赛?存在的障碍及解除障碍方法中医药天池大数据竞赛——思路2. 零基础小白如何打比赛?3. 疫情期间网民情绪识别赛题背景——多模态(文本、图片、视频)分类任务4. BaseLine构建数据探索思路分析分析数据:数据清洗、标签分布探索、微博文本分析构建模型:模型训练总结大纲1.为什么你一定要打比赛?存在的障碍及解除障碍方法比赛:实战+串联知识中医药天池大数据竞赛——思路代码设计思路Baseline:网络结构:预训练模型(Bert)拆分数据集,记
2021-02-23 21:37:50 378
原创 深度学习(三):人脸关键点检测算法
深度学习(三):人脸关键点检测算法什么是人脸关键点检测基于ResNet50实现人脸关键点检测根据人脸关键点检测,实现趣味PS什么是人脸关键点检测了解人脸关键点检测的应用,人脸关键点检测任务的本质,比较与图像分类任务的区别。什么是人脸关键点检测?——回归图像分类和人脸关键点检测(回归任务)的区别:回归得到坐标。区别:基于ResNet50实现人脸关键点检测用ResNet50作为backbone,简单添加两层,就可以实现人脸关键点检测根据人脸关键点检测,实现趣味PS根据人脸关键点
2021-02-23 21:37:21 5976 5
原创 (一):深度多模态学习-最近的进展和趋势的调查
文献阅读:Deep multimodal learning- A survey on recent advances and trends.Abstruct题目:Deep multimodal learning- A survey on recent advances and trends。深度多模态学习-最近的进展和趋势的调查出处:IEEE Signal Process. Mag. 34(6): 96-108 (2017)AbstructIntroduction...
2021-02-22 21:24:28 1031 3
原创 深度学习(二):“分类”任务(理论——实践)
深度学习(二):“分类”任务(理论——实践)图像分类图像分类原理与挑战快速上手卷积神经网络LeNet-5应用:万能公式卷积神经网络基础知识几种卷积神经网络(AlexNet、VGG、GoogleNet、ResNet)十二生肖分类实战图像分类二分类、多分类、多标签图像分类原理与挑战快速上手卷积神经网络LeNet-5应用:万能公式① 问题定义:图像分类,使用LeNet-5网络完成手写数字识别图片的分类。② 数据准备:继续应用框架中封装好的手写数字识别数据集。2.1 数据集加载和预处理
2021-02-21 17:51:53 2543
转载 读文章笔记(六):一份最新的、全面的NLP文本分类综述
读文章笔记(六):一份最新的、全面的NLP文本分类综述一级目录二级目录三级目录公众号:深度学习自然语言处理一级目录二级目录三级目录
2021-02-08 10:37:24 591
转载 读文章笔记(五):搞懂Transformer结构,看这篇PyTorch实现就够了
读文章笔记(五):搞懂Transformer结构,看这篇PyTorch实现就够了一级目录二级目录三级目录公众号:机器学习研究组订阅https://mp.weixin.qq.com/s/3NrRNCh7gs_aaRWEuc-gBA一级目录二级目录三级目录
2021-02-04 10:34:34 357
转载 读文章笔记(四):深度学习文本分类|模型&代码&技巧
读文章笔记(四):深度学习文本分类|模型&代码&技巧https://mp.weixin.qq.com/s/TyPLs6iMewPGOHXMXXtsFg
2021-02-04 10:30:25 316
原创 总结:图学习笔记(一)~(八)
总结:图学习笔记(一)~(八)图学习笔记(一):图图学习笔记(二):图与图学习图学习笔记(三):图与图学习图学习笔记(四):图学习基础概念图学习笔记(五):图游走类模型图学习笔记(六):图神经网络算法(一)——GCN和GAT、消息传递机制图学习笔记(七):图神经网络算法(二)——图采样、邻居聚合图学习笔记(八):常规赛:论文引用网络节点分类图学习笔记(九):项目拔高实战图学习笔记(一):图一. 图是什么?图的定义图的基本表示方法及概念2.1 图的构成2.2 图的概念例子:空手道俱乐部图
2021-02-03 12:31:14 388
原创 图学习笔记(九):项目拔高实战
图学习笔记(九):新冠疫苗项目拔高实战一个深度学习项目组成部分:数据集代码讲解main.pydataset.pydata_parser.pymodel.pylayers.py终端跑项目项目代码:图学习笔记(九):项目拔高实战https://aistudio.baidu.com/aistudio/projectdetail/1498513一个深度学习项目组成部分:main.py包括:数据集的生成、模型的构建、训练的构成。dataset.py包括:数据的解析和生成(转化成图结构数据,为了给模型训练)
2021-02-03 12:14:29 202 1
原创 图学习笔记(七):图神经网络算法(二)——图采样、邻居聚合
图学习笔记(七):图神经网络算法(二)——图采样图采样1. 为什么要图采样?图采样的原因:MiniBatch训练2. 什么是图采样?3. 图采样算法详解(GraphSAGE、PinSAGE)GraphSAGE (SAmple & aggreGatE)邻居采样算法邻居采样算法的优点:PinSAGE:根据邻居节点重要性进行聚合的算法。图采样1. 为什么要图采样?图采样的原因:如果图很大,需要进行“图采样”。权图规模太大,当代的GPU/CPU资源受限,无法一次性全图送入计算资源(难以将整张图放
2021-02-01 11:26:43 2301
方面级情感分析.pptx
2021-05-26
Paddle.zip
2021-02-03
机器学习模型部署在Flask的Web平台上demo:SpamPredictionWeb.zip
2020-02-29
Python的Numpy用法
2020-02-23
Python 环境配置(Anaconda和Pycharm).pdf
2020-02-20
demo+test.zip
2019-06-24
MySql_5.5安装图解说明.docx
2019-06-24
web课设作业--学生管理系统
2018-07-18
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人