李宏毅机器学习
文章平均质量分 86
DogDog_Shuai
上海交通大学电院硕士毕业,研究过机器学习,计算机视觉,图神经网络。
23届应届毕业生,目前从事软件开发相关工作。
编程语言:C、C++、C#、Python
工作领域:云原生、k8s、云平台
展开
-
李宏毅2021年机器学习作业7(bert)实验记录
李宏毅2021年机器学习作业7学习笔记前言一、问题描述二、实验过程2.1 跑助教提供的原始代码2.2 修改窗口2.3 加Linear Learning rate decay2.4 改变窗口切取位置2.5 后续可以改进的方向:postprocessing2.6 后续可以改进的方向:换pre-train model三、总结前言声明:本文参考了李宏毅机器学习2021年作业例程,开发平台是kaggle notebook。一、问题描述给机器一个文章和一个问题,要求输出问题的答案,简单来说就是QA问题。B站作原创 2021-11-20 20:10:27 · 1978 阅读 · 0 评论 -
李宏毅2021年机器学习作业5(Seq2seq)实验记录
李宏毅2021年机器学习作业5学习笔记前言一、问题描述二、实验过程2.1 基于RNN2.2 基于Transformer三、总结前言声明:本文参考了李宏毅机器学习2021年作业例程,开发平台是colab。一、问题描述机器翻译B站作业讲解视频Colab地址二、实验过程2.1 基于RNN操作:直接跑原代码就可以中途意外:跑程序时中途断开连接了,再跑就分配不到GPU了。训练时间:6小时2.2 基于Transformer操作:在代码里把Transformer部分注释取消注释,然后原创 2021-11-18 23:42:49 · 2717 阅读 · 2 评论 -
李宏毅2021年机器学习作业4(Self-attention)实验记录
李宏毅2021年机器学习作业4学习笔记前言一、问题描述二、实验过程2.1 跑助教提供的2.2 多头注意力2.3 加深transformer encoder layer2.4 Conformer2.5 后续优化方案三、总结前言声明:本文参考了李宏毅机器学习2021年作业例程,开发平台是kaggle notebook。一、问题描述识别出声音信号是哪个人说的,实质是一个classification问题。B站作业讲解视频Kaggle地址Baselines:○ Simple: Run samp原创 2021-11-17 11:09:24 · 3246 阅读 · 1 评论 -
李宏毅2021年机器学习作业3(CNN—classification)实验记录
李宏毅2021年机器学习作业2学习笔记前言一、问题描述二、实验过程2.1 跑助教提供的baseline2.2 加入image-augmentation2.3 修改数据增强部分2.4 在2.3基础上,最后全连接层处理2.5 半监督三、总结前言声明:本文参考了李宏毅机器学习2021年作业例程,开发平台是kaggle notebook。另一个CSDN大佬的博客一、问题描述实质是一个用CNN做多分类问题。B站作业讲解视频Kaggle地址一个大佬的代码二、实验过程2.1 跑助教提供的baseli原创 2021-11-16 11:28:13 · 4007 阅读 · 0 评论 -
李宏毅2021年机器学习作业2(classification)实验记录
李宏毅2021年机器学习作业2学习笔记前言一、问题描述二、实验过程2.1 跑助教提供的baseline2.2 修改激活函数2.3 Normalization2.4 Drop out2.5 提高epoch2.6 weight_decay2.7 在2.5的基础上继续提升epoch到120前言声明:本文参考了李宏毅机器学习2021年作业例程,开发平台是kaggle notebook。一、问题描述实质是一个多分类问题。B站作业讲解视频Kaggle地址我们可以借助于深度学习的框架(例如:Tenso原创 2021-11-15 00:52:49 · 2540 阅读 · 0 评论 -
李宏毅2020年机器学习作业4—RNN学习笔记
李宏毅2020年机器学习作业4—RNN学习笔记前言一、问题描述二、实现过程2.1 读取数据2.2 词向量处理2.3 数据预处理2.4 定义Dataset2.5 模型定义2.6 训练模型2.7 预测三、优化3.1加入无标签的数据3.2 测试时pytest错误解决方案3.3 self_training方法3.4 去除标点符号 + Bi-LSTM+ Attention四、参考与声明前言声明:本文参考了李宏毅机器学习2020年作业例程,基本上是将代码复现了一遍,开发平台是Pycharm社区版2021。开发环境原创 2021-05-18 20:21:50 · 2018 阅读 · 1 评论 -
李宏毅2020年机器学习作业3学习笔记
李宏毅2020年机器学习作业3学习笔记前言一、问题描述二、实现过程2.1 调包2.2 数据处理2.3 网络搭建2.4 模型训练2.5数据预测三、完整代码3.1官方版本3.2另一版本前言声明:本文参考了李宏毅机器学习2020年作业例程,基本上是将代码复现了一遍,开发平台是Pycharm社区版2021。开发环境:Anaconda3+Pycharm,python3.6.8。一、问题描述数据可以从Kaggle上获取。链接:Kaggle数据下载作业要求:在收集来的资料中均是食物的照片,共有11类,Brea原创 2021-05-11 17:27:12 · 2954 阅读 · 0 评论