李宏毅
闲看庭前雪
热爱学习,热爱科研,热爱学习的大雪人,用爱来爱每一个爱我的人,用心去做每一件值得用心去做的事。
展开
-
李宏毅作业十二 Transfer Learning(迁移学习)
系列文章目录李宏毅作业十 Generative Adversarial Network生成对抗网络(代码)李宏毅作业九 Anomaly Detection异常检测李宏毅作业八unsupervised无监督聚类学习李宏毅作业七其三 Network Compression (Network Pruning)李宏毅作业七其二 Network Compression (Knowledge Distillation)李宏毅作业七其一 Network Compression (Architecuture D原创 2020-12-01 14:13:42 · 1077 阅读 · 4 评论 -
李宏毅作业十 Generative Adversarial Network生成对抗网络(代码)
Generative Adversarial Network 生成对抗网络前言一、生成对抗网络1.生成对抗网络是什么2.数学公式二、代码1.下载数据2.数据预处理3.随机种子4.模型5.准备训练6.训练开始7.使用生成器生成图片总结前言本篇以代码为主,不过多涉及理论。平台colab,语言python一、生成对抗网络1.生成对抗网络是什么生成对抗网络中包含了两个模型,一个是生成模型G,另一个是判别模型D,下面通过一个生成图片的例子来解释两个模型的作用:生成模型G:不断学习训练集中真实数据的概原创 2020-11-20 18:18:10 · 1643 阅读 · 3 评论 -
李宏毅作业九 Anomaly Detection异常检测
Anomaly Detection异常检测前言一、异常检测?任务:半监督训练中的异常检测标签:二、代码1.加载数据与环境2.异常检测算法@KNN@PCA3.模型和损失4.训练5.验证总结前言本篇不涉及过多理论,半监督训练的异常检测其实就是在同时含有标注数据和未标注数据的训练集中学习模型。闲话少说,理论过完,看了代码基本就知道到底是怎么实现的了。一、异常检测?半监督的异常检测:即从同时含有标注数据和未标注数据的训练集中学习模型。在监督学习中,因为训练集全部已经标记了,所以我们的兴趣点通常是在未来测原创 2020-11-18 15:31:07 · 1312 阅读 · 11 评论 -
李宏毅作业八unsupervised无监督聚类学习
无监督聚类学习前言一、内容二、代码1.数据集下载2.数据预处理3.功能函数4.编码器与解码器5.训练6.Dimension Reduction & Clustering降维和聚类7.结果可视化总结前言本篇不涉及过多理论知识,以代码为主.主要运行平台colab,语言python,pytorch.一、内容这主要是图像聚类的教程,分为两大部分.训练部分:准备数据集、模型、训练聚类部分:准备数据集、模型、降维和聚类二、代码1.数据集下载!gdown --id '1BZb2原创 2020-11-10 14:49:56 · 1380 阅读 · 0 评论 -
李宏毅作业七其三 Network Compression (Network Pruning)
Network Compression ——Network Pruning前言一、Network Pruning是什么?Weight & Neuron Pruning对于修剪网络并不简单,这里只是给出了相对简单的修剪方法。What to Prune?如何操作?细节二、代码示例1.加载数据和定义环境2.network purning3.数据处理4.预处理5.Start Training前言网络结构会存在冗余,所以我们要想办法删除里面的神经元neuron或者优化里面的权重weight。删除里面的神经原创 2020-11-05 15:17:13 · 793 阅读 · 5 评论 -
李宏毅作业七其二 Network Compression (Knowledge Distillation)
Network Compression ——Knowledge Distillation前言一、knowledge distillation是什么?1.原理2.KL散度3.Readme二、使用步骤1.引入库2.读入数据总结前言知识蒸馏,实质上就是用训练好的网络告诉没训练的网络如何学习。一、knowledge distillation是什么?1.原理知识蒸馏(暗知识提取)的概念,即通过引入与教师网络(teacher network:复杂、但推理性能优越)相关的软目标(soft-target)作为.原创 2020-11-05 14:20:36 · 1290 阅读 · 10 评论 -
李宏毅作业七其一 Network Compression (Architecuture Design)
Network Compression ——Architecuture Design前言一、Architecture Design``1.基础知识2.代码细节二、代码示例小结前言整个作业七讲的是网络模型的压缩,使整个模型不再臃肿。减少计算量的同时,保持原有精度,甚至超越之前。算力是受到物理因素限制的,如何提高算力的利用率是一件值得探索的事。本文通过学习李宏毅作业,给出自己的理解和相关代码的注释。李宏毅作业给出了四种方法。知识蒸馏 Knowledge Distillation网络修剪 Networ原创 2020-11-05 10:11:52 · 681 阅读 · 2 评论 -
李宏毅作业六 Adversarial Attack对抗攻击
作业六 Adversarial Attack对抗攻击前言一、下载资料并解压缩二、创建环境1.引入库2.读取资料三、载入模型四、运行成果五、生成攻击后的图片总结前言作业里,不仅有原始注释,还有我自己附加的注释,有不对的地方还请大家多多指教运行环境是cloabpython3一、下载资料并解压缩# 下載資料!gdown --id '14CqX3OfY9aUbhGp4OpdSHLvq2321fUB7' --output data.zip# 解壓縮!unzip -qq -u data.zip原创 2020-10-27 19:11:20 · 1599 阅读 · 3 评论 -
李宏毅课程作业五 CNN Explaination
李宏毅课程作业五 CNN Explaination本文主要是对课程里的代码加上自己的注解,记录下点滴知识一、代码作业1.环境设置2.引入库3.参数分析4.定义模型5.定义创建数据集6.显著性图片7.解释性Filter explaination8.Lime总结本文主要是对课程里的代码加上自己的注解,记录下点滴知识一、代码作业1.环境设置代码如下(示例):# 下載並解壓縮訓練資料!gdown --id '19CzXudqN58R3D-1G8KeFWk8UDQwlb8is' --outpu原创 2020-10-27 10:48:51 · 1107 阅读 · 17 评论 -
关于Colab中碰到的问题
关于Colab中碰到的问题项目场景:关于Colab中碰到的问题关于Colab中碰到的问题问题描述:在做李宏毅作业时,explanation ai 时碰到的问题1.加载助教model时,出错。本人小白,解决方法可能会很啰嗦,见谅。原因分析:需要自己在Colaboratory写命令,修改pytorch版本,需要pytorch版本在1.1-1.3之间,而谷歌云上的版本是1.6.0.此处的代码出错解决方案:根据网上搜索的方法,我的操作如下:1.pytorch官网获得自己想要的pytorch版本原创 2020-10-18 09:13:26 · 1071 阅读 · 0 评论 -
李宏毅lesson1
李宏毅课程机器学习的本质就是自动找函数式。本次课程从Regression回归,(未来预测)Classification分类,(分类选择)讲到RNN,CNN,然后运用RNN,CNN来解决Seq2seq和GAN两个作业。接下来还有:Unsupervised Learning无监督学习Anomaly Detection异常检测Transfer Learning转移学习:针对训练集与测试集有很大不同时,如何让机器学到更多内容这类的问题。Meta Learning元学习:让机器学会如何自我学习。让机原创 2020-09-22 18:09:56 · 106 阅读 · 0 评论