deep learning
文章平均质量分 83
入门深度学习
LiuHui*n
一只可爱的Researcher
展开
-
[论文阅读] | Self-Adaptive Training & label noise
写在前面:前段时间在学习关于噪声样本的处理,导师分享了两篇论文,其中一篇为Self-Adaptive Training。核心思想是,在线性组合预测标签和实际标注标签的基础上,进一步改进为训练过程中预测标签和实际标注标签的移动加权平均值。最初的一个疑问:训练数据中含有部分噪声样本,即喂给网络的数据有部分是错误的,那么网络是如何在这种情况下学习到噪声样本可能对应的正确标签呢???论文:Huang, Lang, Chao Zhang, and Hongyang Zhang. “Self-adapti.原创 2021-12-15 20:27:31 · 3951 阅读 · 0 评论 -
[论文阅读] | MobileNets & depthwise separable convolutions
写在前面:遇到不会的点,要督促自己及时查漏补缺。上周六涉及到深度可分离卷积,涉及到了我的知识盲区,于是昨天找了 MobileNets 相关的笔记和论文,重点在于理解可分离卷积的设计思想。本篇笔记更新记录:2021.12.15 整理可分离卷积、以及在其基础上建立的MobileNets的基本概念。目录1 整体思想2 巨人的肩膀——在轻量级模型领域的已有工作3 核心——深度可分离卷积3.1 标准的卷积运算3.2 深度可分离卷积4 总结1 整体思想出发点:在CV领域,一个研究趋势是神经网络层数越来.原创 2021-12-15 10:51:59 · 2997 阅读 · 0 评论 -
网课 | Andrew Ng 深度学习公开课——03 结构化机器学习项目
本节主要内容《深度学习公开课》第三部分 “结构化机器学习项目”主要是从数据和误差分析两个角度描述如何提升机器学习项目的准确率,然后讲述迁移学习和端到端的学习这两个常用方法的概念。整体思路为将机器学习算法应用到一个具体任务中时,可以尝试如下步骤:定义数据集和度量指标建立原始系统进行偏差、方差和误差分析根据分析结果确立下一步优化方向详细笔记 小原创 2021-10-02 20:58:10 · 227 阅读 · 1 评论 -
网课 | Andrew Ng 深度学习公开课——02 神经网络优化
02 神经网络优化本节主要内容思维导图课程笔记延伸阅读小结本节主要内容《深度学习公开课》第二部分 “神经网络优化”主要是介绍提升网络性能的技巧,包括具体的做法和原理:L2正则化、Dropout正则化、BatchNormalization、学习率衰减等;然后依次介绍常用的优化器的具体计算过程:GD、SGD、Batch GD、RMSprop、Adam;最后是参数优化技巧:网格搜索和随机搜索等。这章的很多的知识点既是网络调优过程中非常有用的技巧,也是面试中常问的点,例如:BN和dropout训练和测试的原创 2021-08-04 13:18:53 · 473 阅读 · 0 评论 -
网课 | Andrew Ng 深度学习公开课——01 神经网络和深度学习
01 神经网络和深度学习写在前面本节主要内容课程笔记小结写在前面“网课 | Andrew Ng 深度学习公开课”系列博客记录该公开课的学习笔记。这个公开课是我大三学年入门深度学习和计算机视觉时学过的课程,现在由于很多细节知识点有些遗忘,因此重新学习并整理了一下。网易云课堂购买并翻译了该课程的学习视频,链接如下:https://mooc.study.163.com/smartSpec/detail/1001319001.htm课程主要内容有:神经网络基础→\rightarrow→卷积神经原创 2021-06-22 10:59:07 · 693 阅读 · 0 评论 -
[论文阅读] | DenseNet
每一个安安静静或匆匆忙忙的日子,其实都熠熠生辉呢 ——August.H本文目录写在前面1. DenseNet设计思想2. DenseNet基本结构2.1 Dense Layer(每层最基本的运算HlH_lHl)2.2 Dense Blcok(多个Dense Layer连接形成)2.3 Transition Layer3. 基于ImageNet数据集的DenseNet结构4. 基于CIFAR数据集的DenseNet结构写在后面写在前面这周设计的网络结构是基于DenseNet的,由于采用的数据集图片.原创 2020-12-27 21:25:10 · 544 阅读 · 2 评论 -
Tensorflow1.x | 学习笔记整理2--简单全连接层实现非线性回归(代价函数、dropout、优化器)
Tensorflow1.x 系列为个人入门Tensorflow1的简要笔记,最近学习的论文涉及到了bilevel program和hypergradient的求解,对应的代码基于Tensorflow1实现,因此根据视频教程学习了解一下Tensorflow。视频课程链接:https://www.bilibili.com/video/BV1wJ411T77b?p=15跟着视频课自己写的代码,使用Colab(https://colab.research.google.com/)tips:不同版本的Ten.原创 2020-07-14 17:53:48 · 1379 阅读 · 0 评论 -
Tensorflow1.x | 学习笔记整理1--常量变量定义使用
Tensorflow1.x 系列为入门Tensorflow1的简要笔记,最近学习的论文涉及到了bilevel progr原创 2020-07-14 17:19:52 · 646 阅读 · 0 评论 -
win10_python3.67_cuda9.2_cudnn7.4_tensorflow-gpu1.8安装配置过程
题外话(自动忽略吧,我只是想记录下此时的心情)总是喜欢先说点题外话,因为今天是个特殊的日子,2018年12月23日下午3点左右,正是2019年研究生入学考试的最后一场考试(对于大部分学生来说应该是专业课考试),此刻我的室友正在离我约500的考场奋笔疾书吧。说实话很佩服她,她曾经与保研擦肩而过,在大家都报考985的时候她选择了本校,乍一看这个选择不明智,但现在想来似乎还不错。在过去的一周里,晚上我...原创 2018-12-23 15:53:45 · 1024 阅读 · 0 评论 -
Tensorflow Object Detection API 安装 配置 运行demo
Tensorflow Object Detection API一、需要安装的依赖如下:1.下载Tensorflow Object Detection API模型下载地址:https://github.com/tensorflow/models本地地址:E:\lh\senior\internship\models-master2.安装配置Protobuf(1)下载Pr...原创 2018-10-31 21:27:25 · 355 阅读 · 0 评论