- 博客(33)
- 收藏
- 关注
RSS订阅原创 动手学习深度学习——卷积神经网络基础
卷积神经网络基础1. 深度学习基本网络层1.1 卷积层1.2 1x1卷积层1.3 池化层1.4 激活层1.5 Batchnorm层(BN层)1.6 Dropout层1.7 空洞卷积(AtrousConvolution)2. 深度学习经典网络模块2.1 NiN块——cccp层(cascaded cross channel parametric pooling)2.2 Inception块2.3 sh...
2020-04-08 11:42:42
990
原创 动手学习深度学习pytorch版——多层感知机与softmax层
多层感知机与softmax层——动手学习深度学习pytorch版1. 内容简介1.1 数据集介绍1.2 多层感知机(MLP,Multilayer Perceptron)介绍1.3 激活函数1.4 Softmax层1.5 交叉熵损失函数1.6 网络的最终输出2. 多层感知机——从零开始2.1 激活函数的代码实现2.2 softmax层的代码实现2.3 交叉熵损失函数的计算2.4 线性层模块的定义2....
2020-04-08 11:38:12
1612
原创 动手学习深度学习pytorch版——从零开始实现YOLOv1
从零开始实现YOLOv11. 数据处理1.1 数据集介绍1.2 数据提取和转换1.3 pytorch的Dataset类构造2. YOLOv1网络实现2.1 Loss函数设计2.2 网络结构实现3. 开始训练啦4. 网络预测(Inference)5. 结果展示 以下是YOLOv1网络的实践操作部分，具体理论可以参考我的博客“经典论文解析——YOLOv1——目标检测”。文中代码均使用了GPU，如果...
2020-04-08 11:31:34
33290
169
原创 经典论文解析——YOLOv1——目标检测
YOLOv1,you only look once1. 网络简介2. 网络设计思路3. 网络结构4. 网络训练和检测的技巧5. 网络的优缺点 其实经典的CNN如AlexNet,VGG,GoogLeNet和ResNet部分的搭建和训练都已经完成了，但是还是想之后结合论文再一起介绍，所以这次先来个比较有难度的任务，目标检测YOLOv1网络的实现。要自己动手实现网络，第一步当然是阅读论文，论文阅读是...
2020-04-08 11:24:09
4148
7
原创 动手学习深度学习——目标检测指标mAP原理及举例
mAP原理及举例1). mAP相关概念2). 以图像检索mAP为例3). 目标检测中的mAP案例4). 总结5). 代码实现 文中如有错误，或您有不同的看法，请评论中指出讨论，谢谢。概念： 得到检测算法的预测结果后，需要对pred bbox与gt bbox一起评估检测算法的性能，涉及到的评估指标为mAP，那么当一个pred bbox与gt bbox的重合度较高（如IoU score &g...
2020-02-21 21:14:44
2433
原创 动手学习深度学习——从零开始推导和复现反向传播
反向传播——BP算法1.符号说明2.前向传播3.反向传播4. 代码实现 文中如有错误，或您有不同的看法，请评论中指出讨论，谢谢。1.符号说明 假设网络一共有0 ~ N层，其中0为输入层，N为输出层，1 ~ N-1为隐藏层。每层网络都有nLn_LnL个神经元，L代表第L层网络。 除了输入层以外，网络的每个神经元都有两个变量ai(L),bi(L)a^{(L)}_{i},b^{(L)}_...
2020-02-15 18:56:16
591
1
原创 经典论文解析——MobileNet系列
MobileNet系列V1—MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications1. 简介2. 网络介绍2.1 深度可分离卷积(Depthwise Separable Convolution)2.2 网络结构2.3 超参数1——Width Multiplier α2.4 超参数2——Res...
2020-02-06 21:35:19
2809
原创 动手学习深度学习keras版——从零开始实现Vnet 2D版
从零开始实现Vnet 2D版1. 数据处理1.1 数据集介绍1.2 数据提取和转换1.3 Keras的数据生成器(generator)构造2. Vnet 2D版网络实现3. 开始训练啦4. 网络预测(inference)5. 结果展示 工作需要，暂时换成keras来写网络代码。其实感觉还是pytorch用起来灵活整洁一些。有时间还是会继续出pytorch版的，顺便看看两个深度学习框架之间的差别...
2019-11-18 16:45:43
3198
18
原创 经典论文解析——Unet和Vnet——图像分割
Unet & Vnet1.Unet1.1 网络简介1.2 网络结构1.3 网络训练技巧2.Vnet2.1 网络简介2.2 网络结构 前言说点题外话，最近在实习了，所以总结整理的时间不多，之前的系列也会继续做，只是更新速度会放慢一些。我尽量还是本着以质为主的原则写博客，不弄太水的文章，希望对看过的读者能有帮助，以及对自己能有提升。 言归正传，最近实习上下班在地铁上看了两篇论文，两者相...
2019-11-17 14:15:17
30411
5
原创 动手学习深度学习pytorch版——线性回归
线性回归——动手学习深度学习pytorch版1. 线性回归——从零开始1.1 用随机数生成并保存数据1.2 创建训练数据集的迭代器1.3 构造最简单的线性层网络1.4 构造自己的损失函数1.5 开始训练啦！ 本系列是基于亚马逊李沐老师的教材《动手学习深度学习》，以及李沐老师对应的视频教程内容展开。但是李沐老师课程中使用的深度学习框架是MXNet，其实选择什么框架并不是重点，重点应该是其中的内容...
2019-10-15 10:57:08
1207
1
原创 机器学习代码实现篇——SVM
SVM代码实现1. SVM原理推导1.1 超平面、函数间隔和几何间隔1.2 间隔最大化原则1.3 为什么SVM叫支持向量机？1.4 带约束的最优化问题求解1.5 SMO算法2. SVM代码详解1. SVM原理推导1.1 超平面、函数间隔和几何间隔 1).超平面 简单用数学语言描述超平面就是：w⋅x+b=0⇒∑inwi⋅xi+b=0w·x+b=0 \Rightarrow \sum_i^...
2019-10-14 15:59:44
1222
3
原创 Week7-存储模型1-Coursera北大操作系统课程-个人笔记
Week7 存储模型11.基本概念1.1 地址重定位(relocation)2. 物理内存管理2.1 空闲内存管理2.2 内存分配算法2.3 内存回收2.4 伙伴系统(Buddy system)3. 基本内存管理方案3.1 单一连续区3.2 固定分区3.3 可变分区 声明：本文的图片和内容均来自Coursera课堂。1.基本概念1.1 地址重定位(relocation) 地址重定位也叫...
2019-10-12 14:35:22
319
原创 Week6-同步机制2-Coursera北大操作系统课程-个人笔记
Week6 同步机制21. 管程(monitor)1.1 基本概念1.2 管程的功能1.3 应用管程时会遇到的问题1.4 Hoare管程1.5 管程的应用1.6 MESA管程1.7 管程总结1.8 Pthread中的同步机制API2. 进程间通信(IPC,(Inter-Process Communication)2.1 基本概念2.2 消息传递2.3 共享内存2.4 管道通信方式PIPE3. 典型...
2019-10-10 15:39:28
301
原创 Week5-同步机制-Coursera北大操作系统课程-个人笔记
Week5 同步机制1. 进程的并发执行2.进程互斥2.1 基本概念2.2 进程互斥的软件解决办法2.3 进程互斥的硬件解决方案3.进程同步4.信号量及P、V操作4.1 信号量4.2 PV操作4.3 PV操作解决进程间互斥问题5. 案例分析5.1 生产者/消费者问题5.2 第一类读者/写者问题——读者优先1. 进程的并发执行 并发的特点：进程的执行是间断性的；进程的相对执行速度是不可预测的；...
2019-10-10 15:39:08
510
原创 Week4-CPU处理器调度-Coursera北大操作系统课程-个人笔记
Week4 CPU处理器调度1. CPU调度的相关概念1.1 简介1.2 调度算法的设计1.3 CPU调度的时机1.4 调度过程——进程切换2. 设计调度算法时要考虑的要点2.1 进程优先级与优先数2.2 进程就绪队列组织方式2.3 抢占与非抢占2.4 I/O密集型与CPU密集型进程2.5 时间片(Time slice)3. 批处理系统的调度算法3.1 先来先服务(FCFS,First Come ...
2019-10-10 15:38:02
820
原创 Week3-进程线程模型-Coursera北大操作系统课程-个人笔记
Week3 进程线程模型1. 进程(Process)的基本概念1.1 进程的定义1.2 进程控制快(PCB,Process Control Block)2. 进程状态及状态转换2.1 进程的基本状态2.2 进程状态的转换2.3 进程队列3. 进程控制3.1 进程的创建3.2 进程的撤销3.3 进程阻塞3.4 Unix常见进程控制操作简介4.深入理解进程概念4.1 进程的分类与层次结构4.2 进程与...
2019-10-10 15:37:34
266
原创 Week2-操作系统运行环境-Coursera北大操作系统课程-个人笔记
Week2 操作系统运行环境1.处理器状态1.1 中央处理器(CPU)的组成1.2 控制和状态寄存器介绍1.3 特权指令和非特权指令1.4 CPU状态之间的转换2. 中断与异常机制2.1 中断/异常的概念及重要性2.2 为什么引入中断与异常？2.3 中断与异常的小结2.4 中断/异常机制工作原理2.5 中断/异常处理的实例——X86处理器3.系统调用(System Call)机制3.1 系统调用的...
2019-10-10 15:25:01
580
原创 机器学习笔记补充——隐马尔可夫模型
隐马尔可夫模型0. 马尔可夫模型介绍1. 隐马尔可夫模型的基本概念1.1 隐马尔可夫模型的定义1.2 符号说明：1.3 隐马尔可夫模型的前提假设1.4 隐马尔科夫模型的示例1.5 隐马尔可夫模型的3个基本问题2.概率计算问题算法2.1 前向算法2.2 后向算法2.3 一些概率与期望值的计算3.学习问题算法3.1 监督学习隐马尔可夫模型3.2 无监督学习隐马尔可夫模型——Baum-Welch算法(E...
2019-10-03 11:00:59
337
原创 数字图像处理——灰度变换、直方图、卷积介绍及空间滤波器
灰度变换、直方图、卷积介绍及空间滤波器内容简介1. 灰度变换1.1 图像反转1.2 对数变换1.3 幂律(伽马)变换1.4 分段线性变换函数2. 直方图2.1 直方图均衡2.2 直方图匹配2.3 局部直方图处理3. 空间滤波3.1 空间滤波的机理3.2 空间相关和卷积内容简介 本篇文章主要介绍一些图像处理的基础，包括简单的灰度变换、直方图、卷积的简单介绍以及常见空间滤波器的介绍。 本篇内...
2019-09-29 23:20:28
2182
原创 数字图像处理——图像退化与复原
图像退化与复原内容简介1.图像退化与复原的原理1.1 图像退化的数学模型1.2 图像退化的原理1.3 图像复原的原理2. 图像去噪2.1 噪声模型2.2 噪声参数的估计2.3 针对噪声的图像复原——空间、频域滤波内容简介 图像复原和图像增强两者有较大的重合部分。但图像增强更多的是主观过程，是人们希望通过某种方法加强图像特定信息或细节的操作。而图像复原可以说是客观过程，是因为在使用设备拍照过程...
2019-09-29 13:20:25
23041
4
原创 机器学习笔记补充——EM算法及其在GMM中的应用
EM算法——期望极大值算法1. EM算法的简介及案例介绍2. EM算法的推导 本文内容主体是基于李航老师的《统计学习方法》第二版中EM算法章节的内容，有兴趣的同学可以自行参考书籍资料。其中个人觉得不是很直观的部分进行了适当的解释，解释仅属于个人理解，若觉得解释更加难以理解的同学可以自行忽略。代码部分有时间再补充。若文中有编辑错误，烦请指正，谢谢。1. EM算法的简介及案例介绍 EM算法是...
2019-09-25 13:42:35
592
原创 机器学习笔记补充——提升(boosting)
提升Boosting1. 提升简介2. AdaBoost算法2.1 算法思路及步骤2.2 AdaBoost算法的训练误差分析2.3 AdaBoost算法的推导1. 提升简介 强可学习(strongly learnable)：一个概念，如果存在一个学习算法能够学习它，并且正确率很高，则称为是强可学习的； 弱可学习(weakly learnable)：一个概念，如果存在一个学习算法能够学习它...
2019-09-15 09:31:03
299
原创 机器学习笔记补充——决策树
决策树1.决策树简介1.1 决策树的定义1.决策树简介1.1 决策树的定义 众所周知，定义是一种概念的高度概括，尽管其包含的信息量很多很精华，但总是枯燥又无趣的。所以，在介绍定义前，先来看个引例，方便后续理解。 引例： 以教育为例，假设每个人都是一个样本(对应数据集)，孔夫子说过，教育需要因材施教，所以我们的目标是尽可能地将每个人归到最适合自己的专业领域(对应数据标签)，即专业是我...
2019-09-10 13:42:35
484
原创 Week1-操作系统概述-Coursera北大操作系统课程-个人笔记
Week1 操作系统概述1. 操作系统做了什么？2. 操作系统的定义与作用2.1操作系统的定义2.2 操作系统的作用3. 操作系统的主要特征3.1 并发(concurrency)3.2 共享(sharing)3.3 虚拟(Virtual)3.4 随机(Random)4. 典型操作系统的架构4.1 Windows架构4.2 Unix架构4.3 Linux架构4.4 Android操作系统的整体架构(...
2019-09-05 21:22:53
1142
原创 Coursera-吴恩达机器学习课程个人笔记-Week8
Week8 非监督学习——聚类、PCA1 什么是非监督学习？2 k均值聚类(k-Means)算法2.1聚类的定义2.2 k均值聚类算法2.3 其他聚类算法(拓展)2.4 聚类的衡量指标(拓展)3 降维3.1什么是降维？降维有什么用？3.2 主成分分析问题(PCA,Principal Component Analysis)1 什么是非监督学习？无监督的学习方式： 样本不是(xi,yi)(x_...
2019-08-31 17:09:04
556
原创 Coursera-吴恩达机器学习课程个人笔记-Week7
Week7 支持向量机,SVM1.支持向量机(SVM,Support Vector Machine)的数学表达1.1从逻辑回归过渡到SVM1.支持向量机(SVM,Support Vector Machine)的数学表达 本章中的向量和矩阵不再加粗，请读者自行判断，如有疑问可以留言咨询。1.1从逻辑回归过渡到SVM 从另一角度分析逻辑回归的sigmoid函数。对于二分类问题，我们希望的是...
2019-08-31 15:56:11
309
原创 Coursera-吴恩达机器学习课程个人笔记-Week6
Week5 机器学习的应用技巧1.机器学习的应用2.机器学习诊断法2.1 评估数学模型2.2 学习曲线(Learning Curves)3.实战技巧3.1垃圾邮件分类器3.2 推荐的技巧3.3 常见的判别模型指标3.4 数据越多越好吗？1.机器学习的应用 如果学习后的模型在测试集上有很大的误差，该怎么办？ 1).收集更多的数据作为数据集；(处理过拟合) 2).简化问题的数学模型，即减...
2019-08-28 10:45:36
551
原创 Coursera-吴恩达机器学习课程个人笔记-Week5
Week5 神经网络21. 神经网络的损失函数1.1 参数说明1.2 分类问题2. 反向传播(Backpropagation)2.1 反向传播的作用2.2 梯度下降法中梯度的计算2.3 反向传播算法的使用步骤2.4 反向传播算法的原理(拓展)3. 梯度检查4. 随机初始化5. 构造神经网络的步骤5.1 神经网络结构的构建5.2 训练神经网络1. 神经网络的损失函数1.1 参数说明 L是神经...
2019-08-27 16:31:45
318
原创 Coursera-吴恩达机器学习课程个人笔记-Week4
Week4 神经网络11.非线性模型——神经网络(Neural Networks)介绍2.神经网络的数学表达2.1术语和参数说明2.2 神经网络的计算3 神经网络的简单案例3.1实现AND、OR、NOT等案例3.2实现XNOR功能3.3 神经网络处理多分类问题1.非线性模型——神经网络(Neural Networks)介绍 线性回归和逻辑回归可以解决非线性模型，为什么还需要神经网络？ 因...
2019-08-26 11:01:34
435
原创 Coursera-吴恩达机器学习课程个人笔记-Week3
Week3 逻辑回归、过拟合和正则化1. 逻辑回归(Logistic Regression)介绍1.1 逻辑回归是什么，为什么需要用逻辑回归？2.逻辑回归的数学表达2.1Sigmoid方程及其特性2.2逻辑回归的数学表达式2.3 逻辑回归的“非线性拟合”3.逻辑回归的几何解释4.逻辑回归参数向量θ的选择4.1 逻辑回归的损失函数4.2 logistic回归的损失函数的简化4.3逻辑回归的梯度下降法...
2019-08-25 17:14:36
290
1
原创 Coursera-吴恩达机器学习课程个人笔记-Week2
Week2 线性回归和梯度下降法参数说明1.多特征的线性回归方程2.梯度下降法(Gradient Descent)2.1如何选择参数向量$\textbf{θ}=(θ_0, θ_1,…,θ_n)$呢？2.2优化梯度下降法的方法 1).特征缩放(特征标准化) 2).学习率α的选择2.3批量梯度下降算法和随机梯度下降算法3.线性回归的“非线性拟合”新的改变功能快捷键合理的创建标题，有助于目录的生成如...
2019-08-25 09:24:13
334
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人