笔记-算法
Codename-NC
rookie in computer vision and machine learning,hoping to make progress
展开
-
高斯混合模型视频背景建模的EM算法与Matlab 实现
使用 混合高斯模型 对视频背景进行建模,实现视频的背景前景分离;使用 EM 算法迭代估计混合高斯模型参数;使用Matlab 实现整个视频动静分离过程。原创 2017-06-18 13:12:51 · 8402 阅读 · 3 评论 -
CNN笔记(7)---不平衡数据的处理(imbalance)
12.不平衡数据的处理(imbalance)除了常规的分类,回归任务,图像语义分割,深度估计等像素级别任务也不乏不平衡样本的出现12.1 数据层面处理方法数据层面处理方法多借助数据采样法(sampling)使整体训练集样本趋于平衡即各类样本数基本一致12.1.1 数据重采样重采样包括上采样和下采样对于样本较少的类别,使用上采样(赋值/数据扩充),增加样本数对...原创 2018-04-27 09:13:36 · 7113 阅读 · 0 评论 -
CNN笔记(6)---超参数设定和网络训练
11.超参数设定和网络训练11.1 网络超参数设定网络结构相关的各项超参数:输入图像像素、卷积层个数、卷积核的相关参数11.1.1 输入数据像素大小不同输入图像为得到同规格输出,统一压缩到2n2n2^n大小:32x32,96x96,224x224分辨率越高,有助于性能提升,(特别是attention model),但是会延长训练时间改变原始模型的输入图像分辨率,需要重...原创 2018-04-27 09:10:23 · 11065 阅读 · 0 评论 -
CNN学习笔记(5)---正则化
10.Regularization正则化有效防止模型的过拟合10.1 l2l2l_2正则化 —邻回归(Ridge regression)—Tikhonov 正则化假设待正则的网络层参数为www,l2l2l_2正则式为:l2=12λ||w||22l2=12λ||w||22l_2 = \frac{1}{2}\lambda ||w||^2_2将正则项加入目标函数又叫...原创 2018-04-27 00:12:28 · 6467 阅读 · 0 评论 -
CNN笔记(4)--目标函数
9.目标函数(损失函数,代价函数)9.1分类任务的目标函数9.1.1 交叉熵损失函数(cross entropy)(SoftMax)Lcross entropy loss=Lsoftmax_loss=−1N∑i=1Nlogehyi∑Cj=1ehjLcross entropy loss=Lsoftmax_loss=−1N∑i=1Nloge...原创 2018-04-27 00:09:34 · 1666 阅读 · 0 评论 -
CNN笔记(3)---激活函数
8.Activation Function8.1 Sigmoid 型函数σ(x)=11+e(−x)σ(x)=11+e(−x)\sigma(x)=\frac{1}{1+e^{(-x)}}sigmoid 将输出响应的值域压缩到[0,1]之间但是,两端大于5,小于-5的区域,梯度接近0,带来梯度的“饱和效应”反向传播中无法传递误差而且sigmoid 的值域均值并非为0,而...原创 2018-04-27 00:05:53 · 1525 阅读 · 0 评论 -
CNN笔记(2)--网络参数初始化
7网络参数初始化7.1 全零初始化网络收敛到稳定状态时,参数(权值)在理想情况下应基本保持正负各半,期望为0全0初始化可以使初始化全零时参数期望为0但是,全0初始化不能训练7.2随机初始化仍然希望参数期望接近1随机参数服从高斯分布或均匀分布进行初始化7.2.1.高斯分布高斯分布为均值为0,方差为1 的标准高斯分布w = 0.001 .* ra...原创 2018-04-27 00:01:07 · 4577 阅读 · 0 评论 -
CNN笔记(1)---数据扩充与数据预处理
1.Data Augmentation1.1 简单的数据扩充图像水平翻转随机扣取尺度变换和旋转色彩抖动:在RGB颜色空间对原有RGB色彩分布进行轻微扰动 也可以在HSV空间随机改变图像原有的饱和度和明度 (改变S和V通道的值) 或对色调进行微调(小范围改变H的值)1.2 特殊的数据扩充方式1.2.1 F...原创 2018-04-26 23:58:44 · 2365 阅读 · 0 评论 -
C++ 短路求值特性的利用
题目求1+2+3+…+n,要求不能使用乘除法、for、while、if、else、switch、case等关键字及条件判断语句(A?B:C)。解决方案class Solution {public: int Sum_Solution(int n) { int res = n; res && (res = res + Sum_S...原创 2018-03-02 11:37:03 · 930 阅读 · 0 评论 -
SVM分类器的概率校准在scikit-learn 中的几种实现方式
SVM分类器的分类结果只有类别,没有概率,属于maximum-margin 的方法如果我们想从SVM的分类结果中得到属于某个类别的置信概率,就要用到 概率校准经典的概率校准思路有Platt Scaling,核心思想就是把分类的结果作为新的训练集,用logistics回归再训练一个关系,得到具体的概率值P(y=1∣x)=11+e(A∗f(x)+B)P(y=1∣x)=11+e(A∗f(...原创 2018-02-19 19:05:42 · 5583 阅读 · 1 评论 -
SVM 解决类别不平衡问题(scikit_learn)
在支持向量机中,CCC 是负责惩罚错误分类数据的超参数。解决数据类别不平衡的一个方法就是使用基于类别增加权重的CCC值Cj=C∗wjCj=C∗wjC_j = C * w_j其中,CCC是误分类的惩罚项,wjwjw_j是与类别 jjj 的出现频率成反比的权重参数,CjCjC_j 就是类别 jjj 对应的 加权CCC值主要思路就是增大误分类 少数类别 带来的影响,保证 少数类别 的...翻译 2018-02-18 10:10:34 · 11427 阅读 · 0 评论 -
找到SVM分类器的支持向量(scikit-learn)
0.库的导入# 导入库from sklearn.svm import SVCfrom sklearn import datasetsfrom sklearn.preprocessing import StandardScalerimport numpy as np1.加载Iris Flower 数据集#Iris Flower 数据集有三个类别,这里只加载两个...翻译 2018-02-17 18:49:53 · 2638 阅读 · 0 评论 -
SVM 分类器的分类超平面的绘制
0.库的导入# Load librariesfrom sklearn.svm import LinearSVCfrom sklearn import datasetsfrom sklearn.preprocessing import StandardScalerimport numpy as npfrom matplotlib import pyplot as plt...翻译 2018-02-17 18:36:49 · 10462 阅读 · 0 评论 -
支持向量分类器的scikit-learn 实现(Support Vector Classifier)
支持向量分类器(SVC)在最大化分类间隔(margin)和最小化错误分类(misclassification)上需要一个平衡。在SVC分类器中,用超参数C作为误差的惩罚项当C比较小时,可以接受一些数据点的误分类,模型的偏差高而方差低(high bias low variance)当C比较大时,对错误分类的点惩罚严重,分类器会尽力避免错误的分类,得到的模型偏差小但方差高(low bi...翻译 2018-02-17 18:00:12 · 1708 阅读 · 0 评论 -
Python Algorithms Learning Notes(1)--Asymptotic Notations
Lately , I've been reading《Python Algorithms》by Magnus Lie Hetland. To understand the contents better , I’ll keep notes about it through the whole process.原创 2017-07-31 21:17:56 · 419 阅读 · 0 评论 -
Python Algorithms Learning Notes(2)—Implementing Graphs and Trees
This one is learning note for Python Algorithm , on the topic of graphs and trees原创 2017-08-08 11:23:08 · 323 阅读 · 0 评论 -
CNN学习笔记(8)---模型集成方法
13.模型集成方法深度模型的集成多从“数据层面”和“模型层面”两方面着手13.1 数据层面的集成方法13.1.1 测试阶段数据扩充训练阶段的数据扩充手段:图像多尺度,随机扣取等都可以用到测试阶段以随机扣取为例,对某张测试图像可得到 n 张随机扣取图像,测试阶段只需用训练好的深度网络模型对 n 张图分别做预测,之后将预测的各类置信度平均作为该测试图像最终预测结...原创 2018-04-27 09:16:17 · 4934 阅读 · 0 评论