- 博客(35)
- 资源 (2)
- 收藏
- 关注
原创 CNN学习笔记(8)---模型集成方法
13.模型集成方法深度模型的集成多从“数据层面”和“模型层面”两方面着手13.1 数据层面的集成方法13.1.1 测试阶段数据扩充训练阶段的数据扩充手段:图像多尺度,随机扣取等都可以用到测试阶段以随机扣取为例,对某张测试图像可得到 n 张随机扣取图像,测试阶段只需用训练好的深度网络模型对 n 张图分别做预测,之后将预测的各类置信度平均作为该测试图像最终预测结...
2018-04-27 09:16:17 4924
原创 CNN笔记(7)---不平衡数据的处理(imbalance)
12.不平衡数据的处理(imbalance)除了常规的分类,回归任务,图像语义分割,深度估计等像素级别任务也不乏不平衡样本的出现12.1 数据层面处理方法数据层面处理方法多借助数据采样法(sampling)使整体训练集样本趋于平衡即各类样本数基本一致12.1.1 数据重采样重采样包括上采样和下采样对于样本较少的类别,使用上采样(赋值/数据扩充),增加样本数对...
2018-04-27 09:13:36 7097
原创 CNN笔记(6)---超参数设定和网络训练
11.超参数设定和网络训练11.1 网络超参数设定网络结构相关的各项超参数:输入图像像素、卷积层个数、卷积核的相关参数11.1.1 输入数据像素大小不同输入图像为得到同规格输出,统一压缩到2n2n2^n大小:32x32,96x96,224x224分辨率越高,有助于性能提升,(特别是attention model),但是会延长训练时间改变原始模型的输入图像分辨率,需要重...
2018-04-27 09:10:23 11028
原创 CNN学习笔记(5)---正则化
10.Regularization正则化有效防止模型的过拟合10.1 l2l2l_2正则化 —邻回归(Ridge regression)—Tikhonov 正则化假设待正则的网络层参数为www,l2l2l_2正则式为:l2=12λ||w||22l2=12λ||w||22l_2 = \frac{1}{2}\lambda ||w||^2_2将正则项加入目标函数又叫...
2018-04-27 00:12:28 6459
原创 CNN笔记(4)--目标函数
9.目标函数(损失函数,代价函数)9.1分类任务的目标函数9.1.1 交叉熵损失函数(cross entropy)(SoftMax)Lcross entropy loss=Lsoftmax_loss=−1N∑i=1Nlogehyi∑Cj=1ehjLcross entropy loss=Lsoftmax_loss=−1N∑i=1Nloge...
2018-04-27 00:09:34 1659
原创 CNN笔记(3)---激活函数
8.Activation Function8.1 Sigmoid 型函数σ(x)=11+e(−x)σ(x)=11+e(−x)\sigma(x)=\frac{1}{1+e^{(-x)}}sigmoid 将输出响应的值域压缩到[0,1]之间但是,两端大于5,小于-5的区域,梯度接近0,带来梯度的“饱和效应”反向传播中无法传递误差而且sigmoid 的值域均值并非为0,而...
2018-04-27 00:05:53 1520
原创 CNN笔记(2)--网络参数初始化
7网络参数初始化7.1 全零初始化网络收敛到稳定状态时,参数(权值)在理想情况下应基本保持正负各半,期望为0全0初始化可以使初始化全零时参数期望为0但是,全0初始化不能训练7.2随机初始化仍然希望参数期望接近1随机参数服从高斯分布或均匀分布进行初始化7.2.1.高斯分布高斯分布为均值为0,方差为1 的标准高斯分布w = 0.001 .* ra...
2018-04-27 00:01:07 4570
原创 CNN笔记(1)---数据扩充与数据预处理
1.Data Augmentation1.1 简单的数据扩充图像水平翻转随机扣取尺度变换和旋转色彩抖动:在RGB颜色空间对原有RGB色彩分布进行轻微扰动 也可以在HSV空间随机改变图像原有的饱和度和明度 (改变S和V通道的值) 或对色调进行微调(小范围改变H的值)1.2 特殊的数据扩充方式1.2.1 F...
2018-04-26 23:58:44 2362
原创 向量与矩阵的范数定义的总结
向量的范数 范数 定义 1-范数 ||x||1=∑i=1N|xi|||x||1=∑i=1N|xi|||x||_1 = \sum_{i=1}^N |x_i| 2-范数 ||x||2=(∑i=1N|xi|2)12||x||2=(∑i=1N|xi|2)12||x||_2 = (\sum_{i=1}^N|x_i|^2)^{\frac{1}{2}} ∞∞\i...
2018-04-26 17:28:26 995
原创 导入tensorflow ,提示警告信息的消除
1.版本信息tensorflow 1.12.0 numpy 1.12.12.警告信息导入tensorflow 时会出现的警告信息 FutureWarning: Conversion of the second argument of issubdtype from float to np.floating is deprecated. In future, it wil...
2018-03-14 15:03:45 10426 1
原创 C++ 短路求值特性的利用
题目求1+2+3+…+n,要求不能使用乘除法、for、while、if、else、switch、case等关键字及条件判断语句(A?B:C)。解决方案class Solution {public: int Sum_Solution(int n) { int res = n; res && (res = res + Sum_S...
2018-03-02 11:37:03 924
原创 SVM分类器的概率校准在scikit-learn 中的几种实现方式
SVM分类器的分类结果只有类别,没有概率,属于maximum-margin 的方法如果我们想从SVM的分类结果中得到属于某个类别的置信概率,就要用到 概率校准经典的概率校准思路有Platt Scaling,核心思想就是把分类的结果作为新的训练集,用logistics回归再训练一个关系,得到具体的概率值P(y=1∣x)=11+e(A∗f(x)+B)P(y=1∣x)=11+e(A∗f(...
2018-02-19 19:05:42 5578 1
翻译 SVM 解决类别不平衡问题(scikit_learn)
在支持向量机中,CCC 是负责惩罚错误分类数据的超参数。解决数据类别不平衡的一个方法就是使用基于类别增加权重的CCC值Cj=C∗wjCj=C∗wjC_j = C * w_j其中,CCC是误分类的惩罚项,wjwjw_j是与类别 jjj 的出现频率成反比的权重参数,CjCjC_j 就是类别 jjj 对应的 加权CCC值主要思路就是增大误分类 少数类别 带来的影响,保证 少数类别 的...
2018-02-18 10:10:34 11406
翻译 找到SVM分类器的支持向量(scikit-learn)
0.库的导入# 导入库from sklearn.svm import SVCfrom sklearn import datasetsfrom sklearn.preprocessing import StandardScalerimport numpy as np1.加载Iris Flower 数据集#Iris Flower 数据集有三个类别,这里只加载两个...
2018-02-17 18:49:53 2608
翻译 SVM 分类器的分类超平面的绘制
0.库的导入# Load librariesfrom sklearn.svm import LinearSVCfrom sklearn import datasetsfrom sklearn.preprocessing import StandardScalerimport numpy as npfrom matplotlib import pyplot as plt...
2018-02-17 18:36:49 10447
翻译 支持向量分类器的scikit-learn 实现(Support Vector Classifier)
支持向量分类器(SVC)在最大化分类间隔(margin)和最小化错误分类(misclassification)上需要一个平衡。在SVC分类器中,用超参数C作为误差的惩罚项当C比较小时,可以接受一些数据点的误分类,模型的偏差高而方差低(high bias low variance)当C比较大时,对错误分类的点惩罚严重,分类器会尽力避免错误的分类,得到的模型偏差小但方差高(low bi...
2018-02-17 18:00:12 1703
原创 Docker容器图形界面显示(运行GUI软件)的配置方法
0.环境说明Ubuntu 16.04 docker 1.351.Docker的“可视化”Docker本身的工作模式是命令行的,因为主要的使用场景可能是做服务器后端方面的比较多。 但有时候我们会有在docker容器里运行一些图形界面的软件,或者要调用摄像头,输出图像等等一些需求,这个时候需要解决这个Docker “可视化”的问题。 (这里的“可视化”不是很容易搜到的可视化管理的方法
2018-02-04 17:39:43 76229 18
原创 使用DaoCloud加速docker镜像下载——修改daemon.json遇到的问题
1.docker镜像的获取使用如下的docker pull 命令可以从官方的docker hub网站获取需要的镜像。docker pull NAME[:TAG]官方网站虽然资源多,但是由于是国外的网站,访问速度很不理想,获取一个镜像可能要等很久。2.镜像获取加速的方法2.1 非官方仓库下载国内有很多提供这样服务的镜像源,下载的速度要好很多。 有满足需要的镜像的话,
2018-02-03 21:39:20 4168
原创 Anaconda环境中配置openCV报错-- numpy版本问题--解决方案
一 .环境信息win10/64bit anaconda3 python 3.5.4 opencv3二.报错信息创建了一个新的conda环境,在环境中配置了TensorFlow和Keras. 使用pip install [file path] 的方式安装 opencv_python 3.4.0+contrib cp35 cp35m win_amd64.whl 文件 安装完成后
2018-01-17 19:48:30 2093
原创 OpenCV 调用摄像头录制指定分辨率视频----(解决保存的视频仅有6Kb的问题)
1.环境信息win10 系统,VS2012,openCV 2.4.9,支持UVC协议的免驱动720p摄像头2.问题描述摄像头最大支持1280x960分辨率,但OpenCV调用的时候默认的分辨率是640x480。 需要调用摄像头录制1280x720的视频。没有报错信息,却发现生成的视频始终只有6Kb,无法播放。 程序如下#include#include#include
2018-01-10 15:58:15 5011 2
原创 Python 2.x 与 3.x 版本不同造成的报错处理
运行一些网上下载的代码时,由于代码经常是数年前用Python 2.x 编写的,一些函数用法上会出现变化,直接运行会发生报错。记录一些见到的小问题:1.Error ‘dict’ object has no attribute ‘iteritems’2.from pil import image 报错 DLL load failed3.TypeError: 'dict_keys' object does not
2017-08-17 21:49:30 632
原创 Python Algorithms Learning Notes(2)—Implementing Graphs and Trees
This one is learning note for Python Algorithm , on the topic of graphs and trees
2017-08-08 11:23:08 322
原创 Python Algorithms Learning Notes(1)--Asymptotic Notations
Lately , I've been reading《Python Algorithms》by Magnus Lie Hetland. To understand the contents better , I’ll keep notes about it through the whole process.
2017-07-31 21:17:56 417
原创 高斯混合模型视频背景建模的EM算法与Matlab 实现
使用 混合高斯模型 对视频背景进行建模,实现视频的背景前景分离;使用 EM 算法迭代估计混合高斯模型参数;使用Matlab 实现整个视频动静分离过程。
2017-06-18 13:12:51 8397 3
翻译 Tensorflow 10分钟快速上手
Tensorflow 10分钟快速上手 本文依据教程 TensorFlow Tutorial: 10 minutes Practical TensorFlow lesson for quick learners的内容编写… 实现了教程中的所有指令,内容进行了不完整的翻译,仅供参考
2017-06-06 18:00:51 920
原创 Ubuntu16.04LTS 搜狗输入法无法输入中文
Ubuntu16.04LTS 开机后,搜狗输入法无法输入中文,输入法可以选择,但是不显示备选词条
2017-06-06 12:41:48 425
原创 Machine Learning Class 1:Introduction,supervised & unsupervised learning
The note of Andrew Ng's Machine Learning class on coursera.This blog is for the Introduction part
2017-05-20 01:10:00 335
原创 Ubuntu16.04 报错信息处理
更新Ubuntu系统过程中,提示/boot 空间不足。解决了/boot 空间不足、已安装 post-installation 脚本 返回错误状态 1、新的 pre-removal 脚本 返回错误状态 1、旧的 pre-removal 脚本 返回错误状态 1、ImportError: No module named 'ConfigParser'、设置Python2和Python3的切换 一系列问题
2017-05-18 13:44:09 5796 4
原创 KL散度的理解
这篇文章是博客Count Bayesie上的文章Kullback-Leibler Divergence Explained 的学习笔记
2017-05-17 10:32:05 34921 2
原创 深度学习中的数学--lecture 1(2)
本篇文章为 MIT 课程 Mathematical Aspects of Deep Learning 的lecture 1 的第二部分学习笔记:2.卷积网络(Convolution Network)
2017-05-17 09:57:44 450
原创 深度学习中的数学—Lecture 1(1)
本篇文章为 MIT 课程 Mathematical Aspects of Deep Learning 的 lecture 1 Introduction:A Non-Rigorous Review of Deep Learning的第一部分学习笔记,1.深度前向网络(Deep forward networks ).
2017-05-16 18:54:30 1116
原创 基于 jieba 和 word_cloud 生成《人民的名义》小说词云
基于 jieba 和 word_cloud 生成《人民的名义》小说词云由于词云在反映文本关键信息上的显著优势,在本文中,我选择结合实例为大家介绍一下 Python 中专门用来生成词云的一个库——word_cloud 。 实例中的分析对象就选择为最近大火的电视剧《人民的名义》小说原著,通过词云来分析一下小说各具魅力的人物中,究竟谁的出场率最高,谁是真正的主角。
2017-05-09 17:38:15 4792
Learning Python
2017-07-20
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人