_bigPo-CSDN博客

原创在测试阶段BN层为什么可以合并到卷积层中？

我们先来看下BN的计算：求均值：μ←1m∑i=1mxi\mu \leftarrow \frac{1}{m} \sum_{i=1}^m x_iμ←m1i=1∑mxi求方差：σ2←1m∑i=1m(xi−μ)2\sigma^2 \leftarrow \frac{1}{m} \sum_{i=1}^m (x_i - \mu)^2σ2←m1i=1∑m(xi−μ)2标准化后的 xi...

2020-03-18 11:34:33 599

原创 ubuntu 16.04 无GPU版caffe安装简记

历经千辛万苦，终于把caffe给装上了，我这次装的是无GPU版本，希望能把自己的安装过程踩过的坑记录下来，给别人或将来的自己做个参考。

2016-07-16 22:15:10 6201 6

原创机器学习之线性回归

线性回归线性回归的函数表示线性回归就是用线性方程去拟合一组数据, xx 的最高阶是1, 用方程可以表示为: hθ(x)=θ0+θ1x1+⋯+θnxnh_\theta(x) = \theta_0 + \theta_1x_1 + \cdots + \theta_nx_n我们令 x0=1x_0 = 1 则上式可以改写为: h(x)=∑i=0nθixi=θTxh(x) = \sum_{i=0}^

2016-06-16 21:38:05 626

原创捋一捋AdaBoost（1）：算法实现

根据Boosting的理论，通过弱分类器的组合可以得到强分类器。只要该弱分类器稍稍比随机猜测好即可，下面来看看如何一步一步的实现AdaBoost。给样本分配权重AdaBoost是顺序学习，每一轮的训练的样本的权重都是根据该样本在前一轮的表现经过了重新的分配。对于第一轮，我们自然就想到赋予每个样本相等的权重。 w1i=1mi=1,2,⋯,mw_{1i} = \frac{1}{m} \qquad i

2016-05-29 18:44:20 682

原创机器学习之神经网络bp算法推导

这是一篇学习UFLDL反向传导算法的笔记，按自己的思路捋了一遍，有不对的地方请大家指点。首先说明一下神经网络的符号： 1. nln_l 表示神经网络的层数。 2. sls_l 表示第 ll 层神经元个数，不包含偏置单元。 3. z(l)iz_i^{(l)} 表示第 ll 层第 ii 个神经元的输入；a(l)ia_i^{(l)} 表示第 ll 层第 ii 个神经元的输出。 4. W(l)ijW

2016-05-05 22:30:56 5835 7

原创将latex公式转换成图片

有时候不可避免的需要用到公式，而一般的博客又不支持latex公式显示，所以我们需要一个可以将latex公式生成图片的工具。这里介绍一个是 KLatexFormula 不过可能需要你的电脑安装过texlive还有Ghostscript等软件包的支持。上面是KLatexFormula需要用到的软件。最后来一张效果图吧~下面的是600DPI下面是300DPI下

2016-05-05 11:11:25 5886

kaggle上有个简单的机器学习教程，用的是Python，这篇文章尝试把其中的主要脉络梳理一下，如果你想要学习，还是推荐到网站上过一遍。数据的导入和导出kaggle的数据集大都是以csv格式的文件存储的，你上传最终的结果时也要求以csv格式呈现，因此下面简单介绍下数据集的导入和导出。这个教程是以预测Titanic幸存人数为例进行说明。数据读入使用pandas可以将csv文件读入DataFrame格

2016-05-02 20:12:42 5434 1

原创机器学习之高斯混合模型

高斯混合模型可以看做是EM算法的应用之一，下面尝试对迭代公式进行推导。假设我们有一批观测到的样本，这些样本可能来自于k个不同参数的高斯分布，我们如何根据观测到的样本来估计这k个高斯模型的参数呢？

2016-04-29 20:02:29 1024

原创机器学习之EM算法解析

EM算法是参数估计一种，一般的，比如我们知道了样本x1,x2,...xmx_1, x_2, ... x_m 我们想寻找样本背后的参数，通常使用最大似然函数法，然后对最大似然函数求极值得到相应的参数。但是在有些情况下，样本的生成还有不可观测的隐变量所控制，那么如果对含有隐变量的样本数据进行参数估计呢？同样的我们先将似然函数写下来： l(θ)=∑i=1mlog p(x;θ)=∑i=1mlog∑z p

2016-04-29 17:21:26 956

原创 python逆序切片

对于python的一个list来说，可以使用形如 list[begin_idx: end_idx: step]对列表进行切片操作。如果 step 是负值，则意味着逆序切片，这里有一点需要注意的是，不是先从 begin_idx 到 end_idx 切片再逆序，而是直接就逆序按步进切片了，下面举一个例子说明。In [1]: cOut[1]: array([0, 1, 2, 3, 4, 5, 6, 7,

2016-04-26 18:50:14 5103

原创初识Kaggle：手写体数字识别

不得不说刚开始看到kaggle上的数据量还是挺大的，至少对于像我这样的小打小闹的是这样的。在网上看到入门kaggle要先做101的热身赛，就选了这个手写体识别这个赛题。刚好想到了前些天看过的机器学习实战上k近邻一章中有个类似的实例，就想着用kNN试试看。首先遇到的一个问题是文件的读入，训练集和测试集都是csv格式的文件，这里说下这个test.csv并不能算做是严格意义上的测试集，因为它不含lab

2016-04-19 16:15:30 5531

原创机器学习数学基础（1）

博文以学习PRML为主，并尽力把其主要内容记录下来，希望大家多多指点。多项式拟合首先我们来看一个使用多项式拟合数据的例子，观测集由函数 sin(2πx)sin(2\pi x) 产生，为了是数据显得更接近真实，通常会对产生的数据加上随机扰动。这里提下，在真实情况下我们搜集到的数据都是有噪声的，所以使模型对观测数据拟合的过分精确反而会造成其泛化能力下降。我们的目标是从给定的有限个点拟合出一条曲

2016-04-11 13:16:00 726

转载欢迎使用CSDN-markdown编辑器

欢迎使用Markdown编辑器写博客本Markdown编辑器使用StackEdit修改而来，用它写博客，将会带来全新的体验哦：Markdown和扩展Markdown简洁的语法代码块高亮图片链接和图片上传LaTex数学公式UML序列图和流程图离线写博客导入导出Markdown文件丰富的快捷键快捷键加粗 Ctrl + B 斜体 Ctrl + I 引用 Ctrl

2016-04-11 10:15:16 320

原创关于matplot的中文显示问题

关于matplot的中文显示问题使用matplot画图时，发现设置坐标轴标题的中文字体变成了口口，于是就想着上网找找解决办法，这里也简记如下：如果画图时需要设置中文字体，需要在代码中添加如下几行代码1from pylab import mplmpl.rcParams['font.sans-serif'] = ['Microsoft YaHei'] # 指定默认字体mpl.rcParams['fo

2016-03-31 22:10:31 606

bigPo's Blog