- 博客(162)
- 收藏
- 关注
原创 FasterRCNN代码解读
之前的文章简要介绍了Faster-RCNN等物体检测的算法,本文将从代码角度详细分析介绍Faster-RCNN的实现。本文使用的代码参考了chenyuntc的实现,代码的位置看这里。需要注意的是,本文使用的框架是Pytorch。
2018-01-24 22:34:39
13293
3
原创 物体检测之从RCNN到Faster RCNN
本文将简要介绍物体检测的two stage的相关算法,two stage包括:region proposals、classification。介绍的相关算法有:RCNN、Fast RCNN、Faster RCNN。
2017-12-22 15:33:04
992
原创 粒子滤波简介
粒子滤波基于蒙特卡洛方法,用后验概率中随机抽取的粒子集对目标概率密度函数进行近似。本文将简要介绍如何用粒子滤波进行定位并附上相关代码实例。
2017-11-27 21:41:44
3730
原创 无人驾驶定位与贝叶斯滤波
无人驾驶需要精确的定位。本文将简要介绍无人驾驶定位的相关方法,重点介绍贝叶斯滤波框架进行递归的状态估计。同时附上一维马尔科夫定位的实例及代码。
2017-11-27 14:17:20
3816
1
原创 无损卡尔曼滤波UKF与多传感器融合
非线性系统状态估计是一大难点。KF(Kalman Filter)只适用于线性系统。EKF(Extended Kalman Filter)利用泰勒展开将非线性系统线性化。可是,EKF在强非线性系统下的误差很大。本文将介绍一种新型的滤波算法UKF(Unscented Kalman Filter),其计算精度相比EKF更高并省略了Jacobian矩阵的计算。
2017-11-16 17:01:22
14110
8
原创 扩展卡尔曼滤波EKF与多传感器融合
Extended Kalman Filter(扩展卡尔曼滤波)是卡尔曼滤波的非线性版本。在状态转移方程确定的情况下,EKF已经成为了非线性系统状态估计的事实标准。本文将简要介绍EKF,并介绍其在无人驾驶多传感器融合上的应用。
2017-11-07 17:49:10
51564
46
原创 构建聊天机器人:检索、seq2seq、RL、SeqGAN
本文将简要介绍聊天机器人的四种构建方法:检索、seq2seq、Reinforcement Learning、seqGAN。聊天机器人的现状
2017-08-01 23:07:51
4251
1
原创 无人驾驶之车道线检测简易版
无人驾驶技术近些年发展迅速。无人车若想实现自动驾驶,从视觉的角度上讲其要先学会观察道路,具体来说,就是检测车道线。包括识别车道线与车的位置关系,是实线还是虚线等。本文将简单介绍车道线检测的基本技术,包括Canny Edges、Hough Transform等。
2017-07-16 00:02:49
19636
5
原创 机器翻译之Facebook的CNN与Google的Attention
机器翻译的常用架构是seq2seq,可是seq2seq中的核心模型RNN是序列模型,后面的计算依赖于前面的计算,如何并行提高效率很是苦恼。最近,Facebook和Google的研究人员分别尝试用CNN与Attention代替seq2seq进行机器翻译,提高了训练效率,结构与思想也很予人启迪。
2017-07-03 16:24:00
8440
1
原创 强化学习之Q-learning简介
强化学习在alphago中大放异彩,本文将简要介绍强化学习的一种q-learning。先从最简单的q-table下手,然后针对state过多的问题引入q-network,最后通过两个例子加深对q-learning的理解。
2017-06-20 19:46:16
58884
3
原创 基于RNN的语言模型与机器翻译NMT
以RNN为代表的语言模型在机器翻译领域已经达到了`State of Art`的效果,本文将简要介绍语言模型、机器翻译,基于RNN的seq2seq架构及优化方法。
2017-06-18 20:23:39
7989
6
原创 风格转换简介
风格转换,是把一张图片转化成同内容但包含某风格的新图片。本文将介绍如何让机器学习风格转换,包含两种方法:优化问题求解、转化网络求解。
2017-05-26 00:03:21
2505
1
原创 神经网络优化算法综述
神经网络的训练有不同算法,本文将简要介绍常见的训练算法:adagrad、momentum、nag、rmsprop。同时简要介绍如何进行算法检查。
2017-05-23 00:15:10
8361
原创 GAN的统一架构与WGAN
GAN是让机器自动生成$P_G$去接近$P_{data}$。算法的关键是衡量分布$P_G,P_{data}$的差异,不同的衡量办法得到的$V(G,D)$不同,但是所有的衡量方法都可以归纳到一个统一的框架中:利用`f-divergence`衡量两个分布差异,利用`Fenchel Conjugate`将两个分布差异的问题转化到GAN的大框架中。 而近段异常流行的WGAN,便是将两个分布的差异用`Earch Mover
2017-05-22 20:56:03
5624
原创 生成对抗网络GAN
GAN属于生成模型,使用生成数据分布$P_{G}$去无限逼近数据的真实分布$P_{data}$。衡量两个数据分布的差异有多种度量,例如KL散度等,但是前提是得知道$P_{G}$。GAN利用discriminator巧妙地衡量了$P_{G},P_{data}$的差异性,利用discriminator和generator的不断竞争(minmax)得到了好的generator去生成数据分布$P_{G}$。
2017-05-18 17:25:08
1886
原创 记忆网络RNN、LSTM与GRU
一般的神经网络输入和输出的维度大小都是固定的,针对序列类型(尤其是变长的序列)的输入或输出数据束手无策。RNN通过采用具有记忆的隐含层单元解决了序列数据的训练问题。LSTM、GRU属于RNN的改进,解决了RNN中梯度消失爆炸的问题,属于序列数据训练的常用方案。
2017-05-09 20:40:50
2199
原创 无监督学习之RBM和AutoEncoder
有标签的数据固然好,可是一方面打标签的代价太高,另一方面大部分数据是无标签的。这样就涉及到无监督、半监督、Self-taught学习的问题。本文将介绍两种适用于无标签数据的学习方法,可以找到数据中的隐含模式,包括`RBM`和`AutoEncoder`。
2017-04-19 16:13:56
12216
1
原创 从马尔科夫链到吉布斯采样与PageRank
马尔科夫链表示state的链式关系,下一个state只跟上一个state有关。 吉布斯采样通过采样条件概率分布得到的样本点,近似估计概率分布P(z)P(z)。PageRank通过节点间的连接,估计节点的重要程度rr。吉布斯采样中,state代表不同的样本点,state的分布就是P(z)P(z)。PageRank中,state代表不同节点的分数,state的分布就是要求的rr。不论吉布斯采样还是Pa
2017-04-14 15:02:58
2033
原创 信息论中的各种熵
本文简单介绍了信息论中的各种熵,包括自信息、熵;联合熵、条件熵、互信息;KL散度、交叉熵。并在最后用信息论中的交叉熵推导了逻辑回归,得到了和最大似然法相同的结果。
2017-04-09 08:30:55
5273
原创 推荐算法简述
推荐算法分类非个性化推荐热门榜单最多观看热点检测:让全局优秀内容被大家看到数据:一段时间内的浏览量、点赞量、评论数、转发数时效:推荐需要考虑时间维度。因为有些内容已经热了很久了,可能因为马太效应(强者越强、弱者越弱),放到热门栏目继续推荐继续热不是我们先要的,所以要增加时间惩罚因子。新内容的发现:建立预测模型,通过内容的历史数据,预测未来的内容热度。个性化推荐基于内容的推荐算法原理:根
2017-03-02 21:34:39
1063
原创 贝叶斯方法与正则项
从贝叶斯角度,正则项等价于引入参数$w$的先验概率分布。常见的L1/L2正则,分别等价于引入先验信息:参数$w$符合均值为0的拉普拉斯分布/高斯分布。
2017-02-27 19:42:48
1157
原创 机器学习的损失函数
机器学习的数学本质上是优化问题的求解,求解优化问题首先得构造相应优化问题的损失函数,本文将简要介绍squared loss、cross entropy、hinge loss、exponential loss损失函数。
2017-02-27 11:10:55
2441
原创 曲线拟合的几种解释
曲线拟合是一个经典的问题,将其数学化后是:已知训练数据x\bf{x}和对应的目标值t\bf{t}。通过构建参数为w\bf{w}的模型,当新的xx出现,对应的tt是多少。本文将从误差和概率的角度探讨如何解决曲线拟合的问题,具体地,将阐述以下概念:误差函数正则化最大似然估计(MLE)最大后验估计(MAP)
2016-10-28 16:41:33
4069
原创 坦克问题的频率及贝叶斯解释
在统计学理论的估计中,用不放回抽样来估计离散型均匀分布最大值问题在英语世界中是著名的德国坦克问题(German tank problem),它因在第二次世界大战中用于估计德国坦克数量而得名。本文将从频率以及贝叶斯的角度探索坦克问题。
2016-09-19 17:17:34
2852
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人